Isaac Asimov uviedol už v roku 1942 tri zákony, ktorými by sa mali riadiť roboty…

Ľudí desí predstava, že by sme prestali byť na vrchole potravinového reťazca a vytvorili by sme niečo, čo by nad nami malo moc. Takéto obavy sú na jednej strane logické a oprávnené, no naše správanie už tak logické nie je.

Ak sa tak veľmi bojíme, že vytvoríme niečo, čo nás bude schopné ovládať alebo zabiť, prečo sa vyvíjajú moderné vojenské roboty, ktoré toto všetko dokážu? A čo ak sa umelá inteligencia dostane časom na takú úroveň, že si dokáže uvedomiť samú seba?

Existujú tri základné zákony robotiky, ktoré Isaac Asimov uviedol už v roku 1942 v poviedke Runaround:
1, Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
2, Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
3, Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Napriek existencii týchto zákonov na papieri, nie je vylúčené, že sa začne umelá inteligencia správať podľa seba a mohla by tým ohroziť aj ľudstvo. Na takéto scenáre poukazujú najväčšie mozgy našej planéty, zakladateľ Tesla Motors, Elon Musk alebo astrofyzik Stephen Hawking. Možnú nebezpečnú situáciu pripisujú filmovej ságe Terminátor, kedy sa obranný systém Skynet doslova vzbúri proti svojim stvoriteľom. A v časoch existencie cloudu a internetu nemusia predstavovať problém iba roboty.

t_800_terminator_genisys-wideimg: http://www.hdwallpapers.in/

Google ako jeden z kľúčových hráčov na poli vývoja umelej inteligencie (získal firmu Deep Mind, ktorá sa zaoberá jej vývojom) si je takejto hrozby vedomý a snaží sa jej predchádzať, kedy by bol do vnútra UI inštalovaný akýsi núdzový vypínač (kill switch), ktorý by v prípade aktivácie odpojil kybernetický mozog.
Odborníci z Deep Mind navyše vyvíjajú softvér, ktorý má priamo blokovať samoučiace schopnosti umelej inteligencie, ale nie sú presvedčení o stopercentom pokrytí všetkej UI a vypínač (kill switch) by tak mal byť finálnym riešením situácie, ak by niečo zlyhalo.

Opatrnosti nikdy nie je dosť a zvlášť v prípade umelej inteligencie , kedy sa robotika neustále zdokonaľuje a tým sa zväčšuje aj potenciálne riziko.

.src

Vaše komentáre sú vítané

Add Comment