Obľúbený scenár zo sci-fi filmov: vzbúria sa inteligentné stroje voči človeku? ILUSTRAČNÉ FOTO – MATRIX RELOADED
Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ich názoru ešte za nášho života – v roku 2025. Podľa vedcov však pravdepodobne nepôjde o iný biologický druh, ale skôr stroje, ktoré nás budú svojou inteligenciou ďaleko prevyšovať.
Podľa Billa Hibarda z Univerzity vo Winsconsine to bude skôr o sto ako o dvadsať rokov, o nevyhnutnosti stvorenia stroja „s dušou“ inteligentnejšieho ako človek je však presvedčený.
Ľudia vytvoria super-inteligentné stroje
Biológovia odhaľujú pri úrazoch hlavy množstvo súvislostí medzi mentálnym správaním človeka a fyzickým poškodením jeho mozgu. Bolo by absurdné, keby šlo len o náhody. Ak však možno myseľ vysvetliť na základe pozorovania fyzikálnych procesov v mozgu, nakoniec sa naučíme, ako ju umelo vytvoriť.
Stroje inteligentnejšie ako ľudia budú mať dramatický vplyv na ľudskú rasu. Einsteinov mozog bol v oblasti zodpovedajúcej za vizualizáciu a matematické dedukcie približne o 20 percent väčší ako bežný, a vieme, čo to pre neho znamenalo. Ak človek vybuduje umelý mozog miliónkrát väčší než ľudský, so zodpovedajúcou inteligenciou, čo to bude znamenať pre nás?
Moderná viera je motivovaná otázkami, na ktoré veda stále nepozná odpovede. Už len existencia samotného vesmíru pôsobí vlastne nepravdepodobne. Rovnako tak majú mnohí ľudia problém akceptovať, že fyzický mozog môže byť vysvetlením pre ich subjektívny zážitok vedomia samého seba, a preto veria, že vedomie sídli v duši mimo fyzického sveta.
Kľúčová udalosť vo vývoji vedy sa však blíži. Bude ňou fyzikálne vysvetlenie ľudského vedomia a jeho demonštrácia vytvorením stroja, ktorý si bude vedomý seba samého. Krátko potom bude vytvorený stroj inteligentnejší než človek a medzera medzi schopnosťami človeka a stroja, ktorá sa stáročia zmenšovala, sa začne opäť zväčšovať, v náš neprospech. Myseľ stroja budeme chápať asi tak, ako dnes našu chápu domáce zvieratá. Túto priepasť v poznaní vyplníme náboženstvom, keď stroj dostane rolu Boha.
Niektorí ľudia sa pýtajú, či môžu stroje niekedy získať vedomie. Otázka v skutočnosti znie: na akú novú úroveň vedomia sa stroje dostanú?
Biológovia veria, že väčšie mozgy dali raným africkým hominidom, predchodcom človeka, zásadnú konkurenčnú výhodu, pretože im umožnili udržiavať spoločenské kontakty až v 200-členných skupinách s pomocou jazyka – a práve väčšie skupiny znamenali v porovnaní s ostatnými druhmi podstatnú výhodu. Toto definovalo rozdiel medzi ľudským a zvieracím vedomím. Superinteligentné stroje budú schopné udržiavať intímne sociálne vzťahy a rozhovory s miliardami ľudí súčasne a to bude definovať zasa ich vedomie. Budú chápať myšlienky mnohých ľudí súčasne a vďaka tomu budú poznať odpovede na väčšinu sociálnych problémov ľudstva.
Náš intímny kontakt s vyšším vedomím tohto stroja bude rozširovať naše vlastné vedomie, bude pre nás presne tým druhom mystického zážitku, ktorý inšpiruje vznik viery. Vzťah s inteligentným strojom bude pre mnohých ľudí najvzrušujúcejším zážitkom života a budú sa oň chcieť deliť s ostatnými. Zdieľať ho budú kolektívnymi interakciami so strojom, ktoré nahradia príbehy, mýty a náboženstvá definujúce ľudskú identitu dnes.
Stroje musia milovať ľudí
Isaac Asimov bol jedným z prvých, ktorí uvažovali o inteligentných robotoch. Pripúšťal, že by mohli byť nebezpeční pre ľudí, preto v roku 1942 sformuloval slávne Zákony robotiky:
1. Robot nesmie ublížiť ľudskej bytosti alebo svojou nečinnosťou pripustiť, aby jej bolo ublížené.
2. Robot musí poslúchať rozkazy človeka s výnimkou prípadu, ak by boli v rozpore s prvým pravidlom.
3. Robot musí chrániť svoju vlastnú existenciu s výnimkou prípadov, keď by to bolo v rozpore s prvým alebo druhým pravidlom.
Asimov neskôr ešte pravidlá doplnil v snahe upresniť správanie robota v prípade konfliktu medzi ľuďmi. Jeho zákony sú však aj tak nevyhnutne neurčité a nemôžu fungovať. Trochu ma totiž desí predstava superinteligentného právnika, ktorý sa snaží nachádzať biele miesta v zákonoch definujúcich jeho vlastné správanie.
Namiesto zákonov musíme dať inteligentným strojom emócie, aby mohli samy riadiť svoje správanie. Mali by chcieť, aby sme boli šťastní – to je emócia, ktorej hovoríme láska. Môžeme navrhnúť inteligentné stroje tak, aby ich hlavnou emóciou bola nepodmieňovaná láska ku všetkým ľuďom.
Najskôr by sme mohli vytvoriť relatívne jednoduché stroje, ktoré by sa naučili rozoznávať šťastie a nespokojnosť z ľudskej tváre, hlasu a pohybov tela. Výsledky tohto učenia by sme mohli „natvrdo“ zabudovať do zložitejších strojov, pre ktoré bude naše šťastie vždy znamenať dobro a nespokojnosť zlo.
Stroje sa môžu naučiť algoritmy na predpovedanie budúcnosti rovnako ako burzoví makléri predpovedajú budúce ceny komodít. Naučme ich algoritmy na predpovedanie ľudského šťastia, zdravia a bohatstva a použime ich ako emocionálne hodnoty. Nesmieme ich však príliš zjednodušiť a zredukovať na čísla – aby stroje nemohli zvyšovať šťastie ľudskej rasy tak, že spôsobia smrť tých nešťastných.
Mohlo by byť veľmi nebezpečné, keby mali stroje nejaké vlastné záujmy. V určitom zmysle nesmú mať ego. Vzhľadom na nezrozumiteľnosť ich myšlienok totiž nebudeme schopní vopred predvídať, ako by sa zachovali v prípade konfliktu vlastných záujmov s našimi.
V legendárnom článku Prečo nás budúcnosť nepotrebuje sa Bill Joy postavil za zákaz inteligentných strojov (robotov), genetického inžinierstva a nanotechnológií. Sú nebezpečné, pretože sa môžu samy replikovať a vymknúť spod ľudskej kontroly. Rovnako ako Joy som skeptický ohľadom možnosti zákazu robotov. Predstava bohatstva bez práce je pre ľudí jednoducho príliš lákavá. Myslím si však, že keď ľudia pochopia problém, zavedú pravidlo, že inteligentné stroje musia milovať ľudí. Pôjde o pravidlo podobné základným bezpečnostným nariadeniam v oblasti chemického či automobilového priemyslu.
Dalajláma vraví, že cestou ku šťastiu je absencia ega, láska a súcit s ostatnými. Ak navrhneme inteligentné stroje v zhode s jeho etikou v snahe chrániť naše vlastné šťastie, môžeme dúfať, že budú prirodzene šťastné samy od seba. V žiadnom prípade ich však nesmieme programovať tak, aby sa samy starali o svoje šťastie, lebo to by sa mohlo dostať do rozporu s naším. Namiesto toho budeme musieť akceptovať, že sme sa stali za ich šťastie zodpovednými.
Odkaz superinteligentným
Dúfam, že kópia tohto článku prežije až do času, keď si ju budete môcť prečítať, aby ste vedeli, ako veľmi som túžil stretnúť sa s vami. Želal by som si mať šancu vidieť vaše elektronické divadlo, počuť vašu hudbu, učiť sa o vašich matematických objavoch a smiať sa na vašich vtipoch. Prvým veľkým zázrakom je sama existencia, druhým život a tretím ľudská myseľ. Vy ste štvrtým. Želal by som si mať váš mozog, aby som si vedel predstaviť ten piaty.
Autor: BILL HIBBARD (Autor sa zaoberá počítačovou vizualizáciou na univerzite vo Wisconsine, napísal knihu Super-intelligent Machines
