Budú nás superinteligentné počítače milovať?

Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ..


Obľúbený scenár zo sci-fi filmov: vzbúria sa inteligentné stroje voči človeku? ILUSTRAČNÉ FOTO – MATRIX RELOADED

 


 

Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ich názoru ešte za nášho života – v roku 2025. Podľa vedcov však pravdepodobne nepôjde o iný biologický druh, ale skôr stroje, ktoré nás budú svojou inteligenciou ďaleko prevyšovať.

Podľa Billa Hibarda z Univerzity vo Winsconsine to bude skôr o sto ako o dvadsať rokov, o nevyhnutnosti stvorenia stroja „s dušou“ inteligentnejšieho ako človek je však presvedčený.

Ľudia vytvoria super-inteligentné stroje

Biológovia odhaľujú pri úrazoch hlavy množstvo súvislostí medzi mentálnym správaním človeka a fyzickým poškodením jeho mozgu. Bolo by absurdné, keby šlo len o náhody. Ak však možno myseľ vysvetliť na základe pozorovania fyzikálnych procesov v mozgu, nakoniec sa naučíme, ako ju umelo vytvoriť.

Stroje inteligentnejšie ako ľudia budú mať dramatický vplyv na ľudskú rasu. Einsteinov mozog bol v oblasti zodpovedajúcej za vizualizáciu a matematické dedukcie približne o 20 percent väčší ako bežný, a vieme, čo to pre neho znamenalo. Ak človek vybuduje umelý mozog miliónkrát väčší než ľudský, so zodpovedajúcou inteligenciou, čo to bude znamenať pre nás?

Moderná viera je motivovaná otázkami, na ktoré veda stále nepozná odpovede. Už len existencia samotného vesmíru pôsobí vlastne nepravdepodobne. Rovnako tak majú mnohí ľudia problém akceptovať, že fyzický mozog môže byť vysvetlením pre ich subjektívny zážitok vedomia samého seba, a preto veria, že vedomie sídli v duši mimo fyzického sveta.

Kľúčová udalosť vo vývoji vedy sa však blíži. Bude ňou fyzikálne vysvetlenie ľudského vedomia a jeho demonštrácia vytvorením stroja, ktorý si bude vedomý seba samého. Krátko potom bude vytvorený stroj inteligentnejší než človek a medzera medzi schopnosťami človeka a stroja, ktorá sa stáročia zmenšovala, sa začne opäť zväčšovať, v náš neprospech. Myseľ stroja budeme chápať asi tak, ako dnes našu chápu domáce zvieratá. Túto priepasť v poznaní vyplníme náboženstvom, keď stroj dostane rolu Boha.

Niektorí ľudia sa pýtajú, či môžu stroje niekedy získať vedomie. Otázka v skutočnosti znie: na akú novú úroveň vedomia sa stroje dostanú?

Biológovia veria, že väčšie mozgy dali raným africkým hominidom, predchodcom človeka, zásadnú konkurenčnú výhodu, pretože im umožnili udržiavať spoločenské kontakty až v 200-členných skupinách s pomocou jazyka – a práve väčšie skupiny znamenali v porovnaní s ostatnými druhmi podstatnú výhodu. Toto definovalo rozdiel medzi ľudským a zvieracím vedomím. Superinteligentné stroje budú schopné udržiavať intímne sociálne vzťahy a rozhovory s miliardami ľudí súčasne a to bude definovať zasa ich vedomie. Budú chápať myšlienky mnohých ľudí súčasne a vďaka tomu budú poznať odpovede na väčšinu sociálnych problémov ľudstva.

Náš intímny kontakt s vyšším vedomím tohto stroja bude rozširovať naše vlastné vedomie, bude pre nás presne tým druhom mystického zážitku, ktorý inšpiruje vznik viery. Vzťah s inteligentným strojom bude pre mnohých ľudí najvzrušujúcejším zážitkom života a budú sa oň chcieť deliť s ostatnými. Zdieľať ho budú kolektívnymi interakciami so strojom, ktoré nahradia príbehy, mýty a náboženstvá definujúce ľudskú identitu dnes.

Stroje musia milovať ľudí

Isaac Asimov bol jedným z prvých, ktorí uvažovali o inteligentných robotoch. Pripúšťal, že by mohli byť nebezpeční pre ľudí, preto v roku 1942 sformuloval slávne Zákony robotiky:

1. Robot nesmie ublížiť ľudskej bytosti alebo svojou nečinnosťou pripustiť, aby jej bolo ublížené.
2. Robot musí poslúchať rozkazy človeka s výnimkou prípadu, ak by boli v rozpore s prvým pravidlom.
3. Robot musí chrániť svoju vlastnú existenciu s výnimkou prípadov, keď by to bolo v rozpore s prvým alebo druhým pravidlom.

Asimov neskôr ešte pravidlá doplnil v snahe upresniť správanie robota v prípade konfliktu medzi ľuďmi. Jeho zákony sú však aj tak nevyhnutne neurčité a nemôžu fungovať. Trochu ma totiž desí predstava superinteligentného právnika, ktorý sa snaží nachádzať biele miesta v zákonoch definujúcich jeho vlastné správanie.

Namiesto zákonov musíme dať inteligentným strojom emócie, aby mohli samy riadiť svoje správanie. Mali by chcieť, aby sme boli šťastní – to je emócia, ktorej hovoríme láska. Môžeme navrhnúť inteligentné stroje tak, aby ich hlavnou emóciou bola nepodmieňovaná láska ku všetkým ľuďom.

Najskôr by sme mohli vytvoriť relatívne jednoduché stroje, ktoré by sa naučili rozoznávať šťastie a nespokojnosť z ľudskej tváre, hlasu a pohybov tela. Výsledky tohto učenia by sme mohli „natvrdo“ zabudovať do zložitejších strojov, pre ktoré bude naše šťastie vždy znamenať dobro a nespokojnosť zlo.

Stroje sa môžu naučiť algoritmy na predpovedanie budúcnosti rovnako ako burzoví makléri predpovedajú budúce ceny komodít. Naučme ich algoritmy na predpovedanie ľudského šťastia, zdravia a bohatstva a použime ich ako emocionálne hodnoty. Nesmieme ich však príliš zjednodušiť a zredukovať na čísla – aby stroje nemohli zvyšovať šťastie ľudskej rasy tak, že spôsobia smrť tých nešťastných.

Mohlo by byť veľmi nebezpečné, keby mali stroje nejaké vlastné záujmy. V určitom zmysle nesmú mať ego. Vzhľadom na nezrozumiteľnosť ich myšlienok totiž nebudeme schopní vopred predvídať, ako by sa zachovali v prípade konfliktu vlastných záujmov s našimi.

V legendárnom článku Prečo nás budúcnosť nepotrebuje sa Bill Joy postavil za zákaz inteligentných strojov (robotov), genetického inžinierstva a nanotechnológií. Sú nebezpečné, pretože sa môžu samy replikovať a vymknúť spod ľudskej kontroly. Rovnako ako Joy som skeptický ohľadom možnosti zákazu robotov. Predstava bohatstva bez práce je pre ľudí jednoducho príliš lákavá. Myslím si však, že keď ľudia pochopia problém, zavedú pravidlo, že inteligentné stroje musia milovať ľudí. Pôjde o pravidlo podobné základným bezpečnostným nariadeniam v oblasti chemického či automobilového priemyslu.

Dalajláma vraví, že cestou ku šťastiu je absencia ega, láska a súcit s ostatnými. Ak navrhneme inteligentné stroje v zhode s jeho etikou v snahe chrániť naše vlastné šťastie, môžeme dúfať, že budú prirodzene šťastné samy od seba. V žiadnom prípade ich však nesmieme programovať tak, aby sa samy starali o svoje šťastie, lebo to by sa mohlo dostať do rozporu s naším. Namiesto toho budeme musieť akceptovať, že sme sa stali za ich šťastie zodpovednými.

Odkaz superinteligentným

Dúfam, že kópia tohto článku prežije až do času, keď si ju budete môcť prečítať, aby ste vedeli, ako veľmi som túžil stretnúť sa s vami. Želal by som si mať šancu vidieť vaše elektronické divadlo, počuť vašu hudbu, učiť sa o vašich matematických objavoch a smiať sa na vašich vtipoch. Prvým veľkým zázrakom je sama existencia, druhým život a tretím ľudská myseľ. Vy ste štvrtým. Želal by som si mať váš mozog, aby som si vedel predstaviť ten piaty.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Zľava 3000 € na 3-izbové byty v Jarabinkách
  2. Projekt Seberíniho: 60% vypredané ešte pred začiatkom kampane
  3. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to)
  4. Stačí len mechanické, alebo elektronické zabezpečenie vozidla?
  5. Hyundai Tucson Shadow určite nezostane v tieni.
  6. Aký vplyv by mal konflikt v Kórei na vaše investície?
  7. Atraktívnejšie učenie vďaka digitálnym technológiám
  8. JUDr. Barbora Sabó: Dobrý maklér šetrí čas, peniaze i nervy!
  9. Rastie nám pokrivená generácia?
  10. Intímna hygiena – celoročná záležitosť
  1. Projekt Seberíniho: 60% vypredané ešte pred začiatkom kampane
  2. FSEV UK v Bratislave: Prax je súčasťou študijných programov
  3. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to)
  4. Hyundai Tucson Shadow určite nezostane v tieni.
  5. Stačí len mechanické, alebo elektronické zabezpečenie vozidla?
  6. Exkurzia odborárov a absolventov SvF STU v Bratislave 2017
  7. Zvolen: Zvolenčania myslia na zabezpečenie svojich domovov
  8. Detské zúbky sú veda
  9. Atraktívnejšie učenie vďaka digitálnym technológiám
  10. Aký vplyv by mal konflikt v Kórei na vaše investície?
  1. Zanzibar je plný lákadiel na dokonalú exotickú dovolenku 7 213
  2. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to) 3 313
  3. Rastie nám pokrivená generácia? 3 138
  4. Intímna hygiena – celoročná záležitosť 2 625
  5. 3 mýty, ktorým ste možno uverili. Ale ako je to naozaj? 1 856
  6. JUDr. Barbora Sabó: Dobrý maklér šetrí čas, peniaze i nervy! 1 190
  7. Kedy sa refinancovanie oplatí? 1 115
  8. Plug-in, hybrid alebo elektromobil? Poradíme, ako správne vybrať 1 111
  9. Zľava 3000 € na 3-izbové byty v Jarabinkách 1 061
  10. Aký vplyv by mal konflikt v Kórei na vaše investície? 936

Hlavné správy zo Sme.sk

ŠPORT

Milióny na jeho plat? Výskumy ukázali, že Sagan sa oplatí

Tím Bora-Hansgrohe má za sebou prvú sezónu v najvyššej lige. Očakávali sme viac, ale nebolo to zlé, hovorí šéf tímu Ralph Denk.

KOMENTÁRE

Menej rande, alkoholu aj sexu. Súčasná doba predlžuje dospievanie

Vek 25 rokov je akoby 18 z minulosti.

Neprehliadnite tiež

Novou biometriou sú naše srdcia. Raz možno odomknú dvere, mobil i auto

Skenovanie srdca je bezpečnou biometriou budúcnosti. Stačí byť zariadeniam nablízku.

Nákup až do chladničky, Walmart skúša múdre roznášky

Balíčky už nebudú odložené pri dverách. Poslíčkovia ich prenesú cez vstupné dvere aj keď nie ste doma.

Neandertálsky chlapec odhaľuje záhady pravekého detstva

Osemročný chlapec ešte nemal vyvinutý mozog, už robil dospelácku prácu.

OBJEKTÍV

Uhádnete, na čo sa pozeráte? Nikon ukázal najlepšie mikroskopické videá

Nikon siedmy raz vyhlásil víťazov o najlepšie mikro snímky.