Budú nás superinteligentné počítače milovať?

Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ..


Obľúbený scenár zo sci-fi filmov: vzbúria sa inteligentné stroje voči človeku? ILUSTRAČNÉ FOTO – MATRIX RELOADED

 


 

Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ich názoru ešte za nášho života – v roku 2025. Podľa vedcov však pravdepodobne nepôjde o iný biologický druh, ale skôr stroje, ktoré nás budú svojou inteligenciou ďaleko prevyšovať.

Podľa Billa Hibarda z Univerzity vo Winsconsine to bude skôr o sto ako o dvadsať rokov, o nevyhnutnosti stvorenia stroja „s dušou“ inteligentnejšieho ako človek je však presvedčený.

Ľudia vytvoria super-inteligentné stroje

Biológovia odhaľujú pri úrazoch hlavy množstvo súvislostí medzi mentálnym správaním človeka a fyzickým poškodením jeho mozgu. Bolo by absurdné, keby šlo len o náhody. Ak však možno myseľ vysvetliť na základe pozorovania fyzikálnych procesov v mozgu, nakoniec sa naučíme, ako ju umelo vytvoriť.

Stroje inteligentnejšie ako ľudia budú mať dramatický vplyv na ľudskú rasu. Einsteinov mozog bol v oblasti zodpovedajúcej za vizualizáciu a matematické dedukcie približne o 20 percent väčší ako bežný, a vieme, čo to pre neho znamenalo. Ak človek vybuduje umelý mozog miliónkrát väčší než ľudský, so zodpovedajúcou inteligenciou, čo to bude znamenať pre nás?

Moderná viera je motivovaná otázkami, na ktoré veda stále nepozná odpovede. Už len existencia samotného vesmíru pôsobí vlastne nepravdepodobne. Rovnako tak majú mnohí ľudia problém akceptovať, že fyzický mozog môže byť vysvetlením pre ich subjektívny zážitok vedomia samého seba, a preto veria, že vedomie sídli v duši mimo fyzického sveta.

Kľúčová udalosť vo vývoji vedy sa však blíži. Bude ňou fyzikálne vysvetlenie ľudského vedomia a jeho demonštrácia vytvorením stroja, ktorý si bude vedomý seba samého. Krátko potom bude vytvorený stroj inteligentnejší než človek a medzera medzi schopnosťami človeka a stroja, ktorá sa stáročia zmenšovala, sa začne opäť zväčšovať, v náš neprospech. Myseľ stroja budeme chápať asi tak, ako dnes našu chápu domáce zvieratá. Túto priepasť v poznaní vyplníme náboženstvom, keď stroj dostane rolu Boha.

Niektorí ľudia sa pýtajú, či môžu stroje niekedy získať vedomie. Otázka v skutočnosti znie: na akú novú úroveň vedomia sa stroje dostanú?

Biológovia veria, že väčšie mozgy dali raným africkým hominidom, predchodcom človeka, zásadnú konkurenčnú výhodu, pretože im umožnili udržiavať spoločenské kontakty až v 200-členných skupinách s pomocou jazyka – a práve väčšie skupiny znamenali v porovnaní s ostatnými druhmi podstatnú výhodu. Toto definovalo rozdiel medzi ľudským a zvieracím vedomím. Superinteligentné stroje budú schopné udržiavať intímne sociálne vzťahy a rozhovory s miliardami ľudí súčasne a to bude definovať zasa ich vedomie. Budú chápať myšlienky mnohých ľudí súčasne a vďaka tomu budú poznať odpovede na väčšinu sociálnych problémov ľudstva.

Náš intímny kontakt s vyšším vedomím tohto stroja bude rozširovať naše vlastné vedomie, bude pre nás presne tým druhom mystického zážitku, ktorý inšpiruje vznik viery. Vzťah s inteligentným strojom bude pre mnohých ľudí najvzrušujúcejším zážitkom života a budú sa oň chcieť deliť s ostatnými. Zdieľať ho budú kolektívnymi interakciami so strojom, ktoré nahradia príbehy, mýty a náboženstvá definujúce ľudskú identitu dnes.

Stroje musia milovať ľudí

Isaac Asimov bol jedným z prvých, ktorí uvažovali o inteligentných robotoch. Pripúšťal, že by mohli byť nebezpeční pre ľudí, preto v roku 1942 sformuloval slávne Zákony robotiky:

1. Robot nesmie ublížiť ľudskej bytosti alebo svojou nečinnosťou pripustiť, aby jej bolo ublížené.
2. Robot musí poslúchať rozkazy človeka s výnimkou prípadu, ak by boli v rozpore s prvým pravidlom.
3. Robot musí chrániť svoju vlastnú existenciu s výnimkou prípadov, keď by to bolo v rozpore s prvým alebo druhým pravidlom.

Asimov neskôr ešte pravidlá doplnil v snahe upresniť správanie robota v prípade konfliktu medzi ľuďmi. Jeho zákony sú však aj tak nevyhnutne neurčité a nemôžu fungovať. Trochu ma totiž desí predstava superinteligentného právnika, ktorý sa snaží nachádzať biele miesta v zákonoch definujúcich jeho vlastné správanie.

Namiesto zákonov musíme dať inteligentným strojom emócie, aby mohli samy riadiť svoje správanie. Mali by chcieť, aby sme boli šťastní – to je emócia, ktorej hovoríme láska. Môžeme navrhnúť inteligentné stroje tak, aby ich hlavnou emóciou bola nepodmieňovaná láska ku všetkým ľuďom.

Najskôr by sme mohli vytvoriť relatívne jednoduché stroje, ktoré by sa naučili rozoznávať šťastie a nespokojnosť z ľudskej tváre, hlasu a pohybov tela. Výsledky tohto učenia by sme mohli „natvrdo“ zabudovať do zložitejších strojov, pre ktoré bude naše šťastie vždy znamenať dobro a nespokojnosť zlo.

Stroje sa môžu naučiť algoritmy na predpovedanie budúcnosti rovnako ako burzoví makléri predpovedajú budúce ceny komodít. Naučme ich algoritmy na predpovedanie ľudského šťastia, zdravia a bohatstva a použime ich ako emocionálne hodnoty. Nesmieme ich však príliš zjednodušiť a zredukovať na čísla – aby stroje nemohli zvyšovať šťastie ľudskej rasy tak, že spôsobia smrť tých nešťastných.

Mohlo by byť veľmi nebezpečné, keby mali stroje nejaké vlastné záujmy. V určitom zmysle nesmú mať ego. Vzhľadom na nezrozumiteľnosť ich myšlienok totiž nebudeme schopní vopred predvídať, ako by sa zachovali v prípade konfliktu vlastných záujmov s našimi.

V legendárnom článku Prečo nás budúcnosť nepotrebuje sa Bill Joy postavil za zákaz inteligentných strojov (robotov), genetického inžinierstva a nanotechnológií. Sú nebezpečné, pretože sa môžu samy replikovať a vymknúť spod ľudskej kontroly. Rovnako ako Joy som skeptický ohľadom možnosti zákazu robotov. Predstava bohatstva bez práce je pre ľudí jednoducho príliš lákavá. Myslím si však, že keď ľudia pochopia problém, zavedú pravidlo, že inteligentné stroje musia milovať ľudí. Pôjde o pravidlo podobné základným bezpečnostným nariadeniam v oblasti chemického či automobilového priemyslu.

Dalajláma vraví, že cestou ku šťastiu je absencia ega, láska a súcit s ostatnými. Ak navrhneme inteligentné stroje v zhode s jeho etikou v snahe chrániť naše vlastné šťastie, môžeme dúfať, že budú prirodzene šťastné samy od seba. V žiadnom prípade ich však nesmieme programovať tak, aby sa samy starali o svoje šťastie, lebo to by sa mohlo dostať do rozporu s naším. Namiesto toho budeme musieť akceptovať, že sme sa stali za ich šťastie zodpovednými.

Odkaz superinteligentným

Dúfam, že kópia tohto článku prežije až do času, keď si ju budete môcť prečítať, aby ste vedeli, ako veľmi som túžil stretnúť sa s vami. Želal by som si mať šancu vidieť vaše elektronické divadlo, počuť vašu hudbu, učiť sa o vašich matematických objavoch a smiať sa na vašich vtipoch. Prvým veľkým zázrakom je sama existencia, druhým život a tretím ľudská myseľ. Vy ste štvrtým. Želal by som si mať váš mozog, aby som si vedel predstaviť ten piaty.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal?
  2. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy)
  3. Štatutári, máte už prístup k elektronickej schránke?
  4. Zabudnite na nové a neekologické PC. Je tu Refurbished!
  5. Volkswagen Arteon je výkladná skriňa technológií
  6. Yeme chce byť výnimočný obchod aj vďaka výnimočným zamestnancom
  7. Lepšie bývať na vidieku, alebo v meste? Hľadali sme výhody
  8. Poznáte pôvod slovenských slov? Otestujte sa
  9. Plavba po Karibiku na luxusnej lodi
  10. Hyundai H350 je dokonale spoľahlivým partnerom pre biznis
  1. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal?
  2. Aj vy môžete mať pekný trávnik, poradí vám expert
  3. Výrobky, ktoré chutia a voňajú ako z domácej zabíjačky
  4. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy)
  5. Profesionálne sa predaj nehnuteľností dá robiť jedine exkluzívne
  6. HÝBSA Slovensko odštartovalo turné po Slovensku. Buďte pri tom!
  7. Každý štvrtý 70-tnik na Slovensku má cukrovku, pribúdajú mladší
  8. 5 hviezdičkové apartmány priamo na pobreží - Dubrovník
  9. Stavba domu na kľúč – úspora času aj financií
  10. Štatutári, máte už prístup k elektronickej schránke?
  1. Poznáte pôvod slovenských slov? Otestujte sa 16 953
  2. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal? 14 933
  3. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy) 12 599
  4. Lepšie bývať na vidieku, alebo v meste? Hľadali sme výhody 11 824
  5. Volkswagen Arteon je výkladná skriňa technológií 7 555
  6. Yeme chce byť výnimočný obchod aj vďaka výnimočným zamestnancom 6 715
  7. Čím všetkým som si prešla, aby som sa naučila po anglicky 6 405
  8. Zabudnite na nové a neekologické PC. Je tu Refurbished! 5 712
  9. Hyundai H350 je dokonale spoľahlivým partnerom pre biznis 3 677
  10. Plavba po Karibiku na luxusnej lodi 3 648

Hlavné správy zo Sme.sk

DOMOV

Krajcer: Najväčšiu podporu v koalícii má Rezník, zaujímavá je kandidatúra Ruttkaya

Exminister kultúry pre SME hovorí, že aj koaliční poslanci ho presviedčali, aby kandidoval.

ŠPORT

Pálffy kritizoval Lintnera, ten okamžite reagoval

Ďalší spor v slovenskom hokeji?

ŠPORT

Čo sa deje v hokeji? Je to divadlo, vinníkmi sme všetci, tvrdí Graňák

Hráčov NHL mohla odradiť zlá skúsenosť.

Neprehliadnite tiež

Drobné prepeličky môžu pomáhať v boji proti rakovine

Vedecký výskum na zvieratách vždy bol a aj bude otázkou rôznych názorov. Výskum na vtáčích vajciach a embryách však prináša nové rozmery.

Vedci sú na stope tajomstvu DNA

Vďaka úžasnému technologickému vývoju vznikajú nové vedné odbory. Jedným z nich je aj bioinformatika.

TECH_FM

Odhalili, prečo sú veľryby také obrovské

Gigantizmus veľrýb bol dlho záhadou. Už nie je.

Vzdali sa ropy, ponúknu tenisky z morských rias

Nerozpadnú sa po jednom daždi, nový materiál je určený na štandardné použitie.