Budú nás superinteligentné počítače milovať?

Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ..


Obľúbený scenár zo sci-fi filmov: vzbúria sa inteligentné stroje voči človeku? ILUSTRAČNÉ FOTO – MATRIX RELOADED

 


 

Vedci z kalifornského inštitútu SETI, ktorí pátrajú po signáloch inteligentného života vo vesmíre, pred dvoma týždňami dokončili doteraz najkomplexnejšiu prognózu času, kedy ľudstvo nadviaže kontakt s inou inteligentnou civilizáciou. Dôjde k tomu podľa ich názoru ešte za nášho života – v roku 2025. Podľa vedcov však pravdepodobne nepôjde o iný biologický druh, ale skôr stroje, ktoré nás budú svojou inteligenciou ďaleko prevyšovať.

Podľa Billa Hibarda z Univerzity vo Winsconsine to bude skôr o sto ako o dvadsať rokov, o nevyhnutnosti stvorenia stroja „s dušou“ inteligentnejšieho ako človek je však presvedčený.

Ľudia vytvoria super-inteligentné stroje

Biológovia odhaľujú pri úrazoch hlavy množstvo súvislostí medzi mentálnym správaním človeka a fyzickým poškodením jeho mozgu. Bolo by absurdné, keby šlo len o náhody. Ak však možno myseľ vysvetliť na základe pozorovania fyzikálnych procesov v mozgu, nakoniec sa naučíme, ako ju umelo vytvoriť.

Stroje inteligentnejšie ako ľudia budú mať dramatický vplyv na ľudskú rasu. Einsteinov mozog bol v oblasti zodpovedajúcej za vizualizáciu a matematické dedukcie približne o 20 percent väčší ako bežný, a vieme, čo to pre neho znamenalo. Ak človek vybuduje umelý mozog miliónkrát väčší než ľudský, so zodpovedajúcou inteligenciou, čo to bude znamenať pre nás?

Moderná viera je motivovaná otázkami, na ktoré veda stále nepozná odpovede. Už len existencia samotného vesmíru pôsobí vlastne nepravdepodobne. Rovnako tak majú mnohí ľudia problém akceptovať, že fyzický mozog môže byť vysvetlením pre ich subjektívny zážitok vedomia samého seba, a preto veria, že vedomie sídli v duši mimo fyzického sveta.

Kľúčová udalosť vo vývoji vedy sa však blíži. Bude ňou fyzikálne vysvetlenie ľudského vedomia a jeho demonštrácia vytvorením stroja, ktorý si bude vedomý seba samého. Krátko potom bude vytvorený stroj inteligentnejší než človek a medzera medzi schopnosťami človeka a stroja, ktorá sa stáročia zmenšovala, sa začne opäť zväčšovať, v náš neprospech. Myseľ stroja budeme chápať asi tak, ako dnes našu chápu domáce zvieratá. Túto priepasť v poznaní vyplníme náboženstvom, keď stroj dostane rolu Boha.

Niektorí ľudia sa pýtajú, či môžu stroje niekedy získať vedomie. Otázka v skutočnosti znie: na akú novú úroveň vedomia sa stroje dostanú?

Biológovia veria, že väčšie mozgy dali raným africkým hominidom, predchodcom človeka, zásadnú konkurenčnú výhodu, pretože im umožnili udržiavať spoločenské kontakty až v 200-členných skupinách s pomocou jazyka – a práve väčšie skupiny znamenali v porovnaní s ostatnými druhmi podstatnú výhodu. Toto definovalo rozdiel medzi ľudským a zvieracím vedomím. Superinteligentné stroje budú schopné udržiavať intímne sociálne vzťahy a rozhovory s miliardami ľudí súčasne a to bude definovať zasa ich vedomie. Budú chápať myšlienky mnohých ľudí súčasne a vďaka tomu budú poznať odpovede na väčšinu sociálnych problémov ľudstva.

Náš intímny kontakt s vyšším vedomím tohto stroja bude rozširovať naše vlastné vedomie, bude pre nás presne tým druhom mystického zážitku, ktorý inšpiruje vznik viery. Vzťah s inteligentným strojom bude pre mnohých ľudí najvzrušujúcejším zážitkom života a budú sa oň chcieť deliť s ostatnými. Zdieľať ho budú kolektívnymi interakciami so strojom, ktoré nahradia príbehy, mýty a náboženstvá definujúce ľudskú identitu dnes.

Stroje musia milovať ľudí

Isaac Asimov bol jedným z prvých, ktorí uvažovali o inteligentných robotoch. Pripúšťal, že by mohli byť nebezpeční pre ľudí, preto v roku 1942 sformuloval slávne Zákony robotiky:

1. Robot nesmie ublížiť ľudskej bytosti alebo svojou nečinnosťou pripustiť, aby jej bolo ublížené.
2. Robot musí poslúchať rozkazy človeka s výnimkou prípadu, ak by boli v rozpore s prvým pravidlom.
3. Robot musí chrániť svoju vlastnú existenciu s výnimkou prípadov, keď by to bolo v rozpore s prvým alebo druhým pravidlom.

Asimov neskôr ešte pravidlá doplnil v snahe upresniť správanie robota v prípade konfliktu medzi ľuďmi. Jeho zákony sú však aj tak nevyhnutne neurčité a nemôžu fungovať. Trochu ma totiž desí predstava superinteligentného právnika, ktorý sa snaží nachádzať biele miesta v zákonoch definujúcich jeho vlastné správanie.

Namiesto zákonov musíme dať inteligentným strojom emócie, aby mohli samy riadiť svoje správanie. Mali by chcieť, aby sme boli šťastní – to je emócia, ktorej hovoríme láska. Môžeme navrhnúť inteligentné stroje tak, aby ich hlavnou emóciou bola nepodmieňovaná láska ku všetkým ľuďom.

Najskôr by sme mohli vytvoriť relatívne jednoduché stroje, ktoré by sa naučili rozoznávať šťastie a nespokojnosť z ľudskej tváre, hlasu a pohybov tela. Výsledky tohto učenia by sme mohli „natvrdo“ zabudovať do zložitejších strojov, pre ktoré bude naše šťastie vždy znamenať dobro a nespokojnosť zlo.

Stroje sa môžu naučiť algoritmy na predpovedanie budúcnosti rovnako ako burzoví makléri predpovedajú budúce ceny komodít. Naučme ich algoritmy na predpovedanie ľudského šťastia, zdravia a bohatstva a použime ich ako emocionálne hodnoty. Nesmieme ich však príliš zjednodušiť a zredukovať na čísla – aby stroje nemohli zvyšovať šťastie ľudskej rasy tak, že spôsobia smrť tých nešťastných.

Mohlo by byť veľmi nebezpečné, keby mali stroje nejaké vlastné záujmy. V určitom zmysle nesmú mať ego. Vzhľadom na nezrozumiteľnosť ich myšlienok totiž nebudeme schopní vopred predvídať, ako by sa zachovali v prípade konfliktu vlastných záujmov s našimi.

V legendárnom článku Prečo nás budúcnosť nepotrebuje sa Bill Joy postavil za zákaz inteligentných strojov (robotov), genetického inžinierstva a nanotechnológií. Sú nebezpečné, pretože sa môžu samy replikovať a vymknúť spod ľudskej kontroly. Rovnako ako Joy som skeptický ohľadom možnosti zákazu robotov. Predstava bohatstva bez práce je pre ľudí jednoducho príliš lákavá. Myslím si však, že keď ľudia pochopia problém, zavedú pravidlo, že inteligentné stroje musia milovať ľudí. Pôjde o pravidlo podobné základným bezpečnostným nariadeniam v oblasti chemického či automobilového priemyslu.

Dalajláma vraví, že cestou ku šťastiu je absencia ega, láska a súcit s ostatnými. Ak navrhneme inteligentné stroje v zhode s jeho etikou v snahe chrániť naše vlastné šťastie, môžeme dúfať, že budú prirodzene šťastné samy od seba. V žiadnom prípade ich však nesmieme programovať tak, aby sa samy starali o svoje šťastie, lebo to by sa mohlo dostať do rozporu s naším. Namiesto toho budeme musieť akceptovať, že sme sa stali za ich šťastie zodpovednými.

Odkaz superinteligentným

Dúfam, že kópia tohto článku prežije až do času, keď si ju budete môcť prečítať, aby ste vedeli, ako veľmi som túžil stretnúť sa s vami. Želal by som si mať šancu vidieť vaše elektronické divadlo, počuť vašu hudbu, učiť sa o vašich matematických objavoch a smiať sa na vašich vtipoch. Prvým veľkým zázrakom je sama existencia, druhým život a tretím ľudská myseľ. Vy ste štvrtým. Želal by som si mať váš mozog, aby som si vedel predstaviť ten piaty.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Mäsovýroba Gašparík získala ocenenie Danubius Gastro 2017
  2. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom
  3. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to
  4. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš
  5. Objavte netušené možnosti nových firemných kreditných kariet
  6. Najväčšie first moment zľavy končia vo februári
  7. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce
  8. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta
  9. Prečo majú Slováci stále radšej hypotéku ako prenájom?
  10. Jarné prázdniny pri mori?
  1. Poslanci nevzdávajú boj proti herniam, chcú prísnu reguláciu
  2. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom
  3. Mäsovýroba Gašparík získala ocenenie Danubius Gastro 2017
  4. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to
  5. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš
  6. Dokázali by ste nakúpiť so zavretými očami?
  7. Objavte netušené možnosti nových firemných kreditných kariet
  8. Stanovisko Klubu pre Bratislavu k zákazu hazardu v Bratislave
  9. Najväčšie first moment zľavy končia vo februári
  10. Mesto Medzev v Charte európskych vidieckych obcí
  1. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce 11 364
  2. Prečo majú Slováci stále radšej hypotéku ako prenájom? 10 784
  3. Ceny bytov vo veľkých mestách prekonali historický rekord 6 145
  4. Najväčšie first moment zľavy končia vo februári 5 855
  5. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta 5 521
  6. Klasickým gastrolístkom konkuruje už aj nová stravovacia karta 5 376
  7. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to 4 923
  8. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš 4 759
  9. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom 4 088
  10. Jeden z najkrajších interiérov má Meridiana v Prievidzi 3 195

Hlavné správy zo Sme.sk

KOMENTÁRE

V politike, tak ako v hazarde, je výsledok vopred jasný

Neschopnosť vykázať herne z Bratislavy nám ponúka príležitosť prelustrovať, aké osoby sú v pozadí hazardu.

DOMOV

Trainspotting po slovensky. Ako žijú narkomani v Bratislave

Strávili sme víkend v spoločnosti ľudí závislých od drog.

SVET

‘Na Ukrajine bojujú nadrogovaní zombíci‘ je hoax

Rusi uviedli, že tam bojujú bojovníci s nadľudskými schopnosťami.

Neprehliadnite tiež

Google a Bing upracú z dosahu pirátske weby

Nový etický kódex platí pre vyhľadávače v Británii, či prekročí jej hranice dnes nie je jasné.

Ako by to vyzeralo, ak by všetci ľudia žili v jednej budove?

Stačí približne 180-tisíc ľudí, aby mala krytá budova vlastné počasie.

Na YouTube bude menej reklám, zrušia tie najdlhšie

Hoci reklamu na YouTube zatiaľ možno filtrovať, firma sa rozhodla zrušiť svoj najinvazívnejší reklamný formát.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop