Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. 5 tipov ako na zdravé nôžky v škole
  2. Ako sa developer prispôsobil nárokom kupujúceho
  3. 6 účinkov prírodného slovenského výrobku
  4. Let s prestreleným srdcom: Samovraždy slovenských hercov
  5. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov
  6. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami
  7. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť
  8. Lety do exotiky už aj z Bratislavy
  9. Nonstop banka vo vrecku - aplikácia Mobil Banking
  10. Ako sme jazdili v socializme
  1. Očarujúca Srí Lanka: malý ostrov plný prekvapení
  2. 5 tipov ako na zdravé nôžky v škole
  3. Ako sa developer prispôsobil nárokom kupujúceho
  4. Už aj seniori presadajú do SUV
  5. 6 účinkov prírodného slovenského výrobku
  6. Americká ambasáda zaberá pozemky už rok bez nájomnej zmluvy
  7. Bratislava gets a new public space and park
  8. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov
  9. Let s prestreleným srdcom: Samovraždy slovenských hercov
  10. Daikin predĺžil záruku na klimatizácie so službou Stand By Me
  1. Let s prestreleným srdcom: Samovraždy slovenských hercov 6 709
  2. Ako sa developer prispôsobil nárokom kupujúceho 2 816
  3. Očarujúca Srí Lanka: malý ostrov plný prekvapení 2 710
  4. Ako sme jazdili v socializme 2 610
  5. 6 účinkov prírodného slovenského výrobku 1 882
  6. 5 tipov ako na zdravé nôžky v škole 1 743
  7. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami 1 311
  8. Lety do exotiky už aj z Bratislavy 1 272
  9. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť 1 198
  10. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov 820

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

PLUS

Ako sa Slovák z Terchovej stal veľkým reformátorom u Márie Terézie

Adam František Kollár, vedec a knihovník bol jedným z popredných osvietenských reformátorov.

PLUS

V kráľovstve polievok sa držková nevarí

Do niekoľkých hrncov naložili Bratislavčania svojho tvorivého ducha.

KOMENTÁRE

Potrebujeme posilniť kultúru záväznosti

Musíme prestať so spájaním LGBTI s ohrozením tzv. tradičnej rodiny.

Neprehliadnite tiež

DETSKÁ RUBRIKA

Včeláriky robia všetko pre rodinu. Mladé vtáčatá chodia kŕmiť aj tetky a ujovia

Živia sa hmyzom, často práve včelami. To však nie je veľmi pochuti včelárom, ktorí tieto vtáky bezhlavo kynožia.

Vypustili prvý satelit, ktorý vyrobili pomocou 3D tlačiarne

Satelity by mali byť vo vesmíre približne päť až šesť mesiacov.

Toto sú najlepšie čínske smartfóny (leto 2017)

Xiaomi, Vernee, Oukitel alebo Ulefone? Poradíme vám, ako sa nestratiť vo svete čínskych smartfónov.

Na dne morí sa hromadia plasty, môže za to aj zvláštne zviera

Vršovky nie sú vinníci, sú obeťami plastov.