Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Mäsovýroba Gašparík získala ocenenie Danubius Gastro 2017
  2. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom
  3. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to
  4. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš
  5. Objavte netušené možnosti nových firemných kreditných kariet
  6. Najväčšie first moment zľavy končia vo februári
  7. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce
  8. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta
  9. Prečo majú Slováci stále radšej hypotéku ako prenájom?
  10. Jarné prázdniny pri mori?
  1. S profesorom Michalom Miovským o prevencii závislostí
  2. Poslanci nevzdávajú boj proti herniam, chcú prísnu reguláciu
  3. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom
  4. Mäsovýroba Gašparík získala ocenenie Danubius Gastro 2017
  5. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to
  6. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš
  7. Dokázali by ste nakúpiť so zavretými očami?
  8. Objavte netušené možnosti nových firemných kreditných kariet
  9. Stanovisko Klubu pre Bratislavu k zákazu hazardu v Bratislave
  10. Najväčšie first moment zľavy končia vo februári
  1. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce 11 598
  2. Prečo majú Slováci stále radšej hypotéku ako prenájom? 8 268
  3. Najväčšie first moment zľavy končia vo februári 5 933
  4. Ceny bytov vo veľkých mestách prekonali historický rekord 5 887
  5. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom 5 453
  6. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to 5 317
  7. Klasickým gastrolístkom konkuruje už aj nová stravovacia karta 5 130
  8. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta 5 117
  9. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš 5 053
  10. Jarné prázdniny pri mori? 3 058

Hlavné správy zo Sme.sk

DOMOV

Žena, ktorá močila na Korán, ohrozila bezpečnosť Slovenska

Na videu obvinenej Sheily Sz., kde vyzývala na boj proti moslimom, viala v pozadí slovenská zástava.

EKONOMIKA

Predražené predsedníctvo a kauzu Evka prešetrí NAKA

Na polícii bola vypovedať aj Zuzana Hlávková.

Neprehliadnite tiež

Jedinečné mikróby prežili v kryštáloch desaťtisíce rokov

Objavené organizmy sú úplne iné než tie v databázach. Niektorí spochybňujú, či naozaj pochádzajú z kryštálov.

Google a Microsoft neukážu weby pre nelegálne sťahovanie

Nový etický kódex platí pre vyhľadávače v Británii, či prekročí jej hranice dnes nie je jasné.

Ako by to vyzeralo, ak by všetci ľudia žili v jednej budove?

Stačí približne 180-tisíc ľudí, aby mala krytá budova vlastné počasie.

Na YouTube bude menej reklám, zrušia tie najdlhšie

Hoci reklamu na YouTube zatiaľ možno filtrovať, firma sa rozhodla zrušiť svoj najinvazívnejší reklamný formát.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop