Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Last minute tipy na Kapverdské ostrovy
  2. Voda, kotol, vymknutie: Čo stoja najčastejšie domáce katastrofy?
  3. Žijú, lebo sa nevzdali. Príbehy ľudí bojujúcich za svoje zdravie
  4. Nový Volkswagen Arteon sa predstaví na bratislavskom autosalóne
  5. Last minute dovolenka sa dá kupiť výhodne už teraz
  6. Legendárna Štefánka opäť ožíva pod sieťou Pulitzer family
  7. Päť tipov, kam na predĺžený víkend v máji
  8. Inteligencia vo všetkom
  9. Volvo V90 Cross Country je pripravené na každé dobrodružstvo
  10. Continental spúšťa dlhodobý test pneumatík s vodičmi z Facebooku
  1. Ako efektívne využiť podlahové kúrenie?
  2. Samsung Galaxy S8: smartfón s výnimočným displejom
  3. Túžite byť matkou, ale nedarí sa? Poďme hľadať dôvody!
  4. Last minute tipy na Kapverdské ostrovy
  5. Ako sa menila obľúbená bratislavská štvrť
  6. Nové investičné projekty v Schladmingu s výhľadom na zjazdovku
  7. Podľa M. Borguľu je práca mestskej polície slabá a nedôsledná
  8. Znížená sadzba pri pôžičke v mBank už len štyri dni
  9. Odborníci poradia, komu sa oplatí využívať obnoviteľné zdroje
  10. Katarína (28): Z bývania na Nobelovej mám dobrý pocit
  1. Žijú, lebo sa nevzdali. Príbehy ľudí bojujúcich za svoje zdravie 7 749
  2. Šokujúce: ako sa každý Slovák dokáže ľahko naučiť po anglicky 7 190
  3. Nový Volkswagen Arteon sa predstaví na bratislavskom autosalóne 6 351
  4. Päť tipov, kam na predĺžený víkend v máji 6 164
  5. Last minute dovolenka sa dá kupiť výhodne už teraz 5 576
  6. Legendárna Štefánka opäť ožíva pod sieťou Pulitzer family 5 489
  7. Voda, kotol, vymknutie: Čo stoja najčastejšie domáce katastrofy? 4 808
  8. Last minute tipy na Kapverdské ostrovy 4 753
  9. 5 krokov k vlastnému bývaniu 3 887
  10. Ako sa menila obľúbená bratislavská štvrť 3 015

Hlavné správy zo Sme.sk

DOMOV

Remiášova vražda sa ešte dá vyšetriť. Pomôcť musia mafiáni

Polícia minulý rok obnovila vyšetrovanie Remiášovej vraždy, pretože vyšli najavo nové skutočnosti. Ani po roku zatiaľ nikoho neobvinila.

DOMOV

Anna Remiášová pri pomníku syna: Nikdy to nevzdám

Výročie vraždy si prišli k jeho pamätníku pripomenúť aj študenti.

KOMENTÁRE

Kažimír bude musieť siahnuť pod vankúš, aby naplnil Ficove sľuby

Bez zásahu do rozpočtu to nepôjde.

Neprehliadnite tiež

Fotosyntézu spustili v umelej hmote, čistí vzduch a vyrába čistú energiu

Zariadenie zatiaľ vyskúšali len pri modrom svetelnom spektre.

Vypočítali, ako sa dá cestovať v čase, ale stroj postaviť nevedia

Nový výskum navrhuje matematický model, ktorý umožňuje cestovanie v čase.

Na Marse by ľudia mohli bývať v domčekoch z červených tehál

Inžinieri našli spôsob, ako z červenej pôdy Marsu vyrábať odolné tehly.

Dnes nie miláčik, som mŕtva. Keď sa vážky nechcú páriť, predstierajú smrť

Aeshna juncea sa v čase kladenia vajíčok musia brániť pred otravnými samčekmi.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop