Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Článok pokračuje pod video reklamou

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Na spracúvanie osobných údajov sa vzťahujú Zásady ochrany osobných údajov a Pravidlá používania cookies. Pred zadaním e-mailovej adresy sa, prosím, dôkladne oboznámte s týmito dokumentmi.

Najčítanejšie na SME Tech

Inzercia - Tlačové správy

  1. Infografika: Slováci minuli na Pohode historicky najviac peňazí
  2. Dubravské Čerešne majú sladké prekvapenie pre najrýchlejších!
  3. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo?
  4. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne
  5. Veríte brusniciam pri zápaloch močových ciest? Nemusia stačiť
  6. Dobrú chuť: Letné šaláty a bizarné praktiky food fotografie
  7. Vyberiete si radšej romantický Paríž alebo slnečné Nice?
  8. O asistovanej reprodukcii sa šíri množstvo zavádzajúcich tvrdení
  9. Pivovar Šariš rozdá tisíce eur, o časti peňazí rozhodnú ľudia
  10. Volkswagen Golf GTI TCR naživo na Slovakia Ringu!
  1. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo?
  2. Dubravské Čerešne majú sladké prekvapenie pre najrýchlejších!
  3. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne
  4. Veríte brusniciam pri zápaloch močových ciest? Nemusia stačiť
  5. Infografika: Slováci minuli na Pohode historicky najviac peňazí
  6. Vyberiete si radšej romantický Paríž alebo slnečné Nice?
  7. Dobrú chuť: Letné šaláty a bizarné praktiky food fotografie
  8. Salón architektov A0 – Coneco 2018
  9. Záhradný nábytok: aký materiál je najlepší?
  10. Životné jubileum prof. Ing. Jaroslava Valáška, PhD.
  1. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne 18 137
  2. Infografika: Slováci minuli na Pohode historicky najviac peňazí 14 321
  3. Dobrú chuť: Letné šaláty a bizarné praktiky food fotografie 10 365
  4. Vyberiete si radšej romantický Paríž alebo slnečné Nice? 8 283
  5. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo? 7 676
  6. Ulovte si last minute dovolenku so zľavou do 70% 6 737
  7. O asistovanej reprodukcii sa šíri množstvo zavádzajúcich tvrdení 5 137
  8. Pivovar Šariš rozdá tisíce eur, o časti peňazí rozhodnú ľudia 3 907
  9. Iná tvár Mexika: Nocovanie s Indiánmi, dobrodružstvo v džungli 2 741
  10. Volkswagen Golf GTI TCR naživo na Slovakia Ringu! 2 324

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

EKONOMIKA

Pozrite si nové vozne, železnice sľubujú modernejšie cestovanie

Vozne nasadia na najvyťaženejšie linky.

Komentár Zuzany Kepplovej

Po Helsinkách môže mať Putin pocit, že sa vrátil v čase

Čo tam po vyšetrovaní, keď sú rôzne názory na vec. Všakže.

Neprehliadnite tiež