Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Premier Club Nitra: Výborne čapovanú Plzeň hľadajte v centre
  2. Päť tipov na dovolenku počas Veľkej noci
  3. Slováci čoskoro lídrami vo využívaní inteligentných domácností
  4. Kĺby starnú s nami. S týmito radami ich udržíte fit čo najdlhšie
  5. Zábavný aj sebavedomý
  6. Obľúbené letné pneumatiky Matador Hectorra v novej generácii 3
  7. Kursalon Trenčianske Teplice: Výborné jedlo a chutné pivo
  8. Loďou Meraviglia po Stredozemnom mori
  9. Bezpečnostný pás vám chráni život, antivírus váš virtuálny svet
  10. Antibiotiká nie sú cukríky. Naozaj viete, kedy ich máte brať?
  1. Premier Club Nitra: Výborne čapovanú Plzeň hľadajte v centre
  2. Konferencia o využívaní ITP v trestnom konaní splnila svoj cieľ
  3. Nadácia Poštovej banky podporí grantom folklór a tradície
  4. Najlepšie obnovený bytový dom 2016 je v Prešove
  5. Najlepšie obnovený bytový dom 2016 je v Prešove
  6. Prednáška holandského veľvyslanca na EU v Bratislave
  7. Zákaznícky servis Martinusu sa dostal medzi svetovú špičku
  8. Päť tipov na dovolenku počas Veľkej noci
  9. Poradňa: Ako vybrať účet pre mladých
  10. Sajfa odkázal študentom:„Buďte nároční a vydržte!“
  1. Kĺby starnú s nami. S týmito radami ich udržíte fit čo najdlhšie 24 476
  2. Ikonický Harley-Davidson za bezkonkurenčnú cenu 5 605
  3. Loďou Meraviglia po Stredozemnom mori 5 100
  4. Kursalon Trenčianske Teplice: Výborné jedlo a chutné pivo 4 729
  5. Obľúbené letné pneumatiky Matador Hectorra v novej generácii 3 3 721
  6. Päť tipov na dovolenku počas Veľkej noci 3 712
  7. Zábavný aj sebavedomý 3 473
  8. Bývanie, ktoré vás oslobodí od stresu 3 203
  9. Slováci čoskoro lídrami vo využívaní inteligentných domácností 2 874
  10. Antibiotiká nie sú cukríky. Naozaj viete, kedy ich máte brať? 2 553

Hlavné správy zo Sme.sk

DOMOV

Pred cestou sme vtipkovali, spomínajú ženy z prvého transportu do Osvienčimu

V sobotu 25. marca je 75. výročie prvého transportu Židov do koncentračného tábora v Osvienčime.

KOMENTÁRE

Varšava chce zavrieť Tuska. A s ním poľskú demokraciu

Poľsko začalo s kriminalizáciou politických protivníkov.

KULTÚRA

Gorillaz idú do vesmíru. Ich nová hudba je experiment

Animovaná kapela vydala štyri nové piesne.

ŠPORT

Sagan na E3 Harelbeke spadol, vyhral Van Avermaet

V záverečnom špurte sa rozhodovalo medzi triom Belgičanov.

Neprehliadnite tiež

DETSKÁ RUBRIKA

Trsteniarik škriekavý je vzorný rodič, spoliehajú sa naň aj kukučky

Párik trsteniarikov si kukučka často vyberá ako adoptívnu rodinu. Vie, že o jej mladé sa dobre postarajú.

Vedci konečne zistli, prečo kvapky špliechajú

Kvapka, ktorá šplechne na úpätí Mount Everstu nemusí šplechnúť na jeho vrchole.

Zháňate lacný herný počítač? Poradíme vám, ako si ho poskladať

Dve desiatky skrutiek, tri hodiny práce a necelých 500 eur. Skladať herný počítač je zábava.

Päť tipov, ako prekonať nudu v lietadle len so smartfónom

Notebook s tabletom je v kufri a pred vami 12 hodín v lietadle. Poradíme vám, ako sa zabavíte aj s mobilom.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop