Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Aký bude váš doplnkový dôchodok
  2. Premýšľate nad kúpou last minute dovolenky v Egypte?
  3. Vaginálne mykózy – ako sa im brániť?
  4. Bolesti hlavy, brucha či únava? Môžu za to možno aj parazity!
  5. Neviete si vybrať správne miesto na dovolenku v Grécku?
  6. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a.
  7. Vďaka úveru na rekonštrukciu môžete ušetriť tisícky EUR
  8. Jednoduchá mobilná tlač z vášho smartfónu, alebo tabletu?
  9. Zažite vašu vysnívanú dovolenku na Bali
  10. Deň detí oslavujeme štyri dni. Iba v Borylande!
  1. Odmeny za diplomové práce na Stavebnej fakulte STU v Bratislave
  2. Zmluva o nájme pre ambasádu USA neoprávnene zaradená do programu
  3. 4* projekt víl a apartmánov priamo na pobreží, Chorvátsko
  4. Slováci rozhodli o najlepšom!
  5. AAA Auto má nový úver pre živnostníkov
  6. Aký bude váš doplnkový dôchodok
  7. Kúpeľňa - profesionálne informácie pri jej zhotovení
  8. V Prešove sa dnes tankuje za euro. Aj prémiové palivá
  9. Dobrodružstvo s vodou
  10. Neobvyklý objav, ktorý umožňuje zvládnuť angličtinu za 2 týždne
  1. Od 1. júla už prestanete chodiť na poštu! 7 094
  2. Aký bude váš doplnkový dôchodok 6 803
  3. Premýšľate nad kúpou last minute dovolenky v Egypte? 5 846
  4. Bolesti hlavy, brucha či únava? Môžu za to možno aj parazity! 5 616
  5. Neobvyklý objav, ktorý umožňuje zvládnuť angličtinu za 2 týždne 5 058
  6. Vaginálne mykózy – ako sa im brániť? 4 363
  7. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a. 4 093
  8. Jarabinky Grande odštartovali predaj zaujímavými cenami bytov 3 637
  9. Neviete si vybrať správne miesto na dovolenku v Grécku? 3 455
  10. V Prešove sa dnes tankuje za euro. Aj prémiové palivá 2 488

Téma: Google


Hlavné správy zo Sme.sk

DOMOV

Andrej Kiska: Korupcia je aj problém našej mentality

Prezident Andrej Kiska hovorí, že ak je politik presvedčený, že korupcia neexistuje, nemá čo robiť na svojom mieste.

EKONOMIKA

Ponuka Volkswagenu je blízko očakávaní odborov. Prečo štrajk pokračuje

Pri najnižšom plate chýbajú štyri eurá.

KOMENTÁRE

Volkswagen môže byť pilotom zmien na pracovnom trhu

Spoločnosť pre jeden štrajk určite neodíde.

Neprehliadnite tiež

DETSKÁ RUBRIKA

Ryšavka krovinná je nám stále nablízku, zvyčajne si ju ani nevšimneme

Mäsožravcom sa ryšavka stáva z donútenia. Ak má dostatok semien, orieškov či húb, na hmyz sa neulakomí. Keď však musí, zožerie aj dážďovku.

Poradíme vám, ako spraviť skvelé fotografie aj so smartfónom

Máte ho stále so sebou, je malý, ľahký a v priebehu sekundy pripravený na fotenie. Nebojte sa fotiť svojim smartfónom.

Prvá slovenská družica je už na obežnej dráhe

Družica skCUBE sa od nosnej rakety oddelila v piatok ráno, má spopularizovať vedu.

Odtlačky prstov prečíta displej, snímač už nebude na mobile prekážať

Indická firma chystá technológiu, ktorú mobilní giganti zatiaľ v ponuke nemajú.