Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Článok pokračuje pod video reklamou

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Biznis úver: Lepší tím, stroje, či menej stresu s faktúrami
  2. Nedocenený génius - prečo chýba v našich knižniciach?
  3. Park pod Kolibou prepája mesto s prírodou
  4. Čo si myslia mamy youtuberov o tom, čo robia ich deti?
  5. Keď Slováci krotia morský vietor
  6. Volkswagen Touareg jazdí lepšie, než sme čakali
  7. Máte už program pre deti na túto sobotu?
  8. UNIQA poisťovňa sa sťahuje do Einsteinova Business Center
  9. Pätnásť destinácií na letnú dovolenku s odletom z Bratislavy
  10. Chystáte výlet do Rakúska? Toto miesto má najlepšie zážitky
  1. Čo si myslia mamy youtuberov o tom, čo robia ich deti?
  2. Keď Slováci krotia morský vietor
  3. Nedocenený génius - prečo chýba v našich knižniciach?
  4. Park pod Kolibou prepája mesto s prírodou
  5. Do we have "Sagans" in language education?
  6. Volkswagen Touareg jazdí lepšie, než sme čakali
  7. Máte už program pre deti na túto sobotu?
  8. Biznis úver: Lepší tím, stroje, či menej stresu s faktúrami
  9. Síce malí, no výnimoční regionálni dodávatelia. Poznáte ich?
  10. Top trendy 2018 v alternatívnych prístupoch ku zdraviu
  1. Pätnásť destinácií na letnú dovolenku s odletom z Bratislavy 23 655
  2. Chystáte výlet do Rakúska? Toto miesto má najlepšie zážitky 17 070
  3. Čo si myslia mamy youtuberov o tom, čo robia ich deti? 16 578
  4. Jozef Bíreš: Čerstvé potraviny sú pre človeka najhodnotnejšie 9 108
  5. Ako vzniká jeden z najkvalitnejších kolagénov na Slovensku? 6 994
  6. Unikátne defilé vojenskej techniky na zemi aj vo vzduchu 4 484
  7. Mladý Slovák vymyslel aplikáciu pre medicínu. 3 280
  8. Zabezpečte si svoje auto doteraz neprekonaným VAM systémom 2 408
  9. Volkswagen Touareg jazdí lepšie, než sme čakali 2 406
  10. Najväčšia šanca získať Daikin Althermu s dotáciou až do 3 700 €! 1 882

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

DOMOV

Skutok sa nestal hrozí aj pri údajnom Valkovom vrahovi

Jozefa Radiča, ktorý je obvinený z vraždy, by napokon mohli súdiť len za lúpež s následkom smrti. Trest je potom nižší.

DOMOV

Kiska vymenoval sedem nových rektorov vysokých škôl

Prezident vymenoval aj 19 nových profesorov.

KOMENTÁRE

Kotleba je majstrom politického trollingu

Strany s kotlebovcami zväčša nehlasujú, prečo by to teraz malo byť iné?

Neprehliadnite tiež

Objavili ďalší nepriamy dôkaz o existencii Deviatej planéty

Hypotetická planéta zrejme naklonila viaceré obežné dráhy.

Čo si myslia mamy youtuberov o tom, čo robia ich deti?

Odpovedajú mamy Bekima, Selassieho a Surovej dcérky.

Stavajú v nich cesty aj mestá. Ľudia ničia chránené územia aj na Slovensku

Deväťdesiat percent chránených území vykazuje stopy po ľudskej činnosti.

Ako si aktivovať a zrušiť odkazovú schránku na mobile

Návody pre hlasové schránky u slovenských operátorov.