Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Tatra banka spustila najmodernejší internet banking pre firmy
  2. Volkswagen T-Roc: Pre nerozhodných
  3. Iba dnes: Narodeninové predplatné SME.sk za 25 eur
  4. Leto 2018 v Grécku s odletom z Bratislavy
  5. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku
  6. Zelené Grunty vám ponúknu viac, ako očakávate
  7. Kam do tepla v januári?
  8. First moment Turecko: využite zľavy na špičkové hotely
  9. Konzultácia so svetovými odborníkmi dokáže zachrániť život
  10. Divoký Island: cesta ostrovom ľadu a ohňa
  1. Začiatok roka patrí dani z nehnuteľností
  2. Volkswagen T-Roc: Pre nerozhodných
  3. Tipy pre atraktívne poprsie po dojčení. Plastike povedzte nie
  4. Stanovisko spoločnosti Advokátska kancelária JUDr. Radomír Bžán
  5. Tatra banka spustila najmodernejší internet banking pre firmy
  6. Iba dnes: Narodeninové predplatné SME.sk za 25 eur
  7. Denník SME oslavuje 25 rokov rekordným počtom predplatiteľov
  8. Najinzerovanejšie zánovné auto roku 2017? Mnohých to prekvapí
  9. Stavebná fakulta STU pozýva na Deň otvorených dverí!
  10. Leto 2018 v Grécku s odletom z Bratislavy
  1. Iba dnes: Narodeninové predplatné SME.sk za 25 eur 16 026
  2. Leto 2018 v Grécku s odletom z Bratislavy 9 302
  3. Tatra banka spustila najmodernejší internet banking pre firmy 4 244
  4. Demänovku mieša iba jeden človek. Ako si strážia receptúru? 2 964
  5. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku 2 301
  6. Kam do tepla v januári? 2 299
  7. Volkswagen T-Roc: Pre nerozhodných 2 187
  8. First moment Turecko: využite zľavy na špičkové hotely 2 027
  9. Moderný bungalov očami mladých architektov 1 230
  10. Divoký Island: cesta ostrovom ľadu a ohňa 1 215

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

EKONOMIKA

Zdanenie bitcoinu, menej výhodné sporenie. Čo chystá Kažimír

Zdania obchody, keď spotrebiteľ platí za tovar kryptomenami a stavebné sporenie bude ešte menej výhodné.

SVET

Babiš nedostal dôveru, vládnuť môže roky. Čo čaká Česko?

Český premiér vedel, že hlasovanie o dôvere prehrá.

ŠPORT

Mal smolu i spor s Vůjtkom. Pôjde Nagy na olympiádu?

V mužstve majú byť hráči, ktorí vedia ubrániť oslabenia.

EKONOMIKA

Zo stavebka kupujú ľudia dovolenky. Kažimír ukázal, ako to zmení

Zmeny pravidiel pre stavebné sporenie.

Neprehliadnite tiež

Ryba si vie vďaka génom zahojiť chrbticu. Aj ľudia ich majú

Ľudia a ryby z radu mihuľotvarých mali pred miliónmi rokov spoločného predka.

Čierna diera si dvakrát grgla. Potvrdili, že čierne diery oddychujú

Vzdialená galaxia pomaly požiera svojho vesmírneho suseda.

Vypočujte si pieseň z Hviezdnych vojen zahranú ceruzkou

Matematická rovnica znie ako chytľavá pieseň zo Star Wars.

Tajomstvo kreativity: Čo hovorí veda

Poučenie, ktoré so sebou prináša veda napovedá aj to, ako dosiahnuť vytúženú budúcnosť.