Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. 100 %-nú hypotéku môžete dostať aj na mestský apartmán
  2. Mama taxi: Koľko najazdí rodič mesačne kvôli svojim deťom?
  3. Od septembra opäť po starom
  4. ENERGOFÓRUM® 2017 spojí elektrinu a plyn pod jednu strechu
  5. Získajte prístup k zamknutým článkom už o niekoľko sekúnd
  6. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte
  7. 5 tipov ako na zdravé nôžky v škole
  8. 6 účinkov prírodného slovenského výrobku
  9. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov
  10. Let s prestreleným srdcom: Samovraždy slovenských hercov
  1. 10 vecí, ktoré môžete dostať od zdravotnej poisťovne zadarmo
  2. Úspech na Majstrovstvách sveta v Quadrathlone
  3. Mama taxi: Koľko najazdí rodič mesačne kvôli svojim deťom?
  4. Od septembra opäť po starom
  5. Máte doma retro kúsky spojené s pivom Šariš?
  6. ENERGOFÓRUM® 2017 spojí elektrinu a plyn pod jednu strechu
  7. 100 %-nú hypotéku môžete dostať aj na mestský apartmán
  8. Business Smartphones Connected to Public Wi-Fi Can Be in Danger
  9. Získajte prístup k zamknutým článkom už o niekoľko sekúnd
  10. Poslanec Borguľa žiada o uvoľnenie parkoviska pre rezidentov
  1. Let s prestreleným srdcom: Samovraždy slovenských hercov 6 954
  2. Od septembra opäť po starom 4 295
  3. Získajte prístup k zamknutým článkom už o niekoľko sekúnd 4 240
  4. Mama taxi: Koľko najazdí rodič mesačne kvôli svojim deťom? 2 170
  5. 6 účinkov prírodného slovenského výrobku 1 834
  6. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte 1 725
  7. Ako sme jazdili v socializme 1 439
  8. 5 tipov ako na zdravé nôžky v škole 1 275
  9. Lety do exotiky už aj z Bratislavy 1 105
  10. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami 1 084

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

EKONOMIKA

O 13. a 14. plate hovoril Danko, teraz ho podporil aj Smer

Koaličné strany sa zrejme dohodnú na úľavách pre firmy, ktoré vyplácajú trináste a štrnáste platy.

KULTÚRA

Rytmus bude nadávať, orchester hrať

Ľahší primitivizmus a ukáznenosť vraj idú dokopy.

SVET

Správca budúcnosti, o ktorom ste nepočuli. Zomrel de Brum

Klimatická dohoda by bez neho nevznikla.

Neprehliadnite tiež

Náradie a výživu si astronauti vyrobia sami. Použijú vlastné výkaly

Na výrobu skrutkovača by zatiaľ potrebovali tisíc litrov.

Na Marse môžu v noci zúriť silné snežné búrky

Na postavenie snehuliaka alebo lyžovanie ale zrejme nebude dosť.

Sledujete počasie v mobile? Možno vás firma napriek zákazu špehuje

Kde ste a kam chodievate - to sú informácie, ktoré zaujímajú vývojárov aplikácie AccuWeather.

USA menia stratégiu, zvažujú odplatné kybervojenské útoky

Ak nie je možné technológie ochrániť, nezostáva nič iné ako odvetný útok. USA začínajú hovoriť o aktívnych hackerských operáciách.