Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Ako na refinancovanie hypotéky
  2. Ukážeme vám, prečo je dobré sporiť si na dôchodok
  3. Koncert a diskusia s názvom „Otvorene o extrémizme“
  4. Pravda o privátnych značkách. Firmy ich vyrábajú podľa zadania
  5. Splnený sen
  6. Drobné nepozornosti v domácnosti môžu stáť aj tisíce eur
  7. Majte všetky svoje účty za energie pod kontrolou
  8. Za 30 rokov sa cena fotovoltických panelov znížila 100-násobne
  9. Neobjavené emiráty Fujairah a Ajman
  10. Zaparkujte tak, aby ste s vaším vozidlom odišli vy, a nie iný
  1. Koncert a diskusia s názvom „Otvorene o extrémizme“
  2. Ako na refinancovanie hypotéky
  3. Pravda o privátnych značkách. Firmy ich vyrábajú podľa zadania
  4. Splnený sen
  5. Majte všetky svoje účty za energie pod kontrolou
  6. Za 30 rokov sa cena fotovoltických panelov znížila 100-násobne
  7. Ukážeme vám, prečo je dobré sporiť si na dôchodok
  8. Drobné nepozornosti v domácnosti môžu stáť aj tisíce eur
  9. Títo Slováci sa rozhodli zveľadiť svoje okolie
  10. Chceme sa dívať na svet zdravými očami detí
  1. Drobné nepozornosti v domácnosti môžu stáť aj tisíce eur 10 248
  2. Neobjavené emiráty Fujairah a Ajman 6 177
  3. 3 slovenské projekty, ktoré sa nestratia ani vo svete 2 526
  4. Ukážeme vám, prečo je dobré sporiť si na dôchodok 2 457
  5. Títo Slováci sa rozhodli zveľadiť svoje okolie 2 411
  6. Za 30 rokov sa cena fotovoltických panelov znížila 100-násobne 2 200
  7. Zaparkujte tak, aby ste s vaším vozidlom odišli vy, a nie iný 1 840
  8. Koniec štátnym príspevkom pre mladých 1 629
  9. Splnený sen 1 260
  10. Na bratislavskom nábreží vznikla Zóna tolerancie 1 188

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

DOMOV

Bývalá opatrovateľka: Bol to prázdny život, nedalo sa to vydržať

Agentúry zneužívajú vodičov aj opatrovateľky, tvrdí bývalá opatrovateľka v Rakúsku Angelika Horňáková.

KOMENTÁRE

Kurz si vyberá kurz

Kurz možno bude tvrdiť, že si vzal od radikálov len toľko, aby nevládli oni.

Neprehliadnite tiež

Zachytili kataklizmatickú udalosť. Cez gravitačné vlny videli zrážku hviezd

Zrážka hviezd zodpovedala záhadu, ako vznikajú ťažké kovy vo vesmíre.

Metán z odpadu prispieva k otepľovaniu, chcú ho premeniť na energiu

Premeniť obrovskú skládku na výrobník biometánu nie je ani lacné, ani jednoduché. Vedci hľadajú nové spôsoby.

Ste hladní? Facebook spúšťa objednávky a donášky jedla

Sociálna sieť spúšťa v USA objednávkový systém pre roznášku občerstvenia.

Takmer všetky WiFi siete majú veľkú bezpečnostnú dieru

WPA2 je najbezpečnejšie bežné šifrovanie, slabiny umožňujú aj ukradnutie pripojenia.