Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Ako na refinancovanie hypotéky
  2. Príďte diskutovať o budúcnosti Európy v slovenských mestách
  3. Peter Chudík: Chcem byť aj naďalej oporou nášho kraja
  4. PSK Aréna stavia základy pre kvalitný a moderný hokej
  5. Maurícius: Slnečná dovolenka v zime
  6. Podnikajte vo vlastnom blízko historického centra
  7. Nečakaným favoritom na predsedu PSK je prešovský advokát Garaj
  8. M-MARKET s novým konceptom KOCKAminiv Prešove
  9. Pivovar Šariš opäť podporí rozvoj domáceho regiónu
  10. Koncert a diskusia s názvom „Otvorene o extrémizme“
  1. Príďte diskutovať o budúcnosti Európy v slovenských mestách
  2. Peter Chudík: Chcem byť aj naďalej oporou nášho kraja
  3. Štýlové osvetlenie do obývačky: Rozhoduje i to, ako žijete
  4. PSK Aréna stavia základy pre kvalitný a moderný hokej
  5. Maurícius: Slnečná dovolenka v zime
  6. Podnikajte vo vlastnom blízko historického centra
  7. Nečakaným favoritom na predsedu PSK je prešovský advokát Garaj
  8. M-MARKET s novým konceptom KOCKAminiv Prešove
  9. Pivovar Šariš opäť podporí rozvoj domáceho regiónu
  10. Športová akadémia Mateja Tótha powered by O2 už na 24 školách
  1. Maurícius: Slnečná dovolenka v zime 15 772
  2. Nečakaným favoritom na predsedu PSK je prešovský advokát Garaj 3 680
  3. Ukážeme vám, prečo je dobré sporiť si na dôchodok 2 767
  4. PSK Aréna stavia základy pre kvalitný a moderný hokej 2 364
  5. M-MARKET s novým konceptom KOCKAminiv Prešove 1 502
  6. Podnikajte vo vlastnom blízko historického centra 957
  7. Ako na refinancovanie hypotéky 919
  8. Pravda o privátnych značkách. Firmy ich vyrábajú podľa zadania 604
  9. Pivovar Šariš opäť podporí rozvoj domáceho regiónu 540
  10. Splnený sen 467

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

DOMOV

Z Bonaparte do štátnej rezidencie? Fico plánuje bývanie aj pre Kisku a Danka

Šéf Úradu vlády Igor Federič kedysi vybavoval pre premiéra luxusnú vilu pri Bratislavskom hrade. Fico sa bránil, že by sa tam nikdy nenasťahoval.

KOMENTÁRE

Čechov teraz čaká obdobie ich mečiarizmu

České voľby popierajú tézu, že za nástup populistov môžu štandardné strany.

SVET

Anarchisti, hackeri či liberáli? Prečo Česi volili Pirátov

Pustite nás na nich, vyzývala Pirátska strana.

Nová kniha Michala Havrana: Obesíme ťa

Denník SME pripravil v utorok 24. októbra špeciálne vydanie. Kúpite ho v stánkoch s knihou Michala Havrana za 3,99 €.

Neprehliadnite tiež

Riziká cesty na Mars: Stres aj nulová gravitácia

Keď máte do nemocnice ďaleko, zdolať vás môže aj obyčajná chrípka.

Test: Moto G5S Plus nepotrebuje k úspechu výkonný hardvér

Aj pri známej značke vám stačia tri stovky na skvelý smartfón.

Chcete ovládať svoje sny? Veda radí overený spôsob

Techniky, ktoré vám pomôžu uvedomiť si, že snívate.

Alkohol môže uvolniť zábrany v cudzej reči, naznačuje štúdia

Výskumníci zdôrazňujú, že účastníci vypili malé množstvo alkoholu.