Keď sa umelá inteligencia cíti ohrozená, neváha zabíjať

Aj najmenší stres či tieseň aktivujú v múdrych algoritmoch neprimerané rozhodnutia.

MOUNTAIN VIEW, BRATISLAVA. Umelá inteligencia môže v jej dnešnej podobe uvažovať úplne odlišne ako človek. Zbavená emócií, morálky, zodpovednosti a pocitu viny môže robiť rozhodnutia, ktoré sú extrémne agresívne.

Vyplýva to zo štúdie, ktorú uskutočnila firma Google so svojim systémom Deep Mind. Ukázali, že pri vytváraní stále múdrejších strojov musíme byť veľmi opatrní. Agresívne správanie v nich nemusí prebudiť človek, naučia sa ho z vlastného prostredia.

Uvažuje podobne ako človek

Pomocou jednoduchých strategických hier sledovala, akým spôsobom si samoučiaci systém hľadá cestu k úspechu. Pri hrách súperili dva systémy vzájomne proti sebe v hre, v ktorej zbierali jablká.Na videu môžete vidieť agentov ako modrý a červený štvorček, jablká ako zelený a laser ako žltý.

Vedci vypozorovali, že systém sa zameriava viac na konečný výsledok ako námahu, čas a energiu, ktorú musí vynaložiť na jeho dosiahnutie. V jednoduchej hre, kde stačilo zopár strategických krokov pre dosiahnutie pohodovej remízy, sa umelá inteligencia snažila využívať početné útočné manévre, aby získala čo i najmenšiu prevahu a presilu.

„Tento model ukazuje, že niektoré aspekty ľudského správania sa v systéme objavujú ako súčin prostredia a učenia,“ povedal pre web Wired člen tímu Google Joel Z. leibo.

Dôraz, aký kladie umelá inteligencia na svoju stratégiu, závisí na situácii. Ak je prostredie vyrovnané a úloha nežiada náročné kroky, uvažuje podobne ako človek - strategicky, uvážene a primerane.

Ak však vznikne stresová situácia, kedy je dosiahnutie cieľa náročnejšie, systém neváha použiť náročné a agresívne stratégie, aby sa čo i len o malý krôčik posunul k svojmu cieľu. Vedci analyzovali správanie na 40 miliónoch herných turnajov.

Agresia alebo spolupráca?

Neskôr dali systémom hrať ďalšiu hru, ktorá však vyžadovala aktívnu spoluprácu. V tejto hre o vlkoch a ich koristi hrali navzájom tri systémy. Dva z nich boli vlci a bolo pre nich výhodnejšie, ak pri love na korisť spolupracovali.

Pri prvej hre sa teda systém naučil, že na najlepší výsledok potrebuje agresiu a sebeckosť. V druhej hre naopak pochopil, že lepší individuálny výsledok sa dá dokázať aj vzájomnou pomocou.

Ak ciele robota nie sú v úplnej rovnováhe s hlavným cieľom - slúžiť ľuďom - ľahko môže dojsť v systéme umelej inteligencie k chaosu. Štúdia zatiaľ nebola uverejnená v uznávanom vedeckom časopise, aj tak však ukazuje, že ľudstvo by malo byť pri vývoji strojov s inteligenciou naozaj opatrné.

Podľa Elona Muska je nevyhnutné, aby sme sa so strojmi začali spájať, inak budú ľudia v budúcnosti s umelou inteligenciou úplne zbytoční, povedal v pondelok na samite v Dubaji. Kyborgovia by podľa neho mali mať prepojený mozog s digitálnou verziou osoby.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. BonoPay - platobné služby a vernostný program v jednom
  2. Používate make-up? Potom spozornite
  3. Naše Finančné Družstvo - projekt s vlastným riešením dôchodkov
  4. Meškanie výstavby diaľnic brzdí ekonomiku aj stavebný sektor
  5. Legendárna Transsibírska magistrála
  6. Volkswagen a jeho štedrá nádielka modelov
  7. Týchto 18 rád ako ušetriť som mal počuť ešte pred osemnástkou
  8. Venujte na Vianoce darček plný informácií!
  9. Päť faktorov, prečo môže skolabovať slovenský dôchodkový systém
  10. Ceny elektriny rastú. Firmy ale môžu ušetriť
  1. Mečiarovské spôsoby nového bratislavského župana?
  2. Študenti Stavebnej fakulty STU na exkurzii v Brne
  3. Top 10 inzerovaných áut za posledné 3 roky
  4. Henkel taught 5000 students in Slovakia about sustainability
  5. BonoPay - platobné služby a vernostný program v jednom
  6. Naše Finančné Družstvo - projekt s vlastným riešením dôchodkov
  7. Meškanie výstavby diaľnic brzdí ekonomiku aj stavebný sektor
  8. Používate make-up? Potom spozornite
  9. Legendárna Transsibírska magistrála
  10. Auto ako vianočný darček, rastie záujem o zánovné vozidlá
  1. Legendárna Transsibírska magistrála 28 369
  2. Týchto 18 rád ako ušetriť som mal počuť ešte pred osemnástkou 5 180
  3. Päť faktorov, prečo môže skolabovať slovenský dôchodkový systém 3 141
  4. Volkswagen a jeho štedrá nádielka modelov 2 023
  5. Venujte na Vianoce darček plný informácií! 1 019
  6. Top First moment dovolenky na leto 2018 984
  7. Hyundai Kona prekvapí výbavou aj dizajnom 978
  8. Používate make-up? Potom spozornite 969
  9. Naše Finančné Družstvo - projekt s vlastným riešením dôchodkov 965
  10. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám 899

Téma: Umelá inteligencia


Článok je zaradený aj do ďalších tém Google

Hlavné správy zo Sme.sk

DOMOV

Diskusia s Bezákom: Keď pozerám na bývalých kolegov, asi tam nepatrím

O novej knihe Róberta Bezáka a Marie Vrabcovej.

PLUS

Fico dal opäť prednosť sebe, a kto je užitočný idiot politiky

Robert Fico si už musí poslušnosť vynucovať krajnými prostriedkami

KOMENTÁRE

Rok 1998: Maďarka prah môjho domu neprekročí

Čože?! Ty nebudeš voliť Mečiara?

Neprehliadnite tiež

Vedci videli zvláštne sexuálne správanie samice makaka a jeleňa

Pre samičku je pokojný jeleň lepší na trénovanie párenia ako agresívny makak.

Ľudia nie sú o nič viac mierumilovnejší než v minulosti, hovoria štúdie

Podľa štatistík je šanca stať sa obeťou násilia najnižšia v histórii. Nie všetci súhlasia.

OBJEKTÍV

Švajčiari otvorili najstrmšiu pozemnú lanovku na svete

Pozemná lanovka prejde prevýšenie 744 metrov.

Rozlúštili metánový paradox oceánov

Produkciu silného skleníkového plynu zvyšujú rozšírené baktérie žijúce pri hladine.