Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. 16 tipov na poznávacie zájazdy so slovenským sprievodcom
  2. Máte hypotéku a chcete lepšie spávať?
  3. Slovanet spustil LTE internet aj na juhu Tokaja
  4. Hľadá sa: Vzťah z rozumu. Darujte na Valentína predplatné SME.sk
  5. Dobrú chuť: príloha o dobrom jedle a varení v denníku SME
  6. Slovanet spustil LTE internet aj v okolí Prešova
  7. Košickí športovci „pustili žilou“
  8. Nepýtajte od lekára antibiotiká pri chrípke či nádche
  9. Počet predplatiteľov SME.sk dosiahol ďalší rekord
  10. Hektická Moskva, ktorá nikdy nespí
  1. Príbeh tradičného družstva - príbeh Alojza Kračinovského
  2. Parfum podľa zverokruhu. Zvoľte tú správnu vôňu
  3. Fascinuje ma nadšenie mladých ľudí, s akým hltajú nové trendy
  4. Máte hypotéku a chcete lepšie spávať?
  5. 16 tipov na poznávacie zájazdy so slovenským sprievodcom
  6. Chute a vône kórejskej kuchyne priamo v METRO
  7. Adient je tretí najlepší zamestnávateľ
  8. 8 krokov k príprave na zdravé tehotenstvo
  9. Študenti SPU skúmajú vplyv rýchlostnej cesty na život obyvateľov
  10. V Botanickej záhrade predstavia nežnú krásu orchideí
  1. 16 tipov na poznávacie zájazdy so slovenským sprievodcom 23 700
  2. Mio MiVue 733 WiFi - snadno přeneste záznam autokamery do mobilu 14 144
  3. Dobrú chuť: príloha o dobrom jedle a varení v denníku SME 10 010
  4. Tatra banka spustila najmodernejší internet banking pre firmy 6 925
  5. Počet predplatiteľov SME.sk dosiahol ďalší rekord 5 995
  6. Nepýtajte od lekára antibiotiká pri chrípke či nádche 5 790
  7. Hektická Moskva, ktorá nikdy nespí 5 615
  8. Hľadá sa: Vzťah z rozumu. Darujte na Valentína predplatné SME.sk 4 730
  9. Máte hypotéku a chcete lepšie spávať? 3 930
  10. Olympiáda ukradne fanúšikom hodiny spánku 2 496

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

PLUS

Vojnový reportér: Na liečení sa ma psychiater spýtal, či som normálny

Po dvadsiatich šiestich rokoch sa TOMÁŠ ETZLER vrátil späť do Českej republiky.

Neprehliadnite tiež

Arktída môže zhatiť šance na naplnenie Parížskej dohody

Ústup ľadu z Arktídy môže sprístupniť ohromné množstvá fosílnych palív. Využiť ich by bolo chybou.

PODCAST KLIK

Klik: Facebook môže vypnúť test Prieskumníka na Slovensku najbližšie týždne

Amazon po dobrých výsledkoch prepúšťal, Uber platí ženám menej, ale dáta diskrimináciu vo firme neukazujú. Odkiaľ sa rozdiel berie?

Nový experimentálny mozgový implantát môže zlepšiť pamäť

Pacienti mali o pätnásť percent lepšie výsledky, keď mali implantát.

Ostrovný štát malo pohltiť more. Výskum ukázal, že sa zväčšuje

Ostrovy sa zväčšili napriek narastajúcej hladine okolitého mora.

Na Slovensku máme internet už 26 rokov. Ako začínal?

Vo svete bol internet bežný, na Slovensku veľká novinka.