Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Real-time technológie: nový byt z papiera uvidíte na vlastné oči
  2. Pivný bar Senica: Miesto, kde objavíte, ako má chutiť pivo
  3. Volkswagen Golf: Viac, než facelift
  4. Plavba východným Stredomorím so slovenským sprievodcom
  5. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom
  6. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to
  7. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš
  8. Objavte netušené možnosti nových firemných kreditných kariet
  9. Najväčšie first moment zľavy končia vo februári
  10. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce
  1. Stretnutie po rokoch alebo predaj z papiera
  2. Trend zánovných luxusov dorazil i na Slovensko
  3. Real-time technológie: nový byt z papiera uvidíte na vlastné oči
  4. Ďalšia stovka si našla ten svoj
  5. Register partnerov verejného sektora v rukách profesionálov
  6. Jakub Mankovecký z SPU v Nitre bol opäť úspešný v reze viniča
  7. Hitparáda štiav
  8. 14. ročník AmCham „Job Fair“ v Košiciach
  9. Pivný bar Senica: Miesto, kde objavíte, ako má chutiť pivo
  10. Projekt "Zvýšenie odborných kapacít v oblasti práce s mládežou"
  1. Plavba východným Stredomorím so slovenským sprievodcom 11 475
  2. Volkswagen Golf: Viac, než facelift 7 259
  3. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to 6 365
  4. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom 4 635
  5. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš 4 605
  6. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce 4 352
  7. Pivný bar Senica: Miesto, kde objavíte, ako má chutiť pivo 3 541
  8. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta 2 534
  9. Objavte netušené možnosti nových firemných kreditných kariet 1 928
  10. Najväčšie first moment zľavy končia vo februári 1 818

Hlavné správy zo Sme.sk

DOMOV

Zomrel bývalý šéf BMG Invest Vladimír Fruni

Vladimírovi Frunimu operovali vo Veľkej Británii žalúdok, zomrel doma po návrate z nemocnice.

KOMENTÁRE

Náhorný Karabach chce byť veľmocou. Vďaka jeseterom

Zásah z frontovej línie prežili len statočné ryby.

DOMOV

Sťal dve hlavy chobotnice, ale na silných mužov Smeru si netrúfol

Mantinely vidno pri riaditeľoch nemocníc.

EKONOMIKA

Môžu vám zvýšiť cenu uprostred viazanosti, ako to urobilo UPC?

Aj keď človek podpíše viazanosť, nemá istotu, že ju aj dokončí.

Neprehliadnite tiež

Tŕňová koruna v mozgu môže vysvetliť pôvod vedomia

V mozgu myší objavili tri obrovské neuróny. Vychádzajú z oblasti, ktorá má prezývku dirigent vedomia.

Dinosaurus so štyrmi krídlami pomáha odhaliť, ako vznikli vtáky

Rod Anchiornis žil pred 160 miliónmi rokov. Vedci získali jeho podobu vďaka laserom.

Astronóm: Muskov plán je reálny, bolo len otázkou času, kedy sa vrátime k Mesiacu

O súkromnej ceste k Mesiacu hovorí astronóm Ľubomír Hambálek z Astronomického ústavu SAV v Tatranskej Lomnici.

Päť telefónov, ktoré by sme chceli oživiť ako Nokiu 3310

Nokia 3310 oživila spomienky na staré telefóny. Vybrali sme niekoľko zaujímavých modelov, ktoré by sme radi znova používali.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop