Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Profesionálne sa predaj nehnuteľností dá robiť jedine exkluzívne
  2. Zažite zmenu s najpredávanejším SUV Hyundai Tucson
  3. Mimoriadna kvalita unikátnych Kia SUV modelov
  4. Výnimočný obchod robia výnimoční zamestnanci
  5. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal?
  6. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy)
  7. Štatutári, máte už prístup k elektronickej schránke?
  8. Zabudnite na nové a neekologické PC. Je tu Refurbished!
  9. Volkswagen Arteon je výkladná skriňa technológií
  10. Yeme chce byť výnimočný obchod aj vďaka výnimočným zamestnancom
  1. Obyvatelia si zabezpečujú domácnosti bezpečnostnými dverami
  2. Slováci sa hojne stávajú majiteľmi nehnuteľností v cudzine
  3. Prečo mamy lákali deti na mobil, kľúče či diaľkové ovládanie?
  4. Zažite zmenu s najpredávanejším SUV Hyundai Tucson
  5. Neviete si rady s vaším ročným vyúčtovaním? Pomôže vám FiiFree
  6. Nadácia Orange ocenila Detský čin roka
  7. Výnimočný obchod robia výnimoční zamestnanci
  8. Mimoriadna kvalita unikátnych Kia SUV modelov
  9. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal?
  10. Aj vy môžete mať pekný trávnik, poradí vám expert
  1. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal? 18 192
  2. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy) 16 650
  3. Poznáte pôvod slovenských slov? Otestujte sa 7 330
  4. Volkswagen Arteon je výkladná skriňa technológií 6 953
  5. Lepšie bývať na vidieku, alebo v meste? Hľadali sme výhody 6 372
  6. Zabudnite na nové a neekologické PC. Je tu Refurbished! 6 292
  7. Čím všetkým som si prešla, aby som sa naučila po anglicky 4 952
  8. Yeme chce byť výnimočný obchod aj vďaka výnimočným zamestnancom 4 849
  9. Štatutári, máte už prístup k elektronickej schránke? 4 007
  10. Mimoriadna kvalita unikátnych Kia SUV modelov 3 376

Hlavné správy zo Sme.sk

DOMOV

Má anorexiu a 26 kilogramov. Jej manžel je zúfalý, lebo jej nikto nevie pomôcť

Povedali mi, že s takouto diagnózou nepochodíte nikde na Slovensku. Nikto vám ju nezoberie, spomína manžel na reakciu samosprávy.

DOMOV

Minúta po minúte: Mediálny výbor čaká ešte Ťapáková a Dírer

O post šéfa zabojuje deväť kandidátov.

Neprehliadnite tiež

Múdre autá sa nebudú musieť učiť na cestách, prichádza éra simulácií

Nový prístup môže urýchliť vývoj technológií, ktoré majú zaručiť bezpečnosť samojazdiacich áut.

Fotografie z dovolenky a súkromné správy. Google vyhľadáva aj vo vašich osobných dátach

Vyhľadávač zindexuje dáta v cloude, uvidí ich iba vlastník.

Boli sme naivní, povedala NASA, keď videla prvé fotky podbruška Jupiteru

Nové fotografie pólov Jupitera od sondy Juno rozbili doterajšie teórie o fungovaní plynných obrov.