Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Hypotéka pre mladých? Len do konca roka
  2. Posledná šanca na Nobelovu cenu
  3. Kŕčové žily: Nepekné a nebezpečné
  4. Zvládnete tento test o jablkách a cideroch? Otestujte sa
  5. Vydanie denníka SME spolu s knihou Ľubomíra Feldeka
  6. Premýšľate nad kúpou last minute dovolenky v Egypte?
  7. Vaginálne mykózy – ako sa im brániť?
  8. Bolesti hlavy, brucha či únava? Môžu za to možno aj parazity!
  9. Neviete si vybrať správne miesto na dovolenku v Grécku?
  10. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a.
  1. Hypotéka pre mladých? Len do konca roka
  2. Týchto 5 adrenalínových zážitkov na dovolenke radšej neskúšajte
  3. Posledná šanca na Nobelovu cenu
  4. Zvládnete tento test o jablkách a cideroch? Otestujte sa
  5. Mladí futbalisti získali takmer 50 tisíc eur
  6. OMV modernizuje čerpacie stanice. Prioritou je pohodlie zákazník
  7. Aj zmrzlina podlieha trendom, mali ste už špenátovú?
  8. Prémiovosť slovenského trhu rastie, dovozová Metaxa je na čele
  9. Neseďte doma, cestujte z Košíc do sveta
  10. Vydanie denníka SME spolu s knihou Ľubomíra Feldeka
  1. Aký bude váš doplnkový dôchodok 9 311
  2. Bolesti hlavy, brucha či únava? Môžu za to možno aj parazity! 4 393
  3. Vydanie denníka SME spolu s knihou Ľubomíra Feldeka 4 174
  4. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a. 3 436
  5. Vaginálne mykózy – ako sa im brániť? 3 140
  6. Neviete si vybrať správne miesto na dovolenku v Grécku? 2 984
  7. Premýšľate nad kúpou last minute dovolenky v Egypte? 2 824
  8. Jarabinky Grande odštartovali predaj zaujímavými cenami bytov 2 501
  9. Zvládnete tento test o jablkách a cideroch? Otestujte sa 2 049
  10. Jednoduchá mobilná tlač z vášho smartfónu, alebo tabletu? 1 818

Hlavné správy zo Sme.sk

DOMOV

Fico chcel futbalom znižovať napätie v parlamente

Robert Fico bol húževnatý koncový hráč spomína exposlanec Galbavý.

SVET

Austrálska polícia obvinila vatikánskeho kardinála zo sexuálneho zneužívania

Stal sa najvyššie postaveným vatikánskym predstaviteľom, ktorého obvinili zo sexuálnych deliktov.

DOMOV

Stal sa členom predstavenstva VšZP. Nemal súpera

Oznam bol v novinách na športovej strane.

KOMENTÁRE

Kým nezmizne MiG, Gajdoš bude v kresle

V normálnom štáte by sa minister obrany rána vo funkcii nedožil.

Neprehliadnite tiež

Volvo má problém s kengurami. Nedokáže ich rozoznať

Systému na rozpoznávanie zvierat robí problém atypický pohyb kengúr.

Vedci vyriešili tisícročnú záhadu jasnej nočnej žiary

Výskumníci sa pozreli na fenomén, ktorý spomínajú už antické texty.

Vyvíjajú videohru, ktorá má pomôcť odhaliť už rané štádium Alzheimera

Včasné diagnostikovanie choroby môže oddialiť nástup prvých príznakov.

Vyriešili záhadu, ktorá trápila Darwina. Našli miesto pre koňa s chobotom

Macrauchenia pripomínala mnohé zvieratá, jej telo bolo pre vedcov záhadou. Odhalili ho vďaka DNA.