Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. 5 krokov k vlastnému bývaniu
  2. Ovládajte svoje vozidlo mobilom
  3. Todos predstaví 4 americké premiéry na Autosalóne
  4. Voda, kotol, vymknutie: Čo stoja najčastejšie domáce katastrofy?
  5. Žijú, lebo sa nevzdali. Príbehy ľudí bojujúcich za svoje zdravie
  6. Nový Volkswagen Arteon sa predstaví na bratislavskom autosalóne
  7. Last minute dovolenka sa dá kupiť výhodne už teraz
  8. Legendárna Štefánka opäť ožíva pod sieťou Pulitzer family
  9. Päť tipov, kam na predĺžený víkend v máji
  10. Inteligencia vo všetkom
  1. Poslanci dnes dali jasne najavo, že plot na námestí nechcú
  2. HB Reavis so silnými výsledkami za rok 2016
  3. 3 šťavnaté spôsoby, ako povzbudiť výkon mozgu
  4. Najvyššie ocenenie štvrtýkrát pre Martinus
  5. Budúcnosť EÚ a inteligentných miest
  6. Todos predstaví 4 americké premiéry na Autosalóne
  7. Ekonomický a účtovný softvér Humanet oslavuje
  8. Žijú, lebo sa nevzdali. Príbehy ľudí bojujúcich za svoje zdravie
  9. Voda, kotol, vymknutie: Čo stoja najčastejšie domáce katastrofy?
  10. Ovládajte svoje vozidlo mobilom
  1. Legendárna Štefánka opäť ožíva pod sieťou Pulitzer family 24 773
  2. Last minute dovolenka sa dá kupiť výhodne už teraz 8 529
  3. Päť tipov, kam na predĺžený víkend v máji 6 532
  4. Žijú, lebo sa nevzdali. Príbehy ľudí bojujúcich za svoje zdravie 6 411
  5. 5 krokov k vlastnému bývaniu 6 114
  6. Nové auto alebo radšej jazdenka? 9 rád pre správne rozhodnutie 5 170
  7. Nový Volkswagen Arteon sa predstaví na bratislavskom autosalóne 4 074
  8. Voda, kotol, vymknutie: Čo stoja najčastejšie domáce katastrofy? 3 576
  9. Volvo V90 Cross Country je pripravené na každé dobrodružstvo 3 090
  10. Moderný bungalov očami mladých architektov 1 586

Hlavné správy zo Sme.sk

KOMENTÁRE

Bez Radičovej, bez Kisku a bez obáv: v čom majú Mihál s Beblavým nevýhodu

Postačia úroveň a normálnosť na úspech v politike? Alebo budú práve naopak, hendikepom?

DOMOV

SME Naživo: Kaliňák vytvoril útvar, ale Zem a Vek vychádzať neprestal

V diskusii SME diskutujú odborníci o propagande.

KOMENTÁRE

Kto porazí Zemana a Babiša alebo hľadanie nádeje v Česku

Čechov čakajú prezidentské aj parlamentné voľby.

Neprehliadnite tiež

Mopslík zmenšoval iné psy. Ukázali najrozsiahlejší strom psích plemien

Do spoločných skupín patria aj psy, ktoré sa na seba vôbec nepodobajú.

Ako sa zo starých fliaš stanú lepšie batérie

Drvené sklo namiesto uhlíka môže byť novým krokom vo vývoji lítiových batérií.

Hacker premenil 2 milióny hardvérov na nefunkčné tehly

Škodlivý kód môže napadnúť aj set-top boxy.

Veľké finále sa začalo. Sonda Cassini sa prvýkrát vnorila medzi prstence a Saturn

Sonda začína finále nabité vedou, nakoniec zhorí ako meteoroid.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop