Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Legendárna Transsibírska magistrála
  2. Volkswagen a jeho štedrá nádielka modelov
  3. Týchto 18 rád ako ušetriť som mal počuť ešte pred osemnástkou
  4. Venujte na Vianoce darček plný informácií!
  5. Päť faktorov, prečo môže skolabovať slovenský dôchodkový systém
  6. Ceny elektriny rastú. Firmy ale môžu ušetriť
  7. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám
  8. Top First moment dovolenky na leto 2018
  9. Hyundai Kona prekvapí výbavou aj dizajnom
  10. Na tohtoročných trhoch pred Auparkom vystúpi aj Katka Koščová
  1. Legendárna Transsibírska magistrála
  2. Auto ako vianočný darček, rastie záujem o zánovné vozidlá
  3. Vianočný bázar chalaňov
  4. Vianočné mecheche 2017
  5. Volkswagen a jeho štedrá nádielka modelov
  6. Študentskou osobnosťou Slovenska Ing. Martina Majorošová
  7. Majstrovstvá Stavebnej fakulty STU v Bratislave v plávaní 2017
  8. Týchto 8 kritérií by mal kvalitný kolagén spĺňať
  9. Beam Suntory zaznamenal silný rast predaja po zmene distribútora
  10. Zamestnanci a študenti EU v BA darovali radosť a vyčarili úsmev
  1. Legendárna Transsibírska magistrála 25 903
  2. Týchto 18 rád ako ušetriť som mal počuť ešte pred osemnástkou 7 126
  3. Päť faktorov, prečo môže skolabovať slovenský dôchodkový systém 3 912
  4. Naše mobilné bankovníctvo si prišli vyskúšať novinári z Rakúska 3 178
  5. Volkswagen a jeho štedrá nádielka modelov 2 581
  6. Hyundai Kona prekvapí výbavou aj dizajnom 1 446
  7. Top First moment dovolenky na leto 2018 1 379
  8. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám 1 325
  9. Venujte na Vianoce darček plný informácií! 1 210
  10. Týchto 8 kritérií by mal kvalitný kolagén spĺňať 994

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

EKONOMIKA

Fico otáča, odchod do penzie má dostať strop

V roku 2012 štát nastavil vek odchodu do dôchodku na strednú dĺžku dožitia.

ŠPORT

Hamšík vyrovnal gólový rekord Maradonu v drese Neapola

Marek Hamšík dal za Neapol 115 gólov.

KOMENTÁRE

Ako by vyzeral ideálny parlament

V Národnej rade by neboli fašisti ani Smer.

Neprehliadnite tiež

OBJEKTÍV

Spojené štáty odtajnili ďalšie desiatky videí z testov jadrových bômb

Niektoré kamery zachytili výbuch v rýchlosti 2400 snímkov za sekundu.

Ako sa nepohádať cez Vianoce a presvedčiť popieračov vedy

Skúste sa zdržať okamžitého menovania a faktov a radšej porozumejte, prečo sa tak ľudia cítia.

TECH_FM

Mimozemská loď? Pri čudnom objekte pochybujú aj vedci

Cez našu slnečnú sústavu preletelo teleso, ktoré prišlo z veľkej diaľky.

Vlasy v odtoku a mokré ponožky. Desať vecí, ktoré ľudia nenávidia najviac

Čím sú ľudia starší, tým radšej majú kozí syr aj sami seba.

Už nie sme jediní s ôsmimi planétami. Objavili miniverziu našej Slnečnej sústavy

Sústava sa nachádza vyše 2500 svetelných rokov od Zeme v súhvezdí Drak.