Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte
  2. 5 tipov ako na zdravé nôžky v škole
  3. 6 účinkov prírodného slovenského výrobku
  4. Let s prestreleným srdcom: Samovraždy slovenských hercov
  5. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov
  6. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami
  7. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť
  8. Lety do exotiky už aj z Bratislavy
  9. Nonstop banka vo vrecku - aplikácia Mobil Banking
  10. Ako sme jazdili v socializme
  1. Poslanec Borguľa žiada o uvoľnenie parkoviska pre rezidentov
  2. OMV sa postará o pitný režim, bude rozdávať vodu
  3. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte
  4. Leto nekončí!
  5. Očarujúca Srí Lanka: malý ostrov plný prekvapení
  6. 5 tipov ako na zdravé nôžky v škole
  7. Ako sa developer prispôsobil nárokom kupujúceho
  8. Už aj seniori presadajú do SUV
  9. 6 účinkov prírodného slovenského výrobku
  10. Americká ambasáda zaberá pozemky už rok bez nájomnej zmluvy
  1. Let s prestreleným srdcom: Samovraždy slovenských hercov 5 378
  2. Očarujúca Srí Lanka: malý ostrov plný prekvapení 2 922
  3. Ako sme jazdili v socializme 2 196
  4. 6 účinkov prírodného slovenského výrobku 1 721
  5. 5 tipov ako na zdravé nôžky v škole 1 280
  6. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami 1 063
  7. Lety do exotiky už aj z Bratislavy 1 021
  8. Ako sa developer prispôsobil nárokom kupujúceho 988
  9. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte 913
  10. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov 625

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

DOMOV

Prehrali a odišli k medveďom. Danko nie je prvý, kto sa po porážke stratil

Za medveďmi pravidelne chodil Vladimír Mečiar, po neúspešných voľbách sa trikrát vytratil aj Robert Fico.

KOMENTÁRE

Bojkot zasadania vlády vracia Dankovi v hre vážnosť

Tromfom Danka je teraz jeho nevypočítateľnosť, náladovosť.

PRIMÁR

Strachu sa bude dať zbaviť. Vedci ho zničia pomocou svetla

Objav pomôže obetiam traumatizujúcich zážitkov.

Neprehliadnite tiež

Pozerajte naživo úplné zatmenie Slnka v Amerike

Úkaz začne po siedmej hodine večer nášho času.

Pokrývači striech hľadajú zákazky cez satelitné zábery

Pohľad na satelitné mapy pomôže spočítať, koľko bude stáť nový strešný plášť.

Elon Musk a DeepMind žiadajú o zákaz robotov zabijakov

Zbrane a autonómne systémy môžu zmeniť vojny.