Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.(Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Vzorový byt v projekte Nobelova
  2. Slováci čoskoro lídrami vo využívaní inteligentných domácností
  3. Kĺby starnú s nami. S týmito radami ich udržíte fit čo najdlhšie
  4. Zábavný aj sebavedomý
  5. Obľúbené letné pneumatiky Matador Hectorra v novej generácii 3
  6. Kursalon Trenčianske Teplice: Výborné jedlo a chutné pivo
  7. Loďou Meraviglia po Stredozemnom mori
  8. Bezpečnostný pás vám chráni život, antivírus váš virtuálny svet
  9. Antibiotiká nie sú cukríky. Naozaj viete, kedy ich máte brať?
  10. Ikonický Harley-Davidson za bezkonkurenčnú cenu
  1. Poradňa: Ako vybrať účet pre mladých
  2. Sajfa odkázal študentom:„Buďte nároční a vydržte!“
  3. S Kulinariom chutí jar lepšie!
  4. Výstavisko Agrokomplex opäť plné poľnohospodárskej techniky
  5. Udelenie akreditácie (certifikátu) pre Aktuárstvo na EU v BA
  6. Vzorový byt v projekte Nobelova
  7. Do ankety Slovenka roka 2017 je nominovaná aj Adriana Kolesárová
  8. Pripomenuli si Svetový deň vody 2017
  9. Vlastníci bytov sa zatiaľ požiarnym zábranám vyhýbajú
  10. Nový Country Manager Operations IMMOFINANZ na Slovensku
  1. Kĺby starnú s nami. S týmito radami ich udržíte fit čo najdlhšie 20 978
  2. Loďou Meraviglia po Stredozemnom mori 7 251
  3. Ikonický Harley-Davidson za bezkonkurenčnú cenu 6 101
  4. Kursalon Trenčianske Teplice: Výborné jedlo a chutné pivo 4 172
  5. Gamifikácia: Nový hit v učení finančnej gramotnosti na ZŠ 3 873
  6. Testovanie elektrobicyklov v košickom Cassovare 3 265
  7. Bývanie, ktoré vás oslobodí od stresu 3 171
  8. Obľúbené letné pneumatiky Matador Hectorra v novej generácii 3 2 949
  9. Antibiotiká nie sú cukríky. Naozaj viete, kedy ich máte brať? 2 816
  10. Zábavný aj sebavedomý 2 689

Hlavné správy zo Sme.sk

KOMENTÁRE

Nemáme lágre, ale školy. Prečo má Európa dôvod oslavovať (píše Michal Havran)

Náš kontinent zažil vojny, milióny mŕtvych a zmrzačených.

KULTÚRA

Relácia Sedem sa vracia. Nič nečakajte, vraví Milan Lasica

Humoristická relácia nebola na obrazovkách šesť rokov.

KOMENTÁRE

Rok nádeje pre maniakov. Čo sa deje za múrmi ruského Alcatrazu?

Niektorí sa môžu dostať na slobodu.

Neprehliadnite tiež

Päť máp, ktoré zmenia vaše vnímanie sveta

Mapa, kde je navrchu juh je rovnako správna, ako tradičná mapa so severom.

OBJEKTÍV

Astronauti odfotili výbuch sopky z vesmíru

Posádka Medzinárodnej vesmírnej stanice pozorovala eurpciu najaktívnejšej európskej sopky.

Polovica Android mobilov má kvôli výrobcom zanedbanú bezpečnosť

Výrobcovia mobilov neponúkajú používateľom bezpečnostné záplaty.

Hackeri pýtajú od Apple výpalné, firmu hrozba neznepokojuje

Hackeri zvolili nezvyčajnú taktiku pri vydieraní. Upozorňujú na seba skôr, ako spustia svoju operáciu.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop