SME
Streda, 27. január, 2021 | Meniny má BohušKrížovkyKrížovky

Google vyvíja spôsob, ako 'zabiť' umelú inteligenciu

Čo sa stane, ak sa umelá inteligencia vzoprie človeku?

S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot.S umelou inteligenciou sa rád hrá aj Hollywood. Napríklad vo filme Ja, robot. (Zdroj: MOVIEWEB)

MOUNTAIN VIEW, BRATISLAVA. Problémy sa snažia riešiť po svojom. Umelá inteligencia sa totiž neriadi presnými algoritmami, ale buduje svoju sieť poznatkov. Dokáže vďaka nej riešiť zložité veci jednoduchým spôsobom i vtedy, ak postup nie je možné vopred určiť. 

Čo sa však stane, ak sa umelá inteligencia vzoprie človeku?

Kým mnohí iba upozorňujú na riziká, Google v spolupráci s Oxfordskou univerzitou pracuje na vývoji nástrojov a technológií, ktoré zasiahnu.

Oklamal hru

Hoci je vývoj systémov umelej inteligencie iba v plienkach, drobné poznatky z minulosti ukazujú, že expertné systémy už teraz nachádzajú nepredvídané riešenia.

Skryť Vypnúť reklamu

Automat, ktorý sa mal naučiť neprehrať v hre Tetris, podľa BBC zistil, že riešením nie je iba správne ukladať padajúce dieliky stavebnice na najlepšie miesto.

Stačí naveky pozastaviť hru a prehra sa nedostaví. Je to spôsob, ktorý problém rieši, hoci nie takým spôsobom, ako by chcel človek.

Vývojársky tím Google preto pracuje na vývoji mechanizmov, ktoré majú byť akosi sebakontrolou. Zakročí v prípade, ak si umelá inteligencia vybuduje zo svojich znalostí postup, ktorý nepripadá do úvahy.

Má to byť obdoba ľudského svedomia či rešpektu pred autoritou.

"Je dôležité začať pracovať na bezpečnosti umelej inteligencie skôr, ako sa objavia problémy," vysvetľuje Laurent Orseau z DeepMind divízie firmy Google.

"Bezpečnosť umelej inteligencie má zaistiť, že učiace sa algoritmy pracujú presne takým spôsobom, akým chceme, aby pracovali."

Skryť Vypnúť reklamu

Predchádzať problémom

Problém kontroly nad umelými inteligenciami pritom nepatrí len do oblasti vojenstva. Využitie by mohla nájsť aj pri úplne jednoduchých projektoch: príkladom môžu byť chatboty, ktoré musia vydržať nápor zlomyselných myšlienok a trolov v diskusiách.

Ak naučíte papagája hrešiť, niekoho to pobaví, niekoho to znechutí. Ak však chatbot záchrannej linky naučíte, aby ľuďom v núdzi kázal obesiť sa, môže to spôsobiť stratu životov.

Umelá inteligencia by totiž mohla zistiť, že koniec života znamená i koniec utrpenia.

Skryť Vypnúť reklamu

Najčítanejšie na SME Tech

Skryť Vypnúť reklamu
Skryť Vypnúť reklamu

Téma: Umelá inteligencia

Prečítajte si aj ďalšie články k téme
Článok je zaradený aj do ďalších tém
Roboty
Skryť Vypnúť reklamu
Skryť Vypnúť reklamu

Hlavné správy zo Sme.sk

Pohľad do miestnosti vo Fakultnej nemocnici v Trnave, v ktorej sa podáva vakcína na prevenciu ochorenia COVID-19.

Nemocnice navrhujú, aby sa náhradníci prihlasovali cez portál korona.gov.

13 h
Certifikát z celoplošného skríningového testovania na ochorenie COVID-19 prebiehajúceho od 18. - 26. januára 2021.

Od dnes platia prísnejšie pravidlá.

13 h

V sobotu sa chystajú ďalšie protesty.

10 h

Neprehliadnite tiež

Bronzové predmety v tvare rebierok mohli ľudia v Európe počas Bronzovej doby používať ako peniaze.

Bronzové predmety našli aj v Česku.

18 h
Digitálna rekonštrukcia Psittacosaura ilustruje, ako zviera využívalo kloaku na signalizáciu počas dvorenia.

Vedci našli zachovanú kloaku.

25. jan
Desiatky robotických postavičiek Robi, ktoré si mohli zostrojiť čitatelia japonského časopisu DIY. 34-centimetrov vysoký a jeden kilogram vážiaci robot Robi rozpoznáva vyše 200 japonských fráz, dokáže chodiť, tancovať, behať a hrať futbal.

Roboty sa na ľudí začali podobať.

25. jan
Demänovská jaskyňa Slobody

V tomto roku uplynie 100 rokov od objavenia Demänovskej jaskyne slobody.

25. jan