Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

Článok pokračuje pod video reklamou

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Na spracúvanie osobných údajov sa vzťahujú Zásady ochrany osobných údajov a Pravidlá používania cookies. Pred zadaním e-mailovej adresy sa, prosím, dôkladne oboznámte s týmito dokumentmi.

Najčítanejšie na SME Tech

Inzercia - Tlačové správy

  1. Infografika: Slováci minuli na Pohode historicky najviac peňazí
  2. OMV robí dovolenku pre vodičov oddychom
  3. S kreditkou začína pohodová dovolenka už na letisku
  4. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo?
  5. Veríte brusniciam pri zápaloch močových ciest? Nemusia stačiť
  6. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne
  7. Dobrú chuť: Letné šaláty a bizarné praktiky food fotografie
  8. Vyberiete si radšej romantický Paríž alebo slnečné Nice?
  9. O asistovanej reprodukcii sa šíri množstvo zavádzajúcich tvrdení
  10. Pivovar Šariš rozdá tisíce eur, o časti peňazí rozhodnú ľudia
  1. GoPass-dovolenka, ktorá sa oplatí
  2. OMV robí dovolenku pre vodičov oddychom
  3. OMV robí dovolenku pre vodičov oddychom
  4. S kreditkou začína pohodová dovolenka už na letisku
  5. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo?
  6. Dubravské Čerešne majú sladké prekvapenie pre najrýchlejších!
  7. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne
  8. Veríte brusniciam pri zápaloch močových ciest? Nemusia stačiť
  9. Infografika: Slováci minuli na Pohode historicky najviac peňazí
  10. Vyberiete si radšej romantický Paríž alebo slnečné Nice?
  1. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne 26 913
  2. Infografika: Slováci minuli na Pohode historicky najviac peňazí 19 565
  3. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo? 18 450
  4. Dobrú chuť: Letné šaláty a bizarné praktiky food fotografie 13 234
  5. Vyberiete si radšej romantický Paríž alebo slnečné Nice? 9 331
  6. O asistovanej reprodukcii sa šíri množstvo zavádzajúcich tvrdení 3 928
  7. Veríte brusniciam pri zápaloch močových ciest? Nemusia stačiť 3 358
  8. Pivovar Šariš rozdá tisíce eur, o časti peňazí rozhodnú ľudia 3 197
  9. Ulovte si last minute dovolenku so zľavou do 70% 2 871
  10. Dubravské Čerešne majú sladké prekvapenie pre najrýchlejších! 2 008

Téma: Roboty


Článok je zaradený aj do ďalších tém Bolesť, Umelá inteligencia

Hlavné správy zo Sme.sk

Dnes píše Matúš Ritomský

Dnes už vieme, že kto nemá zbrojný pas, nie je skutočný Slovan

Maska pacifizmu padla.

SPIŠ KORZÁR

Tatry zasiahla povodeň, viaceré chodníky uzavreli

V severných dolinách Tatier platia obmedzenia.

Neprehliadnite tiež

Záhadný sarkofág otvoria. Koho v ňom nenájdu?

Je niekoľko indícii o pôvode sarkofágu.

Podcast Klik

Klik: Ako budeme platiť za hry (herný špeciál)

Prežijú klasické hry za desiatky eur v ére free to play titulov?

PODCAST ZOOM

Zoom: Fyzik chce vytvoriť stroj času, má dobrý nápad

Hranice vedy sa stretávajú so sci-fi.