Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

Článok pokračuje pod video reklamou

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Na spracúvanie osobných údajov sa vzťahujú Zásady ochrany osobných a Pravidlá používania cookies. Pred zadaním e-mailovej adresy sa, prosím, dôkladne oboznámte s týmito dokumentmi.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Ako dlho trvá vybavenie hypotéky? Zopár dní, ale aj pár týždňov
  2. Nedocenený génius - prečo chýba v našich knižniciach?
  3. Dovolenka s deťmi v Egypte a tipy na overené hotely
  4. Trpký darček od vlády: prichádza nová 8 % daň z poistiek
  5. Vynovená OMV v Košiciach ponúka príjemnú atmosféru i nové služby
  6. Keď Slováci krotia morský vietor
  7. Čo si myslia mamy youtuberov o tom, čo robia ich deti?
  8. Volkswagen Touareg jazdí lepšie, než sme čakali
  9. Máte už program pre deti na túto sobotu?
  10. UNIQA poisťovňa sa sťahuje do Einsteinova Business Center
  1. Predstavenie projektu Ružomberok v pohybe
  2. OMV ponúkne svojim zákazníkom chute známeho šéfkuchára
  3. OMV ponúkne zákazníkom chute známeho šéfkuchára Braňa Križana
  4. Dovolenka s deťmi v Egypte a tipy na overené hotely
  5. Trpký darček od vlády: prichádza nová 8 % daň z poistiek
  6. Ako dlho trvá vybavenie hypotéky? Zopár dní, ale aj pár týždňov
  7. Všetko, čo rodiny milujú
  8. Bratislava má najmodernejšiu linku na triedenie surovín
  9. Vynovená OMV v Košiciach ponúka príjemnú atmosféru i nové služby
  10. Nižšie náklady vo firme? Tri tipy, kde sa dá ušetriť
  1. Čo si myslia mamy youtuberov o tom, čo robia ich deti? 24 038
  2. Pätnásť destinácií na letnú dovolenku s odletom z Bratislavy 14 537
  3. Trpký darček od vlády: prichádza nová 8 % daň z poistiek 13 480
  4. Chystáte výlet do Rakúska? Toto miesto má najlepšie zážitky 7 018
  5. Nedocenený génius - prečo chýba v našich knižniciach? 6 400
  6. Dovolenka s deťmi v Egypte a tipy na overené hotely 5 787
  7. Ste si istí, že máte zdravé srdce? Skontrolujte si ho zadarmo 5 255
  8. Volkswagen Touareg jazdí lepšie, než sme čakali 5 095
  9. Vynovená OMV v Košiciach ponúka príjemnú atmosféru i nové služby 3 778
  10. Nižšie náklady vo firme? Tri tipy, kde sa dá ušetriť 3 432

Téma: Roboty


Článok je zaradený aj do ďalších tém Bolesť, Umelá inteligencia

Hlavné správy zo Sme.sk

DOMOV

Novinár Hanus: Keď som zistil, že som sa v kauze Cervanová mýlil, nemohol som spať

Niektoré katolícke média neinformovali o kauze Bezák, lebo sa rozhodli, že budú láskavé, aby neznepokovali čitateľov, vraví MARTIN HANUS.

TECH

Ako si vybrať najlepší fotoaparát podľa toho, čo chcete fotiť

Od lacných kompaktov až po drahú zrkadlovku.

KOMENTÁRE

Danko s Ficom si dávno zvykli na Bugára, ktorý nereptá

Bugár pripravil pre Fica s Dankom naozaj nepríjemnú situáciu.

Neprehliadnite tiež

PODCAST KLIK

Klik: Google dobieha Amazon na trhu, ktorému vládne

Komentovaný prehľad technologických správ týždňa. O umelej inteligencii v poľnohospodárstve, domácich hlasových asistentoch a ideálnych fotoaparátoch na letné dovolenky.

Ľadové srdce naznačuje, že Pluto vzniklo z miliardy komét

Odhalili chemické zložene trpasličej planéty.

V Antarktíde objavili masívne kaňony, môžu urýchliť dvíhanie hladiny morí

Doteraz o nich nevedeli. Najdlhší kaňon má viac ako 350 kilometrov.

Pozemské deti nemajú na Marse šancu

Budú kolonizátormi červenej planéty ľudia so zmenenou DNA?

Čo všetko o vás vie váš telefón?

Aplikáciam nedávajte súhlas len tak, kontrolujte, aké dáta o vás zbierajú.