Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

Článok pokračuje pod video reklamou

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Ste si istí, že svoj smartfón využívate naplno?
  2. Talent - vzdelanie - úspech
  3. Elektro-horúčka v podaní Volkswagenu
  4. Spoznáte týchto 11 filmov, v ktorých sa objavil McDonald’s?
  5. Nepýtajte od lekára antibiotiká pri chrípke či nádche
  6. Máte hypotéku a chcete lepšie spávať?
  7. 16 tipov na poznávacie zájazdy so slovenským sprievodcom
  8. Slovanet spustil LTE internet aj na juhu Tokaja
  9. Hľadá sa: Vzťah z rozumu. Darujte na Valentína predplatné SME.sk
  10. Dobrú chuť: príloha o dobrom jedle a varení v denníku SME
  1. Depresia. Kedy ju treba liečiť?
  2. Bratislavčania môžu žiadať príspevok na polopodzemné kontajnery
  3. Mototechna predala za päť rokov už 40 tisíc áut
  4. HubHub spája sily s Neulogy
  5. Na SPU v Nitre vznikla Konfuciova trieda
  6. Byt alebo dom? V Novom Ružinove vyriešili dilemu za vás
  7. Ak Vás nikdy nič nebolelo, nestrácajte čas čítaním tohto článku!
  8. Uvažujete nad solárnymi kolektormi? Získajte príspevok až 1750 €
  9. Ste si istí, že svoj smartfón využívate naplno?
  10. Príbeh tradičného družstva - príbeh Antonína Kvapila
  1. 16 tipov na poznávacie zájazdy so slovenským sprievodcom 28 811
  2. Spoznáte týchto 11 filmov, v ktorých sa objavil McDonald’s? 21 042
  3. Mio MiVue 733 WiFi - snadno přeneste záznam autokamery do mobilu 11 141
  4. Máte hypotéku a chcete lepšie spávať? 7 194
  5. Ste si istí, že svoj smartfón využívate naplno? 7 044
  6. Dobrú chuť: príloha o dobrom jedle a varení v denníku SME 6 401
  7. Nepýtajte od lekára antibiotiká pri chrípke či nádche 4 417
  8. Elektro-horúčka v podaní Volkswagenu 3 975
  9. Nové komorné bývanie v Karlovke? Karlove 3 122
  10. Nepýtajte od lekára antibiotiká pri chrípke či nádche 2 424

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

SPIŠ KORZÁR

Auto narazilo na Spiši do skupiny detí, zranených je dvanásť školákov

Nehoda sa stala pri Spišskom Bystrom v okrese Poprad.

DOMOV

O čom je spor o Istanbulskom dohovore (otázky a odpovede)

Dohovor má predchádzať domácemu násiliu na ženách.

ŠPORT

Murínová: Poliaková podala taký výkon, až mi tiekli slzy

Fialková vnútorne s tým stále bojovala, priznáva jej trénerka.

KOMENTÁRE

Fico ustúpil tvrdošínskej pästi

Ficovo vyhýbanie sa akémukoľvek konfliktu so stredovým voličom je esenciálnou príčinou stagnácie.

Neprehliadnite tiež

Keramika aj svätyňa. Najväčšia zatopená jaskyňa odhaľuje mayské artefakty

Nájdené ľudské pozostatky siahajú ešte hlbšie do minulosti, než sme čakali.

Pod obrazom Pabla Picassa objavili maľbu iného umelca

Krajinka ukazuje barcelonské okolie.

NOVINKY NA SME.SK

Stiahnite si novú aktualizáciu iOS aplikácie SME.sk

Aktualizácia aplikácie prináša podporu pre iPhone X, vyhľadávanie v aplikácii, profily autorov, vylepšené notifikácie a mnohé ďalšie.

Amatérsky astronóm náhodou zachytil prvý výbuch hviezdy

Jeho šanca bola jedna ku sto miliónom.

Európska sonda bude pátrať po známkach života na Marse

Sonda bude pátrať predovšetkým po metáne.