Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Legendárna Transsibírska magistrála
  2. Volkswagen a jeho štedrá nádielka modelov
  3. Týchto 18 rád ako ušetriť som mal počuť ešte pred osemnástkou
  4. Venujte na Vianoce darček plný informácií!
  5. Päť faktorov, prečo môže skolabovať slovenský dôchodkový systém
  6. Ceny elektriny rastú. Firmy ale môžu ušetriť
  7. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám
  8. Top First moment dovolenky na leto 2018
  9. Hyundai Kona prekvapí výbavou aj dizajnom
  10. Na tohtoročných trhoch pred Auparkom vystúpi aj Katka Koščová
  1. Legendárna Transsibírska magistrála
  2. Auto ako vianočný darček, rastie záujem o zánovné vozidlá
  3. Vianočný bázar chalaňov
  4. Vianočné mecheche 2017
  5. Volkswagen a jeho štedrá nádielka modelov
  6. Študentskou osobnosťou Slovenska Ing. Martina Majorošová
  7. Majstrovstvá Stavebnej fakulty STU v Bratislave v plávaní 2017
  8. Týchto 8 kritérií by mal kvalitný kolagén spĺňať
  9. Beam Suntory zaznamenal silný rast predaja po zmene distribútora
  10. Zamestnanci a študenti EU v BA darovali radosť a vyčarili úsmev
  1. Legendárna Transsibírska magistrála 14 654
  2. Týchto 18 rád ako ušetriť som mal počuť ešte pred osemnástkou 9 008
  3. Naše mobilné bankovníctvo si prišli vyskúšať novinári z Rakúska 4 859
  4. Päť faktorov, prečo môže skolabovať slovenský dôchodkový systém 4 827
  5. Venujte na Vianoce darček plný informácií! 2 547
  6. Volkswagen a jeho štedrá nádielka modelov 1 974
  7. Hyundai Kona prekvapí výbavou aj dizajnom 1 727
  8. Top First moment dovolenky na leto 2018 1 580
  9. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám 1 550
  10. Týchto 8 kritérií by mal kvalitný kolagén spĺňať 1 007

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

DOMOV

Podozrivé inzeráty lákajú na zdravotné pomôcky. Sú to šmejdy

Načúvací prístroj alebo strojček, ktorý narovnáva krivý palec na nohe, by si ľudia mali vyberať u lekára, nie v inzerátoch.

KOMENTÁRE

Komédia na súdoch. Prečo nie sú prípady Majského a Čuňu uzavreté

Treba sa pýtať, kde sme urobili chybu.

PRIMÁR

Desať potravín, ktoré nabijú telo energiou

Proti únave a vyčerpaniu sa dá bojovať aj jedlom.

Neprehliadnite tiež

OBJEKTÍV

Spojené štáty odtajnili ďalšie desiatky videí z testov jadrových bômb

Niektoré kamery zachytili výbuch v rýchlosti 2400 snímkov za sekundu.

Ako sa nepohádať cez Vianoce a presvedčiť popieračov vedy

Skúste sa zdržať okamžitého menovania a faktov a radšej porozumejte, prečo sa tak ľudia cítia.

TECH_FM

Mimozemská loď? Pri čudnom objekte pochybujú aj vedci

Cez našu slnečnú sústavu preletelo teleso, ktoré prišlo z veľkej diaľky.

Vlasy v odtoku a mokré ponožky. Desať vecí, ktoré ľudia nenávidia najviac

Čím sú ľudia starší, tým radšej majú kozí syr aj sami seba.

Už nie sme jediní s ôsmimi planétami. Objavili miniverziu našej Slnečnej sústavy

Sústava sa nachádza vyše 2500 svetelných rokov od Zeme v súhvezdí Drak.