Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Zľava 3000 € na 3-izbové byty v Jarabinkách
  2. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to)
  3. Stačí len mechanické, alebo elektronické zabezpečenie vozidla?
  4. Aký vplyv by mal konflikt v Kórei na vaše investície?
  5. Atraktívnejšie učenie vďaka digitálnym technológiám
  6. JUDr. Barbora Sabó: Dobrý maklér šetrí čas, peniaze i nervy!
  7. Rastie nám pokrivená generácia?
  8. Intímna hygiena – celoročná záležitosť
  9. Zanzibar je plný lákadiel na dokonalú exotickú dovolenku
  10. Pivovar Šariš podporí cestovný ruch v Prešovskom kraji
  1. FSEV UK v Bratislave: Prax je súčasťou študijných programov
  2. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to)
  3. Hyundai Tucson Shadow určite nezostane v tieni.
  4. Stačí len mechanické, alebo elektronické zabezpečenie vozidla?
  5. Exkurzia odborárov a absolventov SvF STU v Bratislave 2017
  6. Zvolen: Zvolenčania myslia na zabezpečenie svojich domovov
  7. Detské zúbky sú veda
  8. Atraktívnejšie učenie vďaka digitálnym technológiám
  9. Aký vplyv by mal konflikt v Kórei na vaše investície?
  10. Zľava 3000 € na 3-izbové byty v Jarabinkách
  1. Zanzibar je plný lákadiel na dokonalú exotickú dovolenku 8 466
  2. Rastie nám pokrivená generácia? 3 134
  3. Intímna hygiena – celoročná záležitosť 2 696
  4. 3 mýty, ktorým ste možno uverili. Ale ako je to naozaj? 2 072
  5. Plug-in, hybrid alebo elektromobil? Poradíme, ako správne vybrať 1 236
  6. Kedy sa refinancovanie oplatí? 1 226
  7. JUDr. Barbora Sabó: Dobrý maklér šetrí čas, peniaze i nervy! 1 069
  8. Pivovar Šariš podporí cestovný ruch v Prešovskom kraji 987
  9. Zľava 3000 € na 3-izbové byty v Jarabinkách 826
  10. Novinka v realitnom biznise! Zatiaľ dostupné len v Grand Koliba 798

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

DOMOV

Kažimír prezidentovi Kiskovi odporučil vzdať sa daňového tajomstva.

Kiskovi sa do vysvetľovania financovania kampane nechce, mimovládky by čakali viac.

DOMOV

Ľudí “na konci sveta“ župan v Prešove nezaujíma

Ľudí v Prešovskom samosprávnom kraji trápia cesty a nezamestnanosť.

Čo je nové na SME

SMEnaživo: Diskusia s kandidátmi na bratislavského župana

Príďte dnes o 18.00 diskutovať.

Neprehliadnite tiež

Ničnerobenie a knihy. Desať najlepších spôsobov, ako si oddýchnete

Najväčšia štúdia o oddychu mala prekvapivé výsledky.

Najrýchlejší kábel zrýchli internetové prepojenie medzi Európou a Amerikou

Kábel rozloží riziko výpadkov pri katastrofách na východnom pobreží USA.

Ako vedci vyvíjajú roboty, ktoré chodia ako ľudia

Kývať nohami nestačí. Ak chcú roboty chodiť, musia najprv pochopiť možnosti svojho tela.

Odomykanie mobilov obrazcom nie je bezpečné

Všetci rozmýšľame príliš podobne.