Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Objavte majestátne Tatry kúsok po kúsku
  2. Najvýhodnejšie ročné online predplatné SME.sk len za 29€
  3. Nový supermarket Fresh otvorili na Aničke
  4. Aké sú gastrotrendy pre rok 2018?
  5. Chcete bývať na dobrom mieste? Zakotvite v Adlerovej!
  6. Egejská riviéra: Ktoré letovisko je pre vás najlepšie?
  7. Slovensko má pralesy, púšť aj kameňopád. Už ste ich videli?
  8. Volkswagen T-Roc: Pre nerozhodných
  9. Leto 2018 v Grécku s odletom z Bratislavy
  10. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku
  1. Objavte majestátne Tatry kúsok po kúsku
  2. Najvýhodnejšie ročné online predplatné SME.sk len za 29€
  3. Nový supermarket Fresh otvorili na Aničke
  4. Attracting talent – Why Millennials are choosing to join Johnson
  5. Aké sú gastrotrendy pre rok 2018?
  6. Chcete bývať na dobrom mieste? Zakotvite v Adlerovej!
  7. Alarica – new business project in the market of shoes
  8. Ako jazdiť na snehu alebo ľade?
  9. Egejská riviéra: Ktoré letovisko je pre vás najlepšie?
  10. Slovensko má pralesy, púšť aj kameňopád. Už ste ich videli?
  1. Slovensko má pralesy, púšť aj kameňopád. Už ste ich videli? 6 832
  2. Egejská riviéra: Ktoré letovisko je pre vás najlepšie? 6 302
  3. Nový supermarket Fresh otvorili na Aničke 4 978
  4. Objavte majestátne Tatry kúsok po kúsku 3 427
  5. Volkswagen T-Roc: Pre nerozhodných 3 065
  6. Najvýhodnejšie ročné online predplatné SME.sk len za 29€ 2 653
  7. Chcete bývať na dobrom mieste? Zakotvite v Adlerovej! 2 557
  8. Leto 2018 v Grécku s odletom z Bratislavy 2 259
  9. Aké sú gastrotrendy pre rok 2018? 1 840
  10. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku 1 500

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

DOMOV

Kosík na videu z afrického väzenia odpovedá Kaliňákovi

Gašpar s Kaliňákom spochybňovali pravosť vyhlásenia bývalého siskára Ľuboša Kosíka o únose prezidentovho syna. Kosík poslal video ako dôkaz.

TV

Kosík vo videohovore z afrického väzenia: Zaručte mi bezpečnosť

Bývalý siskár potvrdzuje svoju totožnosť.

SVET

Zeman ťahal Drahoša do bahna, no on sa nedal. Znamená to prehru?

Český prezident sa vôbec sa nezmenil.

Neprehliadnite tiež

Vytvorili microSDXC kartu s najväčšou pamäťou

Karta od Integral Memory by mala byť v predaji od februára.

Po prvý raz zmapovali zmysly rastlín. Už vieme ako cítia

Namiesto zmyslových orgánov využívajú proteíny. Bez niektorých sa všetko zrúti.

Fyzikálna záhada. Neutrónové hviezdy svietia aj po zrážke

Dosvit po zrážke neutrónových hviezd je čoraz jasnejší, vyvracia očakávania.