Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Aký bude váš doplnkový dôchodok
  2. Vydanie denníka SME spolu s knihou Ľubomíra Feldeka
  3. Premýšľate nad kúpou last minute dovolenky v Egypte?
  4. Vaginálne mykózy – ako sa im brániť?
  5. Bolesti hlavy, brucha či únava? Môžu za to možno aj parazity!
  6. Neviete si vybrať správne miesto na dovolenku v Grécku?
  7. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a.
  8. Jednoduchá mobilná tlač z vášho smartfónu, alebo tabletu?
  9. Vďaka úveru na rekonštrukciu môžete ušetriť tisícky EUR
  10. Zažite vašu vysnívanú dovolenku na Bali
  1. Aj zmrzlina podlieha trendom, mali ste už špenátovú?
  2. Prémiovosť slovenského trhu rastie, dovozová Metaxa je na čele
  3. Neseďte doma, cestujte z Košíc do sveta
  4. Vydanie denníka SME spolu s knihou Ľubomíra Feldeka
  5. Kŕčové žily: nepekné a nebezpečné
  6. Študenti obhajovali návrhy na využitie Pisztoryho paláca
  7. Turistický nosič pre malého dobrodruha?
  8. Kúpte si nehnuteľnosť v 5* luxusnom rezorte v zálive Sistiana
  9. Odmeny za diplomové práce na Stavebnej fakulte STU v Bratislave
  10. Zmluva o nájme pre ambasádu USA neoprávnene zaradená do programu
  1. Aký bude váš doplnkový dôchodok 10 551
  2. Bolesti hlavy, brucha či únava? Môžu za to možno aj parazity! 4 794
  3. Od 1. júla už prestanete chodiť na poštu! 4 738
  4. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a. 3 740
  5. Vaginálne mykózy – ako sa im brániť? 3 562
  6. Jarabinky Grande odštartovali predaj zaujímavými cenami bytov 3 246
  7. Neviete si vybrať správne miesto na dovolenku v Grécku? 3 184
  8. Premýšľate nad kúpou last minute dovolenky v Egypte? 3 164
  9. V Prešove sa dnes tankuje za euro. Aj prémiové palivá 2 564
  10. Neobvyklý objav, ktorý umožňuje zvládnuť angličtinu za 2 týždne 2 225

Hlavné správy zo Sme.sk

DOMOV

Nacionalistický kňaz pomáha šíriť propagandu ĽSNS. Z peňazí Kaliňákovho rezortu

Ján Košiar, ktorý otvorene podporuje kotlebovcov, píše pre časopis Zväzu protikomunistického odboja.

KOMENTÁRE

Antifašisti ani antikomunisti to nepochopili

Neexistuje sloboda len pre jednu vybranú skupinu.

EKONOMIKA

Volkswagen: Odborári dostali to, čo sme im núkali pred štrajkom

Na jar ponúkal Volkswagen zvýšenie platov o 12 percent.

KULTÚRA

Po filme Špina zostáva pocit propagandy. Takto sa umenie nerobí

Tereza Nvotová svojím filmom vášnivo obžalúva. Lenže koho?

Neprehliadnite tiež

Olivovým olejom možno zasiahnuť proti Alzheimerovej chorobe

Štúdia ukázala, že hlavná zložka stredomorskej stravy pomáha zachovať zdravie neurónov.

Smartfón vás robí hlúpejšími. Stačí, že je po ruke

Mozog sa podvedome snaží nezobrať telefón do ruky.

Menej úrazov detí na bicykloch, Holanďania im zablokujú mobily

Múdry zámok sa odomkne iba pod podmienkou, že mobil zablokuje prístup k sieti a aplikáciám.

Technológia načúva výstrelom, ihneď zavolá políciu

Na miesto zločinu prichádzajú policajti vďaka dohľadovému systému skôr. Citlivý mikrofón zachytí i to, čo kamera nevidí.