Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Mimoriadna kvalita unikátnych Kia SUV modelov
  2. Výnimočný obchod robia výnimoční zamestnanci
  3. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal?
  4. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy)
  5. Štatutári, máte už prístup k elektronickej schránke?
  6. Zabudnite na nové a neekologické PC. Je tu Refurbished!
  7. Volkswagen Arteon je výkladná skriňa technológií
  8. Yeme chce byť výnimočný obchod aj vďaka výnimočným zamestnancom
  9. Lepšie bývať na vidieku, alebo v meste? Hľadali sme výhody
  10. Poznáte pôvod slovenských slov? Otestujte sa
  1. Neviete si rady s vaším ročným vyúčtovaním? Pomôže vám FiiFree
  2. Nadácia Orange ocenila Detský čin roka
  3. Výnimočný obchod robia výnimoční zamestnanci
  4. Mimoriadna kvalita unikátnych Kia SUV modelov
  5. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal?
  6. Aj vy môžete mať pekný trávnik, poradí vám expert
  7. Výrobky, ktoré chutia a voňajú ako z domácej zabíjačky
  8. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy)
  9. Profesionálne sa predaj nehnuteľností dá robiť jedine exkluzívne
  10. HÝBSA Slovensko odštartovalo turné po Slovensku. Buďte pri tom!
  1. Táto dvojica stojí za zrodom slovenského internetu. Ako začínal? 17 254
  2. 14 tipov na exotickú dovolenku, ktorú si môžete dovoliť (aj vy) 15 940
  3. Poznáte pôvod slovenských slov? Otestujte sa 9 029
  4. Lepšie bývať na vidieku, alebo v meste? Hľadali sme výhody 7 705
  5. Volkswagen Arteon je výkladná skriňa technológií 7 480
  6. Zabudnite na nové a neekologické PC. Je tu Refurbished! 6 704
  7. Čím všetkým som si prešla, aby som sa naučila po anglicky 6 469
  8. Yeme chce byť výnimočný obchod aj vďaka výnimočným zamestnancom 5 411
  9. Štatutári, máte už prístup k elektronickej schránke? 3 720
  10. Hyundai H350 je dokonale spoľahlivým partnerom pre biznis 2 709

Hlavné správy zo Sme.sk

EKONOMIKA

Ani vyšetrovanie Dúhu nepripraví o verejné zákazky. Pozrite sa, čo stavia

Zmluva na výstavbu tunela za 500 miliónov eur rieši korupciu, vyšetrovanie daní nie.

TECH

Miliardy ľudí čoskoro zažijú nevídanú klímu

Klimatická zmena prebieha nad zemou rýchlejšie ako nad oceánmi.

SVET

Američania pokračujú vo vývoji elektromagnetického dela

Častým mýtom spojeným s EM delami je krátka životnosť.

Neprehliadnite tiež

Boli sme naivní, povedala NASA, keď videla prvé fotky podbruška Jupiteru

Nové fotografie pólov Jupitera od sondy Juno rozbili doterajšie teórie o fungovaní plynných obrov.

Bielenie Veľkej koralovej bariéry je ešte horšie, než sa čakalo

Koraly predstavujú živobytie nielen pre ľudí, ale aj pre milióny živočíchov.

Koniec latrín a chemických záchodov, nová toaleta odpad prefiltruje a spáli

Akademici sľubujú vyššiu hygienu pre chudobné kúty sveta.

Do mobilu pozeráme čoraz viac. V Brazílii aj päť hodín denne

Vybaviť hovor a prečítať správu - to je mobilná história, ktorá bola len skromným začiatkom dnešných dní.