Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Odteraz pri volaniach už nemusíte rátať minúty
  2. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť
  3. Návod, ako získať maximum pri nákupoch s kreditkou
  4. Mexická Oaxaca: Vonia čokoládou a jedinečnými pyramídami
  5. Dobrý internet v meste i na vidieku. Dostupný je takmer všade
  6. Na tieto veci sa oplatí myslieť pred odchodom na dovolenku
  7. Volkswagen Golf: Odpoveď na takmer všetky otázky
  8. Vietnam: Krajina, ktorá rozmazná jedlom a uchváti históriou
  9. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a.
  10. I cez prázdniny testujte elektrobicykle
  1. Odteraz pri volaniach už nemusíte rátať minúty
  2. Nenaleťte pochybným predajcom jazdeniek
  3. Cíťte sa v priestore príjemne
  4. Ktorý odšťavovač má najvyššiu výťažnosť?
  5. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť
  6. Ako si vybrať wc a umývadlo?
  7. Poslanec M. Borguľa bojuje proti netransparentnému tendru
  8. Grantová výzva na vykonávanie činností informačných centier
  9. Návod, ako získať maximum pri nákupoch s kreditkou
  10. Mexická Oaxaca: Vonia čokoládou a jedinečnými pyramídami
  1. Dobrý internet v meste i na vidieku. Dostupný je takmer všade 5 858
  2. Volkswagen Golf: Odpoveď na takmer všetky otázky 4 787
  3. Mexická Oaxaca: Vonia čokoládou a jedinečnými pyramídami 3 554
  4. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť 3 395
  5. Na tieto veci sa oplatí myslieť pred odchodom na dovolenku 3 223
  6. Vietnam: Krajina, ktorá rozmazná jedlom a uchváti históriou 3 031
  7. Návod, ako získať maximum pri nákupoch s kreditkou 2 822
  8. I cez prázdniny testujte elektrobicykle 2 000
  9. Máte už vybranú dovolenku na júl? 1 027
  10. V meste či mimo mesta, stále s kvalitným internetom 881

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

DOMOV

Spolupracuje aj s firmou Apple. Peniaze na výskum ale nedostal

Spoločnosť Highchem s pätnástimi zamestnancami a vyše miliónovými tržbami nemá podľa hodnotenia dostatočné odborné kapacity.

Neprehliadnite tiež

Vo vnútri Mesiaca je množstvo vody, pomôže pri kolonizácii

Voda sa na Mesiac dostala krátko po jeho vzniku.

Google pridáva do vyhľadávania a máp SOS upozornenia

Nový nástroj má upozorniť ľudí na hroziace nebezpečenstvo v ich okolí a poskytnúť užitočné informácie v krízovej situácii.

Robotický vysávač sa môže stať najväčším špehom v domácnostiach

Okrem prachu z podlahy pozbiera aj informácie o rozložení domu.

Sedem tipov, ako vám smartfón pomôže na dovolenke

Naplánujte si s ním cestu, vyhnite sa zápcham, nájdite najlacnejší hotel a prepočítajte cudziu menu.