Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Prežil som autonehodu. Teraz som vďačný za každý deň
  2. Dvojnásobný šampión v rozhovore o ceste, ktorá mu priniesla zisk
  3. Cestou - necestou
  4. Premier Club Nitra: Výborne čapovanú Plzeň hľadajte v centre
  5. Päť tipov na dovolenku počas Veľkej noci
  6. Slováci čoskoro lídrami vo využívaní inteligentných domácností
  7. Kĺby starnú s nami. S týmito radami ich udržíte fit čo najdlhšie
  8. Zábavný aj sebavedomý
  9. Obľúbené letné pneumatiky Matador Hectorra v novej generácii 3
  10. Kursalon Trenčianske Teplice: Výborné jedlo a chutné pivo
  1. Zdravé zuby rovná sa zdravý kôň
  2. Majsterka Európy v silovom trojboji zo SvF STU
  3. Obnova kaštieľa v Malinove
  4. Vklad na kataster vybavíte od marca elektronicky
  5. Nulový úrok pre klientov, ktorí si do mBank prenesú kreditku
  6. Ako inovovať vo vašej firme? Poradí vám odborný seminár
  7. Nové bývanie bez murovania
  8. Prežil som autonehodu. Teraz som vďačný za každý deň
  9. Dvojnásobný šampión v rozhovore o ceste, ktorá mu priniesla zisk
  10. Cestou - necestou
  1. Kĺby starnú s nami. S týmito radami ich udržíte fit čo najdlhšie 17 321
  2. Päť tipov na dovolenku počas Veľkej noci 9 575
  3. Prežil som autonehodu. Teraz som vďačný za každý deň 9 020
  4. Slováci čoskoro lídrami vo využívaní inteligentných domácností 4 552
  5. Obľúbené letné pneumatiky Matador Hectorra v novej generácii 3 3 691
  6. Zábavný aj sebavedomý 3 441
  7. Za štadiónom Lokomotívy rastie zaujímavý projekt 3 112
  8. Zákaznícky servis Martinusu sa dostal medzi svetovú špičku 2 449
  9. Ikonický Harley-Davidson za bezkonkurenčnú cenu 2 420
  10. Kursalon Trenčianske Teplice: Výborné jedlo a chutné pivo 2 274

Hlavné správy zo Sme.sk

KOMENTÁRE

V ružomberskom spore pomáhajú Fiľovi veľké kalibre

Nad privatizáciou papierní sa dodnes vznášajú pochybnosti. Strach, zastrašovanie a nitky vedúce k organizovanému zločinu.

DOMOV

Café Európa: Potrebuje Európa Rusko alebo USA?

Ako sa s aktuálnou situáciou vo svete vyrovná Európska únia ležiaca medzi dvoma superveľmocami.

DOMOV

Matoviča delí od straty mandátu jediné hlasovanie

Parlamentný výbor dal 12-tisícovú pokutu šéfovi OĽaNO ešte vlani.

Neprehliadnite tiež

Evolúciu veľkých mozgov odštartovala špeciálna diéta

Primáty, ktoré jedli ľahko stráviteľnú výživnú stravu, majú väčšie mozgy.

Chobotnica sa naučila používať medúzy na lovenie potravy

Chobotnicu Haliphron atlanticus videli vedci len trikrát. Stále sa učia o jej stravovacích návykoch.

Vsadiť čipy do mozgu? Elon Musk má tím, ktorý pracuje na vývoji

Začalo to tlačidlami, potom prišli myši, senzory a ECG snímače. V budúcnosti možno budeme komunikovať cez drôty.

Zdieľanie polohy je novým trendom, pridáva sa aj Facebook

Namiesto otázok stačí pohľad na mapu. Kde sa nachádzajú ľudia, s ktorými ste v kontakte?


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop