Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Slovenské deti dostávajú mesačne 22€
  2. 3 pravidlá pre lepší dôchodok
  3. Eilat: Slnko, teplo a zábava
  4. Ku kuchynskej linke dostanete obývačku či vstavané skrine za 50%
  5. 4 rady pre deti a dospelých, ako sa starať o pokožku
  6. Výstava Podoby lásky zobrazí skutočné osudy konkrétnych žien
  7. Tohtoročné trhy pred Auparkom bude otvárať Vidiek
  8. Vyrábajú v malom, no presadili sa. Sessler a Farmárske lupienky
  9. Ochráňte pred zlodejmi celé vozidlo vďaka VAM Akustik
  10. Všetky okresy svojimi pobočkami pokrývajú len tri banky
  1. Eilat: Slnko, teplo a zábava
  2. Ku kuchynskej linke dostanete obývačku či vstavané skrine za 50%
  3. Exkurzia študentov Stavebnej fakulty STU v Bratislave
  4. Prichádza Black Friday, jazdenku môžete mať so zľavou 2000 eur
  5. 4 rady pre deti a dospelých, ako sa starať o pokožku
  6. Výstava Podoby lásky zobrazí skutočné osudy konkrétnych žien
  7. Tohtoročné trhy pred Auparkom bude otvárať Vidiek
  8. Všetky okresy svojimi pobočkami pokrývajú len tri banky
  9. Ochráňte pred zlodejmi celé vozidlo vďaka VAM Akustik
  10. Čerešne - miesto, kde môžete žiť podľa seba
  1. Vyrábajú v malom, no presadili sa. Sessler a Farmárske lupienky 17 415
  2. Eilat: Slnko, teplo a zábava 10 133
  3. 3 pravidlá pre lepší dôchodok 7 522
  4. Slovenské deti dostávajú mesačne 22€ 4 407
  5. Tohtoročné trhy pred Auparkom bude otvárať Vidiek 2 756
  6. Ako sa zbaviť chladnej podlahy 2 652
  7. Stavba domu na kľúč – úspora času aj financií 1 988
  8. Čerešne - miesto, kde môžete žiť podľa seba 1 734
  9. Všetky okresy svojimi pobočkami pokrývajú len tri banky 1 511
  10. Ku kuchynskej linke dostanete obývačku či vstavané skrine za 50% 1 442

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

DOMOV

Veľkolepý nástup, výslnie a pád. Prečo veľké strany neprežijú svojich lídrov

Výmena lídra nie je kľúčom k dlhšej životnosti strany. Funguje len pri menších stranách, v Smere by mohla znamenať rýchly zánik.

KOMENTÁRE

Smer bez Fica nemá logiku

Životnosť strán ako Smer sa odvíja od popularity zakladateľa.

Neprehliadnite tiež

Čo plánuje Elon Musk na najbližších sedem rokov

Juhoafrický vynálezca má do roku 2024 veľkolepé plány.

Najlepší mobil na trhu (Vianoce 2017)

Samsung a Apple sa v boji o top mobil na trhu naťahujú s čínskymi značkami. Špičkové smartfóny začínajú od 600 eur.

Klonovaná Dolly sa nelíšila od svojich rovesníčok, ukazuje nová štúdia

Ovečka Dolly žila až do smrti v uzavretých priestoroch.

Hľadali inteligenciu a zistili, že mozog je ako sociálna sieť

Nemeckí vedci našli mozgové prepojenia, ktoré ovplyvňujú našu inteligenciu

Aj delfíny majú pytačky. Samci dávajú samičkám dary

Vedci sa domnievajú, že samci delfínov chcú takto ukázať svoje kvality.