Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom
  2. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to
  3. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš
  4. Objavte netušené možnosti nových firemných kreditných kariet
  5. Najväčšie first moment zľavy končia vo februári
  6. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce
  7. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta
  8. Prečo majú Slováci stále radšej hypotéku ako prenájom?
  9. Jarné prázdniny pri mori?
  10. Klasickým gastrolístkom konkuruje už aj nová stravovacia karta
  1. Na bolesti chrbta pomôžu kúpele
  2. 3 úlohy, ktoré vyrieši minerálna vlna najlepšie
  3. Vecný dar pre Detské kardiocentrum v Bratislave
  4. VZN o hazarde sa dá zachrániť
  5. Prieskum: Ako si Slováci požičiavajú? Hlavne rýchlo
  6. Čo prinieslo tohtoročné Záhradnícke fórum?
  7. Diplomaciu v praxi na EU v BA otvorila veľvyslankyňa Nórska
  8. Študenti z rôznych kútov sveta prichádzajú študovať na EU v BA
  9. 10 faktov o ovocí a zelenine, ktoré musíte vedieť!
  10. Trenkwalder má nového generálneho riaditeľa
  1. Hotovosť, internet či karta? Najbezpečnejšie je platenie mobilom 9 693
  2. Už ste niekedy jedli v garáži? Tá v Trenčíne stojí za to 9 507
  3. Staré Dobré Mexiko: Už vieme prečo východniari chvália Šariš 7 817
  4. Boj s podvodníkmi stáčajúcimi odometre stojí bazáre státisíce 7 670
  5. Najväčšie first moment zľavy končia vo februári 6 813
  6. Prečo majú Slováci stále radšej hypotéku ako prenájom? 5 343
  7. Bezpečné a prestížne bývanie v Bratislave s novým symbolom mesta 4 131
  8. Klasickým gastrolístkom konkuruje už aj nová stravovacia karta 3 643
  9. Ceny bytov vo veľkých mestách prekonali historický rekord 3 023
  10. Objavte netušené možnosti nových firemných kreditných kariet 2 672

Hlavné správy zo Sme.sk

DOMOV

Prieskum Focusu: Smer mierne klesá, vládu by skladal ťažko

Ak by boli voľby tento mesiac, v parlamente by bolo osem strán.

KOMENTÁRE

Z islamu sa stala kolektívna neuróza (píše Michal Havran)

Ten nešťastný islam domotal Slováčikov.

SVET

Prečo vo Švédsku vidia krach multikulturalizmu

Švédsko priznáva problémy so začlenením utečencov.

KOMENTÁRE

Mihál a jeho kontext

Malichernosť a oproti princípu, má svoj étos – Slovensko oslobodené od Fica.

Neprehliadnite tiež

Na internete treba klamať, ochránite svoje dáta

Nezmyselné odpovede na bezpečnostné otázky vás môžu ochrániť pred prienikmi.

Umelá inteligencia sa sama naučila programovať

Programátori o prácu neprídu, múdre stroje im umožnia vyvíjať zložitejšie programy.

Život môže vzniknúť kdekoľvek, objaviť ho bude náročné (anketa s vedcami)

Slovenskí vedci vysvetľujú, prečo je nový objav NASA taký dôležitý.

V Disney vymysleli miestnosť, v ktorej sa elektronika nabíja bez káblov

Nové nabíjanie funguje podobne ako WiFi, stačí byť v dosahu novej technológie.


Už ste čítali?

Domov NajnovšieNajčítanejšieDesktop