Zostrojil robota, ktorý vie len ubližovať. Rozhoduje sa sám

Robot, ktorý spôsobuje ľuďom bolesť prispieva do debaty o bezpečnosti umelej inteligencie.

WASHINGTON. BRATISLAVA. Americký umelec z Kalifornskej univerzity v Berkeley, Alexander Reben, postavil robota, ktorý nemá žiadnu užitočnú funkciu, vie len spôsobovať bolesť. Prispieva ním do debaty o obavách z toho, že umelá inteligencia sa ľuďom môže vymknúť spod kontroly.

Robot sa volá The First Law, podľa prvého zákona robotiky, ktoré vymyslel sci-fi spisovateľ Isaac Asimov. Poradie postulátov v zákone je rovnako dôležité ako ich samotné znenie:

  • Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  • Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  • Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Vedci z Google DeepMind sa obavami z neposlušnej umelej inteligencie zaoberajú už dlhšie. V súčasnosti sa venujú vynálezu krízového vypínača, ktorý by umelú inteligenciu dokázal kedykoľvek vypnúť.

„Som zvedavý, ako ten vypínač navrhnú. Keby sa robot stal natoľko múdrym, že by nás prestal poslúchať, ako môžeme vedieť, či nedokáže ten vypínač anulovať?“ spochybňuje toto riešenie Reben .

Debata o etických otázkach umelej inteligencie je stále v plnom prúde. Minulý rok podpísali mnohí poprední vedci, medzi inými aj Stephen Hawking a Elon Musk, petíciu, v ktorej žiadajú OSN, aby zakázalo vývoj a používanie autonómnych zbraní.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Ako na refinancovanie hypotéky
  2. Ukážeme vám, prečo je dobré sporiť si na dôchodok
  3. PSK Aréna stavia základy pre kvalitný a moderný hokej
  4. Maurícius: Slnečná dovolenka v zime
  5. Podnikajte vo vlastnom blízko historického centra
  6. Nečakaným favoritom na predsedu PSK je prešovský advokát Garaj
  7. M-MARKET s novým konceptom KOCKAminiv Prešove
  8. Pivovar Šariš opäť podporí rozvoj domáceho regiónu
  9. Koncert a diskusia s názvom „Otvorene o extrémizme“
  10. Koncert a diskusia s názvom „Otvorene o extrémizme“
  1. Štýlové osvetlenie do obývačky: Rozhoduje i to, ako žijete
  2. PSK Aréna stavia základy pre kvalitný a moderný hokej
  3. Maurícius: Slnečná dovolenka v zime
  4. Podnikajte vo vlastnom blízko historického centra
  5. Nečakaným favoritom na predsedu PSK je prešovský advokát Garaj
  6. M-MARKET s novým konceptom KOCKAminiv Prešove
  7. Pivovar Šariš opäť podporí rozvoj domáceho regiónu
  8. Športová akadémia Mateja Tótha powered by O2 už na 24 školách
  9. Na čo myslieť v rekonštrukcii bytu
  10. Nová emisia dlhopisov spoločnosti HB Reavis s výnosom 3,25 % p.
  1. Maurícius: Slnečná dovolenka v zime 11 684
  2. Nečakaným favoritom na predsedu PSK je prešovský advokát Garaj 6 227
  3. Ukážeme vám, prečo je dobré sporiť si na dôchodok 2 906
  4. M-MARKET s novým konceptom KOCKAminiv Prešove 2 236
  5. Pravda o privátnych značkách. Firmy ich vyrábajú podľa zadania 1 778
  6. PSK Aréna stavia základy pre kvalitný a moderný hokej 1 722
  7. Podnikajte vo vlastnom blízko historického centra 1 122
  8. Ako na refinancovanie hypotéky 961
  9. Na čo myslieť v rekonštrukcii bytu 858
  10. Pivovar Šariš opäť podporí rozvoj domáceho regiónu 708

Téma: Bolesť


Článok je zaradený aj do ďalších tém Umelá inteligencia

Hlavné správy zo Sme.sk

SVET

Historické fiaská aj rekordné úspechy. Česko má po voľbách víťazov i porazených

V novom českom parlamente zasadne deväť strán. Nie všetky sú so svojim výsledkom spokojné.

KOMENTÁRE

Balada o zrade, alebo bez Babiša to nepôjde

Andrej Babiš vyhral v premiérskom referende.

SVET

Politológ: České voľby? Fenomenálny úspech populizmu

Babiš vyhral, lebo kauzy prezentoval ako snahu o zničenie, tvrdí Miloš Gregor.

Neprehliadnite tiež

Test: Moto G5S Plus nepotrebuje k úspechu výkonný hardvér

Aj pri známej značke vám stačia tri stovky na skvelý smartfón.

Chcete ovládať svoje sny? Veda radí overený spôsob

Techniky, ktoré vám pomôžu uvedomiť si, že snívate.

Alkohol môže uvolniť zábrany v cudzej reči, naznačuje štúdia

Výskumníci zdôrazňujú, že účastníci vypili malé množstvo alkoholu.

TECH_FM

Zem môže do sto rokov zasiahnuť erupcia, ktorá zničí technológie

Astronómovia sa pozreli, čo by nám mohlo spôsobiť Slnko.