Ja, dobrý robot

Dokážu viesť autá, pristáť s lietadlom, pomáhať chorým. Kedy začnú roboty a prístroje riešiť etické problémy?

(Zdroj: ILUSTRAČNÉ - WIKIMEDIA/Birk)

Zvonku to vyzerá ako ktorékoľvek zdravotnícke zariadenie. Rozsiahla budova s mnohými miestnosťami, dominujú biela farba a zápach čistiaceho prostriedku. Po chodbách sa ako každé ráno prechádza niekoľko pacientov, ďalší ležia v posteliach.

Jeden z nich náhle stlačí tlačidlo na privolanie personálu. Po krátkej chvíľke príde služba a chorý na lôžku požiada o zapnutie televízora - chce pozerať svoju obľúbenú televíznu súťaž. Jeho sused však namietne, že on by radšej sledoval športový kanál.

Ako túto dilemu vyriešiť? Komu by mala vyhovieť privolaná služba - ktorou však nie je zdravotná sestra, ale šikovný a špeciálne vyrobený medicínsky robot?

Svet strojov

info
Fakty
Roboty
  • 1495 - Da Vinci navrhol automat pripomínajúci robota.
  • 1920 - Karel Čapek uviedol v hre R.U.R. slovo „robot“.
  • 1927 - Vo filme Metropolis „robot“ prvý raz ublíži človeku.
  • 1952 - Prvá vedecká štúdia o etike strojov.
  • 1997 - Šachový veľmajster Kasparov prehráva súboj s počítačom.
  • 2010 - Prvý robot, ktorý sa riadi „etickými“ princípmi.

ZDROJ: Scientific American

Podobná situácia sa zrejme v žiadnej nemocnici či v domove dôchodcov (zatiaľ) neodohrala. No v súčasnom svete sa stále viac obklopujeme výkonnými prístrojmi, ktoré sú nielen krajšie, ale aj „múdrejšie“. A čoraz viac nahrádzajú človeka.

Viaceré armády sveta testujú vojenské automatizované systémy, ktoré by na bojisku nevyžadovali spojenie s operátorom.

Naše dopravné lietadlá už prakticky dokážu pristávať či vzlietať bez zásahu pilota – a ich prítomnosť je skôr poistkou a silným psychologickým faktorom. A na americké cesty už Google poslal autá, ktoré nepotrebujú šoférov.

S čoraz výraznejšou prítomnosťou takýchto robotov však prichádzajú aj problémy, ktoré musia stroje riešiť: ako sa majú zachovať v situácii, ktorá vyžaduje rozhodovanie? Ako by mali riešiť situácie spojené s etickou dilemou? A ako by sa vlastne mali správať?

Ak sa vrátime k nášmu príkladu: má robotoošetrovateľ prepnúť na šport alebo vedomostný kvíz? Či má robotovojak zaútočiť na dom aj vtedy, ak sa v ňom síce ukrýva terorista, no sú v ňom aj civilisti? A môže robotoauto naraziť do iného auta, keď mu chodec náhle skočí pod kolesá?

Tri zákony robotiky

Slávny autor vedeckej fantastiky (a o čosi menej slávny vedec a profesor Bostonskej univerzity) Isaac Asimov už v 40. rokoch v poviedke Runaround sformuloval tri základné zákony robotiky.

Robot podľa nich nesmie ublížiť človeku ani konať tak, aby jeho nečinnosť viedla k takémuto ublíženiu. Musí človeka poslúchnuť – ak to neprotirečí prvému zákonu. A musí chrániť sám seba – ak to neprotirečí prvému a druhému zákonu.

Problémom je, že tieto základné zákony nestačia na riešenie skutočných problémov v skutočnom svete. Aj preto aplikovaní etici, inžinieri a v niektorých krajinách aj politici hovoria o potrebe sofistikovanej robotoetiky.

V roku 2007 napríklad vytvorila Južná Kórea akúsi etickú chartu robotov, podľa ktorej sa musia zariadiť všetci výrobcovia takejto techniky.

Mala zabrániť zneužívaniu údajov, ktoré získali roboty, ale aj zaviazať ich výrobcov k tomu, aby sa ich zariadenia dali identifikovať a vystopovať. V skutočnosti však dokument veľký pokrok nepriniesol.

„Dobro a zlo napokon závisia od kontextu a situácie,“ povedal vtedy pre magazín New Scientist Max Lungarella z Tokijskej univerzity. „Jedna vec je naprogramovať roboty tak, aby boli spoľahlivé a bezpečné. A iná roboty naučiť, čo je dobré a čo zlé.“

Robotika, a najmä aplikovaná robotika je relatívne mladá oblasť. Aj keď prvé podobné stroje navrhoval už Leonardo da Vinci, len slovo robot sa objavilo až v roku 1920 v známej dráme Karla Čapka R.U.R.

Prvá vedecká štúdia o etike strojov vznikla až začiatkom päťdesiatych rokov – pričom vedcov dávno predbehli autori literárnej fantastiky. A prvého robota Nao, ktorý sa riadil etickými princípmi, naprogramovali podľa magazínu Scientific American len pred dvomi rokmi.

„Robotika je novou vedou s rozmanitými aplikáciami, ktoré môžu pomáhať ľuďom a riešiť mnohé problémy,“ vysvetľoval pre agentúru AFP aj robotoetik Gianmarco Veruggio. „Lenže ako v každej oblasti vedy a techniky, otvárajú sa tu mnohé citlivé otázky.“

Roboty Nao. FOTO - ALDEBARAN ROBOTICS

Učím sa byť dobrý

Nao bol vlastne čudný robot. Na prvý pohľad sa nelíšil od množstva podobných hračiek, ktoré niekoľkokrát ročne predstavujú na japonských a juhokórejských hi-tech výstavách.

Od rôznych náhrad domácich miláčikov a skôr zábavných zariadení ho však pri experimente Susan Leigh Andersonovoej odlišovalo jeho vnútro. Presnejšie, riadiaci program.

Robot sa totiž dokázal učiť, na základe predchádzajúcej skúsenosti zhodnotiť viaceré možnosti, a následne vykonať voľbu, ktorú môžeme označiť čiastočne za etickú. Robot napríklad pripomínal pacientom ich lieky.

Dôležitejšie však bolo, že sa dokázal rozhodnúť, kedy zostať otravným a kedy rešpektovať pacientovu vôľu liečivo odmietnuť.

Vedci vytvorili algoritmus, ktorý dokázal z dostupných prípadov s konkrétnym etickým rozhodnutím vyabstrahovať „etický princíp“.

„Tento princíp bol následne zakódovaný do naprogramovania robota,“ tvrdí v texte pre americký popularizačný mesačník Adersonová. Robot tiež vyhodnocoval konflikt medzi svojimi povinnosťami a ich prípadným porušením, a podľa toho si vybral akciu.

Takéto učenie sa však nie je jediným možným postupom. Už dávnejšie odborníci navrhovali napríklad roboty, ktoré by si správnu reakciu v kritickej situácii volili na základe štatistiky a prieskumu na internete. Alebo by obsahovali programy, ktoré by sa dokázali samy učiť na svojich vlastných chybách.

Prepnúť na šport

Robot v našom zdravotníckom zariadení medzičasom prepol na šport. Prečo? Televízny kvíz sa na izbe pozeral ráno predtým.

Aj takto raz môže vyzerať spravodlivosť v podaní robotov. A to „raz“ nemusí byť vôbec ďaleko. Už dnes žijeme vo svete techniky, kde dômyselné zariadenia riešia naše problémy. Tieto zariadenia sa budú čoskoro rozhodovať, a tieto rozhodnutia nemusia byť vôbec ľahké.

Skutočná otázka však neznie, či sa tak stane, ale kedy,

Hlavné zdroje: The Economist, Scientific American

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Objavte majestátne Tatry kúsok po kúsku
  2. Aké sú gastrotrendy pre rok 2018?
  3. Chcete bývať na dobrom mieste? Zakotvite v Adlerovej!
  4. Egejská riviéra: Ktoré letovisko je pre vás najlepšie?
  5. Slovensko má pralesy, púšť aj kameňopád. Už ste ich videli?
  6. Volkswagen T-Roc: Pre nerozhodných
  7. Leto 2018 v Grécku s odletom z Bratislavy
  8. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku
  9. Zelené Grunty vám ponúknu viac, ako očakávate
  10. Kam do tepla v januári?
  1. Attracting talent – Why Millennials are choosing to join Johnson
  2. Aké sú gastrotrendy pre rok 2018?
  3. Chcete bývať na dobrom mieste? Zakotvite v Adlerovej!
  4. Objavte majestátne Tatry kúsok po kúsku
  5. Alarica – new business project in the market of shoes
  6. Ako jazdiť na snehu alebo ľade?
  7. Egejská riviéra: Ktoré letovisko je pre vás najlepšie?
  8. Slovensko má pralesy, púšť aj kameňopád. Už ste ich videli?
  9. Toto tajomstvo vrcholoví športovci dlho skrývali
  10. Vlani sme si vyberali z vyše pol milióna inzerovaných áut
  1. Egejská riviéra: Ktoré letovisko je pre vás najlepšie? 12 474
  2. Slovensko má pralesy, púšť aj kameňopád. Už ste ich videli? 7 320
  3. Volkswagen T-Roc: Pre nerozhodných 3 181
  4. Leto 2018 v Grécku s odletom z Bratislavy 2 004
  5. Objavte majestátne Tatry kúsok po kúsku 1 875
  6. Kam do tepla v januári? 1 729
  7. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku 1 371
  8. First moment Turecko: využite zľavy na špičkové hotely 1 110
  9. Chcete bývať na dobrom mieste? Zakotvite v Adlerovej! 1 041
  10. Demänovku mieša iba jeden človek. Ako si strážia receptúru? 896

Téma: Víkend


Hlavné správy zo Sme.sk

PLUS

Čipový génius Rado Danilák: Viem, ako súperiť s Intelom

Počítačový výskumník a podnikateľ so slovenskými koreňmi vysvetľuje, ako sa môže presadiť malý hráč.

KOMENTÁRE

Prečo sa Česi rozhodli vyhodiť vlastnú krajinu do povetria

Voliči Mariana Kotlebu a Miloša Zemana sa hnevajú na 21. storočie.

TECH

Historici sa mýlia, čiernu smrť roznieslo čosi iné

Nový výskum naznačuje, ako sa problém šíril.

Neprehliadnite tiež

Fyzikálna záhada. Neutrónové hviezdy svietia aj po zrážke

Dosvit po zrážke neutrónových hviezd je čoraz jasnejší, vyvracia očakávania.

V NASA prestali pracovať. Musk musel odložiť test rakety

Američanom sa nepodarilo schváliť štátny rozpočet. Kennedyho vesmírne stredisko prestáva pracovať.

Obchod bez radov a pokladní. Otvorili prvý Amazon Go

Obchod využíva rovnaké technológie ako autonómne autá.

Spravili krok k včasnému odhaleniu rakoviny, krvný test má veľkú úspešnosť

Test dokázal určiť aj päť typov rakoviny, na ktoré doteraz neexistuje skríning.

Prečo hrá mozog džezového a klasického pianistu rovnakú skladbu inak

Mozgy džezových a klasických pianistov fungujú rozdielne. Dokonca aj vtedy, keď hrajú tú istú skladbu.