Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. V centre našej pozornosti sú zákazníci. Už 50 rokov
  2. Tatra banka spustila najmodernejší internet banking pre firmy
  3. Volkswagen T-Roc: Pre nerozhodných
  4. Iba dnes: Narodeninové predplatné SME.sk za 25 eur
  5. Leto 2018 v Grécku s odletom z Bratislavy
  6. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku
  7. Zelené Grunty vám ponúknu viac, ako očakávate
  8. Kam do tepla v januári?
  9. First moment Turecko: využite zľavy na špičkové hotely
  10. Konzultácia so svetovými odborníkmi dokáže zachrániť život
  1. V centre našej pozornosti sú zákazníci. Už 50 rokov
  2. Začiatok roka patrí dani z nehnuteľností
  3. Volkswagen T-Roc: Pre nerozhodných
  4. Tipy pre atraktívne poprsie po dojčení. Plastike povedzte nie
  5. Stanovisko spoločnosti Advokátska kancelária JUDr. Radomír Bžán
  6. Tatra banka spustila najmodernejší internet banking pre firmy
  7. Iba dnes: Narodeninové predplatné SME.sk za 25 eur
  8. Denník SME oslavuje 25 rokov rekordným počtom predplatiteľov
  9. Najinzerovanejšie zánovné auto roku 2017? Mnohých to prekvapí
  10. Stavebná fakulta STU pozýva na Deň otvorených dverí!
  1. Iba dnes: Narodeninové predplatné SME.sk za 25 eur 16 208
  2. Leto 2018 v Grécku s odletom z Bratislavy 8 235
  3. Tatra banka spustila najmodernejší internet banking pre firmy 4 667
  4. Demänovku mieša iba jeden človek. Ako si strážia receptúru? 2 842
  5. Volkswagen T-Roc: Pre nerozhodných 2 624
  6. Dlhopisy 7,25 % p.a. majú najvýhodnejšiu nákupnú cenu v roku 2 319
  7. Kam do tepla v januári? 2 296
  8. First moment Turecko: využite zľavy na špičkové hotely 2 055
  9. Divoký Island: cesta ostrovom ľadu a ohňa 1 216
  10. Zelené Grunty vám ponúknu viac, ako očakávate 1 205

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

DOMOV

Exekučná amnestia sa blíži, štát by odpúšťal dlhy

V poisťovni Dôvera chce dlhy odpustiť štyritisíc ľudí. Či sa s Unionom pripoja k amnestii, ktorú pripravuje štát, zatiaľ nepovedali.

DOMOV

Dobré ráno: Z úst im išli retiazky a klince, opisuje prácu exorcista

Exorcistu vyberie biskup, musí byť kňaz.

KOMENTÁRE

Exekučné amnestie sú nový morálny hazard

Možno do oddlžovania idú s najlepšími úmyslami, ale dopadne to ako vždy.

KULTÚRA

Woody Allen možno nakrútil svoj posledný film

Herci sa hanbia pred jeho adoptívnou dcérou, ktorá tvrdí, že ju zneužíval.

Neprehliadnite tiež

Za šírenie Čiernej smrti môže človek, hovorí provokatívna štúdia

Morová pandémia zabila v polovici 14. storočia viac než tretinu obyvateľov Európy.

Snažil sa zastaviť svoje kýchnutie, roztrhol si hrdlo

Vzácny prípad ukazuje, prečo by ste nemali zadržiavať dýchanie.

Ryba si vie vďaka génom zahojiť chrbticu. Aj ľudia ich majú

Ľudia a ryby z radu mihuľotvarých mali pred miliónmi rokov spoločného predka.

Čierna diera si dvakrát grgla. Potvrdili, že čierne diery oddychujú

Vzdialená galaxia pomaly požiera svojho vesmírneho suseda.

Vypočujte si pieseň z Hviezdnych vojen zahranú ceruzkou

Matematická rovnica znie ako chytľavá pieseň zo Star Wars.