Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Dobrý internet v meste i na vidieku. Dostupný je takmer všade
  2. Na tieto veci sa oplatí myslieť pred odchodom na dovolenku
  3. Volkswagen Golf: Odpoveď na takmer všetky otázky
  4. Vietnam: Krajina, ktorá rozmazná jedlom a uchváti históriou
  5. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a.
  6. I cez prázdniny testujte elektrobicykle
  7. 5 dôvodov, prečo sa prihlásiť na konferenciu ENERGOFÓRUM®
  8. V meste či mimo mesta, stále s kvalitným internetom
  9. Máte už vybranú dovolenku na júl?
  10. Chcete vedieť všetko o vašej krvi? Čaká vás 6000 typov vyšetrení
  1. Funguje predaj realít aj bez maklérov?
  2. BILLA a ÚNSS skontrolovali zrak 10 380 slovenským deťom
  3. Dobrý internet v meste i na vidieku. Dostupný je takmer všade
  4. Na tieto veci sa oplatí myslieť pred odchodom na dovolenku
  5. Borguľa žiada vyrúbenie dane pre americkú ambasádu
  6. Stanovisko Klubu pre BA k mimoriadnemu rokovaniu zastupiteľstva
  7. Vietnam: Krajina, ktorá rozmazná jedlom a uchváti históriou
  8. Volkswagen Golf: Odpoveď na takmer všetky otázky
  9. Investícia do dlhopisov s fixným výnosom 6,25 - 7,25 % p.a.
  10. Ako zariadiť malú kúpeľňu?
  1. Vietnam: Krajina, ktorá rozmazná jedlom a uchváti históriou 9 094
  2. Volkswagen Golf: Odpoveď na takmer všetky otázky 7 970
  3. Na tieto veci sa oplatí myslieť pred odchodom na dovolenku 2 759
  4. Dobrý internet v meste i na vidieku. Dostupný je takmer všade 2 509
  5. Chcete vedieť všetko o vašej krvi? Čaká vás 6000 typov vyšetrení 2 480
  6. I cez prázdniny testujte elektrobicykle 2 280
  7. Máte už vybranú dovolenku na júl? 1 699
  8. V meste či mimo mesta, stále s kvalitným internetom 1 268
  9. Zvládnete tento test o jablkách a cideroch? Otestujte sa 1 154
  10. Cestujte intenzívnejšie s poznávacími zájazdmi 1 026

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

DOMOV

Tkáč z Matice hovorí v tajnej nahrávke o Maďaričovi aj Hrnkovi z SNS

Matica slovenská je pod vedením Tkáča známa skôr kauzami a družbou s extrémistami ako rozvojom kultúry.

ŠPORT

Prečo sa slovenské kluby nemôžu rovnať s najlepšími?

Za posledných desať rokov získala Žilina z predaja až 25 miliónov.

KOMENTÁRE

Chceli sme to digitálne, ale dopadlo to ako vždy

Čo bude 300-tisíc ľudí robiť pol jesene? Stáť v rade na digitalizáciu.

Neprehliadnite tiež

Banky začnú v mobiloch snímať dúhovky

Pozriete sa do mobilu a máte prístup k účtu. Biometria nahradí zdĺhavé heslá a kódy.

Atari sa vracia späť, chystá retrokonzolu pre milovníkov hier

Staré a nové hry sa majú spojiť na jednej platforme, technické detaily firma zatiaľ tají.

Google ponúkne v mobilnom vyhľadávači obsah, zahrá sa na Facebook

Ak si chcete čosi prečítať, nemusíte hľadať. Google sa pozrie do histórie vašich záujmov.