Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Moskva alebo Petrohrad?
  2. Jubilejná desiata KOCKA privíta zákazníkov v Starej Ľubovni
  3. Nepríjemná bolesť. Tu sú 3 rady, ako sa jej zbavíte
  4. 5 zaujímavostí, ktoré ste o koži možno nevedeli
  5. Nový Jaguar XF Sportbrake
  6. Špeciálna príloha: Pre budúcich vysokoškolákov
  7. Ako pracujú poisťováci? Dostali sme sa medzi nich
  8. Výhodné a lacné neznamená to isté, ani pri PZP
  9. Keď ide o zdravie a majetok, rozhodujú sekundy
  10. Diabetici môžu získať 25-tisíc eur cez nový grantový program
  1. Moskva alebo Petrohrad?
  2. Aké auto si vybrať - nové, zánovné alebo jazdené?
  3. Jubilejná desiata KOCKA privíta zákazníkov v Starej Ľubovni
  4. Nový článokHB Reavis predstavuje projekt Stanica Nivy na veľtrhu
  5. 5 zaujímavostí, ktoré ste o koži možno nevedeli
  6. Nepríjemná bolesť. Tu sú 3 rady, ako sa jej zbavíte
  7. Nový Jaguar XF Sportbrake
  8. Tradičné bratislavské dvory sú späť. V Jarabinkách sú až dva
  9. Jeden nákup a všetko vybavené, alebo one stop shopping
  10. Ako pracujú poisťováci? Dostali sme sa medzi nich
  1. Ako pracujú poisťováci? Dostali sme sa medzi nich 11 017
  2. Moskva alebo Petrohrad? 7 490
  3. Špeciálna príloha: Pre budúcich vysokoškolákov 3 788
  4. Tradičné bratislavské dvory sú späť. V Jarabinkách sú až dva 2 479
  5. Diabetici môžu získať 25-tisíc eur cez nový grantový program 2 241
  6. Nepríjemná bolesť. Tu sú 3 rady, ako sa jej zbavíte 2 138
  7. 5 zaujímavostí, ktoré ste o koži možno nevedeli 1 994
  8. Jubilejná desiata KOCKA privíta zákazníkov v Starej Ľubovni 1 677
  9. Nový Jaguar XF Sportbrake 1 525
  10. S odletmi z Košíc leto nekončí. A tie ceny! 1 285

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

KOMENTÁRE

Alternatívu nepotrebuje iba Smer, ale aj SaS

Žasneme nad tým, ako sa na Slovensku v radoch stúpencov opozície znížili nároky.

DOMOV

Lesník: Tetrov z lesov nemizne preto, že tam ťažíme

Ján Vrbenský hovorí, že za holé časti môžu kalamity.

PLUS

Ako skutočne vyzerá porucha, ktorú má detektív Monk

Dá sa žiť s ustavičným strachom?

Neprehliadnite tiež

DETSKÁ RUBRIKA

Lelek lesný vidí aj za seba, nemusí ani pohnúť hlavou

Prezývali ho kozodoj, hoci kozy nikdy nedojil.

OBJEKTÍV

Skutočný Iron Man: Vynálezca s oblekom stanovil nový rýchlostný rekord

Oblek poháňa šesť malých prúdových motorov.

Vesmírne kráľovstvo Asgardia vypustilo do vesmíru svoj prvý satelit

Má vlajku a dokonca aj hymnu. Zatiaľ ho však žiadna pozemská krajina či národ neuznáva.

Je lepší vinyl alebo cédečko? Čo o kvalite zvuku hovorí matematika

Fanúšikovia na platne nedajú dopustiť, argumentujú vernosťou zvuku.