Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte
  2. 5 tipov ako na zdravé nôžky v škole
  3. Ako sa developer prispôsobil nárokom kupujúceho
  4. 6 účinkov prírodného slovenského výrobku
  5. Let s prestreleným srdcom: Samovraždy slovenských hercov
  6. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov
  7. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami
  8. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť
  9. Lety do exotiky už aj z Bratislavy
  10. Nonstop banka vo vrecku - aplikácia Mobil Banking
  1. Návod, ako si s kreditkou užijete dovolenku a ešte aj ušetríte
  2. Očarujúca Srí Lanka: malý ostrov plný prekvapení
  3. 5 tipov ako na zdravé nôžky v škole
  4. Ako sa developer prispôsobil nárokom kupujúceho
  5. Už aj seniori presadajú do SUV
  6. 6 účinkov prírodného slovenského výrobku
  7. Americká ambasáda zaberá pozemky už rok bez nájomnej zmluvy
  8. Bratislava gets a new public space and park
  9. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov
  10. Let s prestreleným srdcom: Samovraždy slovenských hercov
  1. Let s prestreleným srdcom: Samovraždy slovenských hercov 5 586
  2. Očarujúca Srí Lanka: malý ostrov plný prekvapení 4 067
  3. Ako sme jazdili v socializme 2 544
  4. Ako sa developer prispôsobil nárokom kupujúceho 1 974
  5. 6 účinkov prírodného slovenského výrobku 1 722
  6. 5 tipov ako na zdravé nôžky v škole 1 371
  7. Lety do exotiky už aj z Bratislavy 1 139
  8. Problémy s počatím? Čo vás čaká na ceste za dvomi čiarkami 1 101
  9. TAURIS výrobky na gril potešia gurmánov aj maškrtníkov 686
  10. Ako pracujú horskí záchranári? Tieto veci by ste nemali podceniť 615

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

DOMOV

Polovojenská organizácia pýta peniaze na domobranu, končia na súkromnom účte

Výzvou na posielanie finančných príspevkov sa už zaoberá polícia. Slovenskí branci tvrdia, že ide o dobrovoľné dary

KOMENTÁRE

Branci obchádzajú zákon a sú nebezpeční

Demokracia má právo brániť sa a je najvyšší čas, aby to v prípade brancov začala aktívne robiť.

KOMENTÁRE

Po kose na Krym? Zakopnete o tank

Vreckový sprievodca cestovateľov po východných teritóriách, časť III.

Neprehliadnite tiež

DETSKÁ RUBRIKA

Včeláriky robia všetko pre rodinu. Mladé vtáčatá chodia kŕmiť aj tetky a ujovia

Živia sa hmyzom, často práve včelami. To však nie je veľmi pochuti včelárom, ktorí tieto vtáky bezhlavo kynožia.

Vypustili prvý satelit, ktorý vyrobili pomocou 3D tlačiarne

Satelity by mali byť vo vesmíre približne päť až šesť mesiacov.

Toto sú najlepšie čínske smartfóny (leto 2017)

Xiaomi, Vernee, Oukitel alebo Ulefone? Poradíme vám, ako sa nestratiť vo svete čínskych smartfónov.

Na dne morí sa hromadia plasty, môže za to aj zvláštne zviera

Vršovky nie sú vinníci, sú obeťami plastov.