Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Zľava 3000 € na 3-izbové byty v Jarabinkách
  2. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to)
  3. Stačí len mechanické, alebo elektronické zabezpečenie vozidla?
  4. Aký vplyv by mal konflikt v Kórei na vaše investície?
  5. Atraktívnejšie učenie vďaka digitálnym technológiám
  6. JUDr. Barbora Sabó: Dobrý maklér šetrí čas, peniaze i nervy!
  7. Rastie nám pokrivená generácia?
  8. Intímna hygiena – celoročná záležitosť
  9. Zanzibar je plný lákadiel na dokonalú exotickú dovolenku
  10. Pivovar Šariš podporí cestovný ruch v Prešovskom kraji
  1. FSEV UK v Bratislave: Prax je súčasťou študijných programov
  2. 6 dôvodov, prečo začať posielať peniaze cez VIAMO (a ako na to)
  3. Hyundai Tucson Shadow určite nezostane v tieni.
  4. Stačí len mechanické, alebo elektronické zabezpečenie vozidla?
  5. Exkurzia odborárov a absolventov SvF STU v Bratislave 2017
  6. Zvolen: Zvolenčania myslia na zabezpečenie svojich domovov
  7. Detské zúbky sú veda
  8. Atraktívnejšie učenie vďaka digitálnym technológiám
  9. Aký vplyv by mal konflikt v Kórei na vaše investície?
  10. Zľava 3000 € na 3-izbové byty v Jarabinkách
  1. Zanzibar je plný lákadiel na dokonalú exotickú dovolenku 8 634
  2. Rastie nám pokrivená generácia? 3 139
  3. Intímna hygiena – celoročná záležitosť 2 684
  4. 3 mýty, ktorým ste možno uverili. Ale ako je to naozaj? 2 107
  5. Plug-in, hybrid alebo elektromobil? Poradíme, ako správne vybrať 1 258
  6. Kedy sa refinancovanie oplatí? 1 242
  7. JUDr. Barbora Sabó: Dobrý maklér šetrí čas, peniaze i nervy! 1 051
  8. Pivovar Šariš podporí cestovný ruch v Prešovskom kraji 988
  9. Novinka v realitnom biznise! Zatiaľ dostupné len v Grand Koliba 810
  10. Zľava 3000 € na 3-izbové byty v Jarabinkách 787

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

DOMOV

Žiadne potraviny a autobus raz za týždeň. Okraj kraja, na ktorý sa zabudlo

Ľudia v Prešovskom samosprávnom kraji o práci župana veľa nevedia. Trápia ich najmä cesty a nezamestnanosť, ale aj životné prostredie.

EKONOMIKA

Sagan či Hantuchová sa budú plateniu daní vyhýbať ťažšie

Ministerstvo chce zabrániť presunu ziskov.

Čo je nové na SME

SMEnaživo: Diskusia s kandidátmi na bratislavského župana

Príďte dnes o 18.00 diskutovať.

Neprehliadnite tiež

Ničnerobenie a knihy. Desať najlepších spôsobov, ako si oddýchnete

Najväčšia štúdia o oddychu mala prekvapivé výsledky.

Najrýchlejší kábel zrýchli internetové prepojenie medzi Európou a Amerikou

Kábel rozloží riziko výpadkov pri katastrofách na východnom pobreží USA.

Ako vedci vyvíjajú roboty, ktoré chodia ako ľudia

Kývať nohami nestačí. Ak chcú roboty chodiť, musia najprv pochopiť možnosti svojho tela.

Odomykanie mobilov obrazcom nie je bezpečné

Všetci rozmýšľame príliš podobne.