SME
Sobota, 20. apríl , 2019

Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Na spracúvanie osobných údajov sa vzťahujú Zásady ochrany osobných údajov a Pravidlá používania cookies. Pred zadaním e-mailovej adresy sa, prosím, dôkladne oboznámte s týmito dokumentmi.

Najčítanejšie na SME Tech

Inzercia - Tlačové správy

  1. TOP desať gréckych ostrovov na letnú dovolenku 2019
  2. Čerpáte úver? Na toto by ste určite mali myslieť
  3. Pre učiteľov je dôležité, aby sa navzájom inšpirovali
  4. Až vďaka chorobe objavila svoj talent
  5. Kaufland začal s predajom slovenských uhoriek bez fólie
  6. Vie sa vaša pokladnica spojiť s finančnou správou?
  7. Jozef Miloslav Hurban sa dostal do vesmíru
  8. Bulharsko: Najlepšie miesta na dovolenku pri mori
  9. Čo robí dobrého zamestnávateľa dobrým?
  10. 7 kritických situácií na cestách. Ohrozujú každého vodiča
  1. TOP desať gréckych ostrovov na letnú dovolenku 2019
  2. Bim Challenge 2019
  3. Čerpacie stanice OMV Slovensko budú otvorené aj počas sviatkov
  4. Z Fondu malých projektov je možné získať až 50-tisíc eur
  5. Grilovacia sezóna je zahájená!
  6. Moderné bývanie v Žiline v 30-tych rokoch 20. storočia
  7. Čerpačky OMV na Slovensku majú dvere otvorené aj počas sviatkov
  8. Funkce pro Slovensko: navigace na čísla popisná i bez ulic! Mio
  9. Projekt CEC spojil študentov ekonomických univerzít troch štátov
  10. Kúzlo pravidelného investovania
  1. Bulharsko: Najlepšie miesta na dovolenku pri mori 22 233
  2. TOP desať gréckych ostrovov na letnú dovolenku 2019 9 800
  3. 7 kritických situácií na cestách. Ohrozujú každého vodiča 8 977
  4. Čerpáte úver? Na toto by ste určite mali myslieť 7 877
  5. Čo upiecť na Veľkú noc? 5 skvelých dezertov Adriany Polákovej 6 795
  6. Idete stavať dom? Päť vecí, ktoré potrebujete vedieť 5 449
  7. Kaufland začal s predajom slovenských uhoriek bez fólie 4 510
  8. Vie sa vaša pokladnica spojiť s finančnou správou? 4 126
  9. Čo robí dobrého zamestnávateľa dobrým? 3 584
  10. Pre učiteľov je dôležité, aby sa navzájom inšpirovali 3 346

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

Boris Zala.
Stĺpček Jakuba Fila

Ficov svet je slepý a hluchý, preto chce zapchať oči a uši aj verejnosti

Smeráci nechcú vidieť obmedzovanie.

Jakub Filo.
Donald Trump.
Ilustračné foto.

Neprehliadnite tiež

Sépia v laboratóriu. Sú vyberavé čo sa jedľa týka, ale aj náročné na podmienky.
Viera Skákalová je vedúcou výskumu v slovenskej firme Danubia NanoTech, ktorá sa okrem iného venuje aj výrobe grafénu. V ruke drží vzorku oxidu grafénu, ktorú získali oxidáciou grafitu.
Vizualizácia mriežky grafénu, ktorá je tvorená zo šesťuholníkov z atómov uhlíka.

Prijmeme existenciu mimozemského života?

Analyzovali reakciu na život vo vesmíre.

Ilustračné foto.
Podcast Klik

Elektrické kolobežky nakoniec (asi) zaplavia aj Bratislavu. Ako sa s nimi žije?

Komentovaný prehľad technologických správ.

Podcast Klik denníka SME.