Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

Článok pokračuje pod video reklamou
  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Na spracúvanie osobných údajov sa vzťahujú Zásady ochrany osobných údajov a Pravidlá používania cookies. Pred zadaním e-mailovej adresy sa, prosím, dôkladne oboznámte s týmito dokumentmi.

Najčítanejšie na SME Tech

Inzercia - Tlačové správy

  1. S dobrým pivom leto chutí
  2. Gopass-dovolenka, ktorá sa oplatí
  3. Koľko peňazí pribaliť deťom na tábor
  4. Marketing Art – online marketingová agentúra z Trenčína
  5. Na Slovensko dorazil až po 30 rokoch. Big Mac oslavuje pol storo
  6. Vieme, ako si vybrať tú správnu klimatizáciu
  7. Mercedes prináša revolúciu v správe firemných úžitkových áut
  8. Šesť dôvodov, prečo sa oplatí cestovať do Ruska
  9. Špeciálna príloha: Krížovky na leto
  10. S kreditkou začína pohodová dovolenka už na letisku
  1. Spomaľovači internetu v mobile – 5 tipov ako s nimi zatočíte
  2. Create your own map in a new museum
  3. Ako bojovať proti plesniam v interiéri
  4. Vieme, ako si vybrať tú správnu klimatizáciu
  5. Koľko peňazí pribaliť deťom na tábor
  6. Mercedes prináša revolúciu v správe firemných úžitkových áut
  7. Na Slovensko dorazil až po 30 rokoch. Big Mac oslavuje pol storo
  8. Marketing Art – online marketingová agentúra z Trenčína
  9. S dobrým pivom leto chutí
  10. Šesť dôvodov, prečo sa oplatí cestovať do Ruska
  1. Zmrzlina v Mekáči má u nás kratšiu záruku ako v Rakúsku. Prečo? 25 207
  2. Aká je ideálna vlhkosť a teplota v byte? Výskum hovorí jasne 24 336
  3. Šesť dôvodov, prečo sa oplatí cestovať do Ruska 22 384
  4. Infografika: Slováci minuli na Pohode historicky najviac peňazí 10 684
  5. Dobrú chuť: Letné šaláty a bizarné praktiky food fotografie 8 114
  6. Veríte brusniciam pri zápaloch močových ciest? Nemusia stačiť 5 559
  7. Špeciálna príloha: Krížovky na leto 4 013
  8. Vyberiete si radšej romantický Paríž alebo slnečné Nice? 3 254
  9. O asistovanej reprodukcii sa šíri množstvo zavádzajúcich tvrdení 2 983
  10. S kreditkou začína pohodová dovolenka už na letisku 2 952

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

AUTORSKÁ STRANA PETRA TKAČENKA

Tri mýty o brexite

Briti už si hrozienka vyberať nebudú.

Neprehliadnite tiež

Známky života môžu byť aj na Titane. Našli miesta, kde môžeme hľadať

Teploty sú hlboko pod bodom mrazu. Sú však miesta, kde by mohla byť tekutá voda.

PODCAST ZOOM

Zoom: Objav jediného neutrína môže spustiť revolúciu vo fyzike

Potrebujeme novú fyziku, ktorá lepšie vysvetlí vesmír.

PODCAST TECH_FM

Mladí už nechcú autá, netreba toľko ciest

Ako sa zmenia mestá a ako sa rozhodujú deti.