SME
Nedeľa, 17. november, 2019 | Meniny má Klaudia

Asimov nemal pravdu. Stačí jediné pravidlo robotiky, tvrdia britskí akademici

Hoci ide o priekopnícke technológie, už dnes by mali vývojári dbať na to, aby autonómia sledovala záujmy človeka.

(Zdroj: PIXABAY/CC)

LONDÝN, BRATISLAVA. Jediným pravidlom sa musí riadiť svet robotiky a umelej inteligencie - ľudstvo musí prekvitať. K takémuto záveru prišli vedci z Britskej akadémie a Kráľovskej spoločnosti, ktorí vypracovali správu venovanú problematike autonómnych systémov.

Sú presvedčení o tom, že zákony robotiky ktoré v roku 1942 zostavil spisovateľ sci-fi literatúry Isaac Asimov sú až príliš konkrétne na to, aby sa o ne mohli opierať vývojári pri zostavovaní kontrolných mechanizmov algoritmov. Vo svojej legendárnej poviedke Runaround definoval Asimov pravidlá pre umelú inteligenciu nasledovne:

Článok pokračuje pod video reklamou
  1. Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby mu bolo ublížené.
  2. Robot musí poslúchnuť človeka, okrem prípadov, keď je to v rozpore s prvým zákonom.
  3. Robot sa musí chrániť pred poškodením, okrem prípadov, keď je to v rozpore s prvým alebo druhým zákonom.

Systémy, ktoré sa riadia zákonmi a pravidlami sú sebecké. Držia sa prísnej metriky, ktorá skúma viac vzťahy ako dopady. Takéto algoritmy sú ako sudcovia, ktorí nemajú hľadať spravodlivosť, ale súlad so zákonom - vopred určenými pravidlami. Chýba im etická, spoločenská a sociálna rovina.

Chyby treba ukázať

Práve na tú treba podľa akademikov brať zreteľ. Systémy musia vyhodnocovať svoje rozhodnutia v širokom kontexte. Príkladom je palubný počítač samojazdiaceho vozidla. V prípade kolízie s chodcom sa musí rozhodnúť, čo je prijateľnejšie - ohroziť posádku vozu, alebo chodca? Je to etická dilema, na ktorú neexistuje jednoznačná odpoveď pre každú situáciu.

Zvážiť treba aj súčasné pravidlá, ktoré sa týkajú súkromia, jeho ochrany, ale aj obchodných tajomstiev. Vývojári autonómnych systémov by mali podliehať odbornej, verejnej a spoločenskej kontrole namiesto toho, aby sa ukrývali pred konkurenciou. Každé pochybenie má byť verejným stimulom na to, aby sa všetci ostatní pri návrhu systémov poučili.

Musia sa lepšie učiť

Autonómia a robotika môže ľudstvu priniesť veľa osohu. Dôležité je však hneď od začiatku nastaviť vývoj tak, aby bol prospešný bez prísnych kontrolných a riadiacich mechanizmov. Samoučiace sa systémy musia rozmýšľať automaticky tak, aby prinášali človeku prospech.

Bot ktorý predáva cez internet topánky, alebo radí pri výbere kníh nie je v takom postavení, ako autonómny systém, ktorý pracuje so zdravím človeka. Hneď v počiatkoch by sa preto nemali podceniť princípy, ktoré môžu byť v iných odvetviach kľúčové.

"Existuje veľa výhod, ktoré tieto technológie prinesú. Verejnosť však musí mať dôveru, že tieto systémy sú premyslené a správne riadené." - konštatuje pre BBC profesor Leyser.

Akademici pripravujú digitálny manifest, ktorý by mal rámcovo riešiť kľúčové prvky problematiky. Ľudstvo vkročilo do éry Asimovho sveta, kde roboti začínajú používať učiace sa algoritmy na to, aby robili viac ako ich naučil človek.

Najčítanejšie na SME Tech

Inzercia - Tlačové správy

  1. Sloboda na Slovensku oslavuje 30 rokov
  2. Noc divadiel má okrúhle výročie a je v znamení Nežnej revolúcie
  3. Už iba dnes: Predplatné SME.sk za mimoriadnu cenu
  4. Hodnotenie profesionála: Aká je dovolenka v Thajsku?
  5. Raj prírodného snehu Aflenzer Bürgeralm v regióne HOCHsteiermark
  6. Dlhopisy a zmenky: fixný výnos 5,5 - 7 % p.a.
  7. Vysokoškolský bedeker: Na ktorú univerzitu poslať prihlášku?
  8. Ako efektívne doplniť železo? Odpovedá MUDr. Radovan Juríček
  9. Darčeky sa dajú tento rok kúpiť výhodnejšie
  10. Obyčajné dáta sa dokážu premeniť na neobyčajné veci
  1. Sloboda na Slovensku oslavuje 30 rokov
  2. O2 opäť pripomína, že sloboda nie je samozrejmosť
  3. Čo funguje v českom obchodnom registri lepšie ako na Slovensku
  4. Hodnotenie profesionála: Aká je dovolenka v Thajsku?
  5. Noc divadiel má okrúhle výročie a je v znamení Nežnej revolúcie
  6. Už iba dnes: Predplatné SME.sk za mimoriadnu cenu
  7. Laserovou terapiou proti chorobám z povolania
  8. Policajti bili študentov, chceli sme ich podporiť
  9. Zdarma doživotně radary a zľava 23 % na autokamery Mio MiVue 731
  10. Tri základné kroky: Ako sa starať o pacienta s inkontinenciou
  1. Už iba dnes: Predplatné SME.sk za mimoriadnu cenu 9 876
  2. Vysokoškolský bedeker: Na ktorú univerzitu poslať prihlášku? 9 480
  3. Hodnotenie profesionála: Aká je dovolenka v Thajsku? 9 411
  4. Kedy sa vám jazda na LPG oplatí, ako servisovať a kde netankovať 9 069
  5. Ako efektívne doplniť železo? Odpovedá MUDr. Radovan Juríček 7 338
  6. 5 prekvapivých vecí, ktoré menia náš svet a ani o tom nevieme 7 306
  7. 5 najúčinnejších tipov, ako sa zbaviť bolesti hlavy 5 465
  8. TOP pätnásť miest v Spojených arabských emirátoch 5 324
  9. Príbehy z raketovej základne, ktoré ste nikdy nemali počuť 4 715
  10. Limitovaná ponuka: balík SME.sk + DIGI GO so zľavou až 52 % 4 108

Téma: Umelá inteligencia


Hlavné správy zo Sme.sk

Ľudia svietia mobilmi počas koncertu Tublatanky.
Biela vrana 2019.

Chorvátsky hlásateľ Slovákom: Prepáčte za tri góly

Góly padli po hlúpych chybách, tvrdil Škriniar.

Chorvát Bruno Petkovič (uprostred), Denis Vavro (vľavo) a brankár Martin Dúbravka (vpravo) počas kvalifikačného zápasu E-skupiny EURO 2020 Chorvátsko - Slovensko.
PÍŠE MIKULÁŠ DZURINDA

Nie sme spokojní, aj keď to najdôležitejšie z novembra sme dosiahli

Zabudli sme na hodnoty aj na slušnosť.

Mikuláš Dzurinda

Neprehliadnite tiež

Dobré ráno

Špeciálny podcast: Prečo by mobilný operátor chcel ponúkať platený obsah

Aký je rozdiel medzi platením za internet a platením za obsah.

Podcast Dobré ráno vysiela denne SME.sk.
Najsľubnejším astrobiologickým cieľom v slnečnej sústave sa aktuálne javí Mars. Robotické výskumné vozidlo Curiosity pôsobí v kráteri Gale neďaleko rovníka planéty. Tamojšie geologické vrstvy dokladajú dlhodobé pôsobenie kvapalnej vody.

Astronauti z ISS opravujú detektor antihmoty. Sledujte naživo

Spektrometer má pokazený chladiaci systém.

Záber na spektrometer, ktorý je súčasťou ISS.
Podcast Klik

Klik: Motorola ukázala, že skladacie telefóny môžu mať zmysel

Prehľad technologických správ.