Vedec Farkaš: Roboty by mali zapadnúť do nášho sveta, nie my do ich

Počas posledného ročníka ESET Science Award sa Igor Farkaš stal laureátom ocenenia v kategórii Výnimočná osobnosť vysokoškolského vzdelávania. Na Slovensku patrí k popredným odborníkom na umelú inteligenciu. Pôsobí na Katedre aplikovanej informatiky na Fakulte matematiky, fyziky a informatiky Univerzity Komenského v Bratislave.

Súvisiaci článok Súvisiaci článok Pred sto rokmi použili po prvýkrát slovo robot. Základy boli v Babylone Čítajte 

Umelá inteligencia a roboty sa vo filmoch objavujú už dávno. Žijeme už v takom svete aj my?

Robotika, čo sa týka hardvéru, napreduje. Ak sa zameriam na humanoidné roboty, ktoré sú asi najatraktívnejšie pre ľudí, tak táto oblasť ide vpred veľmi rýchlo a veľa sa do nej investuje.

Len prednedávnom Čína ohlásila robota za šestnásťtisíc dolárov. To je neuveriteľne nízka suma. Obávam sa, že nebude veľmi kvalitný, ale je tu. My máme maličkého polohumanoidného robota za 25-tisíc eur.

O rok chceme kúpiť robotické dieťa, ktoré bude stáť 250-tisíc eur. Hardvér je dôležitá vec.

Druhá vec je umelá inteligencia, to znamená, že robot musí byť vybavený schopnosťami a tam je čo robiť. Jednak motorika, senzorické vnímanie, potom poznávacie schopnosti. Experimenty, ktoré sa v súčasnosti robia, sú o elementárnych základných vlastnostiach so simulovanými robotmi.

Simulovanými?

V počítači. Robot, ktorý sa učí povedzme vo virtuálnej realite, môže interagovať s človekom.

Je to rýchle, lacné, bezpečné. Keď sa model natrénuje, dá sa preniesť teoreticky - s obmedzeniami aj prakticky - do fyzického robota. Trénovať fyzického robota by znamenalo zničiť ho, lebo pri toľkých opakovaniach by sa mu zničili napríklad kĺby. Filmy sú teda stále sci-fi, ale myslím si, že je otázka času, kedy to nastane.

V uplynulých rokoch sa však hovorilo primárne o umelej inteligencii, nie robotoch, hoci spoločnosti ako Boston Dynamics ukázali, ako pokročili s ich Atlasom a podobne.

Boston Dynamics má pozoruhodné roboty, za ktorými je teória riadenia, matematické modely.

To znamená, že majú presne opísaný model robota, jeho geometriu, jeho kinematiku a tak ďalej, a vedia vytvoriť efektívne optimálne algoritmy na jeho ovládanie.

Je to veľmi impozantné, ale nie je to postavené na neurónových sieťach, pokiaľ viem. Myslím si, že tie roboty nemajú univerzálnu schopnosť reagovať na podnety, hoci, samozrejme, keď doň drgnete, tak nespadne.

Oblasť umelej inteligencie, konkrétne podoblasť neurónových sietí založená na strojovom učení a hlbokých modeloch, začala rozkvitať tak pred pätnástimi rokmi. V súčasnosti platí, že v rôznych úlohách ako napríklad rozpoznávanie objektov, ich klasifikácia, hranie hier, sú lepšie ako človek. Možno si spomínate na AlphaGo, ktorá sa naučila stratégie, ktoré sú lepšie ako u človeka.

Súvisiaci článok Súvisiaci článok Roboti už tancujú lepšie ako väčšina ľudí Čítajte 

AlphaGo spravila počas partií ťahy, ktoré najprv prekvapili expertov, no spätne sa ukázali ako zásadné. Hoci umelá inteligencia vychádza z našich vedomostí, stále je schopná prísť s nápadmi, ktoré by nám nezišli na um.

Je tam určitá umiera kreativity. Je to dané aj tým, že AI odohrá veľa hier so sebou a proti sebe, učí sa dlhodobo. Bola to otázka času, pritom go je náročnejšia hra ako šach.

Dá sa to pripísať hlbokému učeniu, ale v kombinácii s klasickou umelou inteligenciou - prehľadávanie priestoru. Naposledy zas zaujali jazykové schopnosti.

Myslíte ChatGPT a podobné modely?

Áno. Je to také intuitívne, ľahko sa dá používať. Nehovorilo sa tak veľmi o robotike, ale robotika ide ruka v ruke s AI. Napríklad teraz je veľký boom rôznych európskych výziev.

Pochopili sme, že keď sa má robotika posunúť vpred, treba ich vybaviť umelou inteligenciou. Algoritmy, ktoré sa používajú na rôzne úlohy, sú použiteľné aj v robotoch. No robot sa navyše potrebuje hýbať inteligentne, a to je dosť dôležité a je to ťažké. Je to taký paradox.

Pre ľudí je motorika ľahká, pre stroje ťažká. Zvládať logické úlohy je pre človeka ťažké, ale umelá inteligencia to zvládne ľahko. Takže najbližšie roky sa bude veľa investovať do toho, ako využiť AI v robotoch.

Prečo sa ľudia snažia vytvoriť humanoidné roboty?

Človek má tendenciu pri komunikácii s robotom alebo živým objektom pripisovať mu ľudské vlastnosti.

Potom je komunikácia jednoduchšia. V najlepšej pozícii sú práve humanoidné roboty, keď o nich uvažujeme napríklad ako o pomocníkoch pre starých ľudí v domácnosti. Roboty by mali byť také, že nás vnímajú ako ľudí a sú veľmi citlivé na naše signály.

Nechceme, aby sa ľudia prispôsobovali robotom, ale aby sa roboty prispôsobili nám. Aby nám ich správanie vyhovovalo, aby bolo zrozumiteľné a hlavne dôveryhodné. Robotom nevidíme do hlavy, ale v princípe vieme, že za tým je model, a tak by sme v podstate mohli vedieť, čo si ten robot zhruba myslí, keďže máme prístup k informáciám.

Vo verejnosti sa často hovorí o obavách z akejsi vzbury robotov. Do akej miery je taký scenár reálny? Je to len akási ľudská projekcia, lebo niekde vieme, že taký by sme mohli byť my, lebo ich konštruujeme na svoj obraz?

Jedna vec je zneužitie umelej inteligencie na vojenské účely. To, samozrejme, je reálna hrozba. Druhá vec, že keby sme vyvinuli stroje s inteligenciou, vďaka ktorej by prišli na to, že by bolo dobré zbaviť sa ľudí, tak tam nie sme. To by musela byť vysoká miera inteligencie, že by si takéto niečo stroj dokázal uvedomiť. Strojom sa dá vštepiť systém hodnôt.

Čosi ako Asimovove zákony robotiky?

Hej, povedzme trénovanie na dátach, ktoré by boli v súlade s etickými a morálnymi princípmi.

Nemyslím, že v súčasnosti nastala situácia, že by takéto niečo malo hroziť. Potrebujeme riešiť elementárne problémy, napríklad mať z robotov efektívnych pomocníkov. Toto je skôr filozofická debata, až trošku sci-fi. Bude treba sledovať gigantov v Sillicon Valley, kde vznikajú prevratné myšlienky. Tam sa snažia pozerať krok dopredu, zisťovať, aké sú možnosti.

Igor Farkaš počas ESET Science Award 2024. (zdroj: TASR)

Spomenuli ste, že na fakulte máte robota. Prečo ste ho kúpili?

Hlavne na výskum. Je to polohumanoidný robot, nemá nohy. Naučiť robot chodiť je ťažké. Aj pre riziko, že by spadol a pokazil sa. Samozrejme, máme ho aj na študentské projekty a zároveň zvýšil atraktivitu fakulty.

Vďaka nemu sme mali aj projekt na rozvoj pracoviska, máme partnerov v Nemecku aj v Taliansku. Po roku výskumu sme zistili, že za málo peňazí nemôžeme chcieť veľa muziky, a tak musíme robiť experimenty, ktoré nevyžadujú veľmi presnú motoriku.

Čo sa na ňom skúmate?

Chceme ho naučiť uchopovať objekty rôznych tvarov. Treba ich najprv rozpoznať, aj ich tvar. To sa trénuje v simulátore.

Kde majú potom takéto úlohy uplatnenie?

Mňa zaujíma základný výskum, aplikácie až tak veľmi neriešim, to je hudba budúcnosti. Toto sú v podstate pilotné projekty, sme prví na Slovensku, čo robia také niečo s humanoidným robotom.

Zaujímate sa aj o kognitívnu vedu. Prečo?

Je príbuzná umelej inteligencii. Je to náuka o tom, ako človek funguje, rozmýšľa, o kognitívnych procesoch myslenia. Týmto by sa totiž mohlo dať inšpirovať v robotike, v umelej inteligencii pre roboty.

Koľko vlastne vieme o našom mozgu? Vieme menej, ako nevieme alebo naopak?

To je stará známa veta, že čím viac sa dozvedáte, tým viac nových otázok vyvstáva. Myslím si, že vieme celkom dosť.

Neviem, čo by znamenalo vedieť úplne všetko. Veľmi závisí, na akej úrovni skúmame, či na úrovni neurónov a iónových kanálov, to znamená ako konkrétny neurón funguje, lebo to je samo osebe zložité; alebo na systémovej úrovni, teda ako celok. Mne sa zdá, že taký hrubý obraz máme. Keď sa však budete pýtať na konkrétne oblasti, narazíme na neznáme. To, samozrejme, modely umelej inteligencie reflektujú.

Je zhruba sto modelov kognitívnych architektúr, niektoré sú inšpirované mozgom a ako je poprepájaný, že tu je videnie, tu sluch, tu pamäť, a tie sú na báze neurónových sietí.

Ak to implementujem na roboty, povedzme, že tu je blok na videnie, tak musíme uvažovať, akú má kameru, o RGB obraze. Tu mám blok na pohyb, tak to spojím s rukou, ktorá má toľko stupňov voľnosti. Iné modely sú zase abstraktnejšie. Vybrať si môžeme na základe toho, čo chceme.

Keď sa inšpirujeme pri dizajne ľuďmi, nie je to v nejakom ohľade možno obmedzovanie robotov?

Na jednej strane je dobré sa inšpirovať ľudskými schopnosťami. Existuje niečo, čo sa volá kognitívna umelá inteligencia.

Cieľom je prekonať základné problémy. Napríklad vo videní sú štandardné úlohy ako klasifikácia objektov. Na datasetoch neurónovú sieť natrénujem a v rozpoznávaní je výborná na 99 percent.

Už dlhšie vieme, že takáto sieť sa dá oklamať takzvanými adversariálnymi vstupmi. Ide o cielenú zmenu napríklad dvoch pixelov v obrázku. A zrazu sieť, ktorá si myslela, že sa pozerá na psa, povie, že vidí traktor. Človeku sa to nemôže stať. Ľudské oko by tie zmeny nezachytilo, ale stroj áno. Toto je fundamentálny problém. Preto je dobré sa inšpirovať ľuďmi.

Na druhej strane, umelé systémy nemusia mať obmedzenia, aké má človek. Napríklad sa hovorí, že človek udrží v hlave zhruba sedem vecí. Keď niečo riešite, napíšete si to a vraciate sa k tomu. Stroj môže byť lepší a pritom mechanizmy sú rovnaké.

Taktiež, náš mozog je celkom pomalý, ale vysoko paralelný. Vieme rýchlo reagovať, ale keď máme čas, robíme pomalšie a hlbšie. Oproti tomu procesory sú miliónkrát rýchlejšie. Umelá inteligencia tak má obrovský výpočtový výkon, ale chýba tam know-how.

Náš mozog je evolučne optimalizovaný a toto sa zatiaľ nepodarilo replikovať pri AI. Hlboké učenie je slabá imitácia týchto mozgových schopností. Hĺbka je teda super, ale je to jednosmerný tok informácie. U človeka je to vždy obojsmerný tok. Ešte je dosť možností, ako to zlepšiť.

Tento článok vznikol s podporou ESET Foundation, ktorá každý rok udeľuje ocenenie ESET Science Award výnimočným vedcom a vedkyniam.