Na začiatku bola počítačová myš, potom prišlo pero, ďalej gestá. Keď ľudia chceli komunikovať s počítačmi cez jazyk, museli používať kľúčové slová, ktorým rozumel, vysvetľuje v rozhovore informatička a odborníčka na umelú inteligenciu MÁRIA BIELIKOVÁ.
Dnes už môžeme používať pri komunikácii s počítačmi vlastný jazyk, no to tiež podľa nej znamená, že si musíme uvedomovať nuansy takejto komunikácie.
V rozhovore sa dočítate:
- prečo dochádza k tomu, že chatbot „halucinuje“, teda si vymýšľa,
- či AI rozumie tomu, čo vytvára,
- v čom vidí prínos a hrozbu AI,
- aký výskum v rámci AI prebieha na Slovensku.
Schopnosť umelej inteligencie napodobniť ľudský prejav nás niekedy prekvapuje. No potom sa stane čosi, čo by ľudia nikdy nespravili. Čo sa vtedy v AI deje?
Vo vnútri AI, teda modeli strojového učenia, sa nedeje nič mimoriadne. Ak pod AI myslíme nejakého chatbota, tak to je systém, ktorý pozostáva z viacerých častí a nie vo všetkých je umelá inteligencia. Jeho jadrom je model, ktorý bol natrénovaný metódami strojového učenia na obrovskom množstve dát a ktorý je postavený na štatistike. Znalosti o tom, ako dopĺňať alebo vytvárať text, sú vyjadrené miliardami parametrov, ktoré sú priradené v mnohovrstvovej štruktúre neurónov. Model vôbec nerozumie tomu, čo generuje. V závislosti od úlohy, pre ktorú bol vytvorený, a dát, ktorými bol trénovaný a následne ladený, sa môže stať, že za najlepšiu odpoveď na základe pravdepodobnosti si vyhodnotí úplnú hlúposť. Čím menej je dotrénovaný na konkrétne situácie, domény či úlohy, tým viac si bude vymýšľať, a teda vzniknú situácie, keď pospája slová a vety, ktoré sú buď vymyslené, alebo nedávajú zmysel.
Čo vlastne môžeme považovať za AI?
Hoci ide o veľmi široký pojem, často sa zužuje len na strojové učenie a špeciálne hlboké neurónové siete, ktoré sú za súčasným boomom. AI ako taká je však omnoho širšia. Samotný názov nie je veľmi šťastný, lebo ako ľudia stále nevieme poriadne zadefinovať, čo je inteligencia. Avšak vieme odhadnúť, že niekto je inteligentný, spravidla na základe toho, že sa vie učiť, že vie na základe vnemov vykonať akciu, ktorá vedie k riešeniu. Systémy umelej inteligencie sa snažia toto správanie človeka napodobniť. Dôležité je, že ich správanie nie je určené vopred, vedia sa z nových vstupov učiť a reagovať aj v situáciách, ktoré predtým nepoznali.
Do akej miery môžeme AI dôverovať? Bolo by lepšie rozumieť najprv dátam, na ktorých sa testovala?
Dáta sú len jedna časť, aj keď veľmi dôležitá. Mnohé systémy AI sú postavené na hľadaní vzorov v dátach, takže nekvalitné dáta majú zásadný vplyv na výsledok. Situácia sa mení veľkými základovými modelmi, keď nemáme šancu analyzovať všetky dáta, na ktorých trénujú. Preto je veľmi dôležité, ako sa s modelmi ďalej pracuje a s akými dátami sa ďalej dotrénujú a ladia. Dôvera však nie je jednorazová vec, treba ju postupne budovať. Systémy AI založené na strojovom učení vychádzajú z dát, ktoré produkoval človek, a teda sú poznačené skresleniami a nedokonalosťami jeho uvažovania. Dôvera v človeka väčšinou vychádza z toho, že človek je otvorený a nemá skrytú agendu a zlé úmysly.
AI systémy nerozumejú tomu, čo produkujú, a teda nemajú žiadnu agendu. Tú majú ľudia, ktorí ich uvádzajú na trh alebo používajú. Preto je situácia celkom komplikovaná. To, o čo sa minimálne v Európe snažíme, je vyvíjať systémy zamerané na človeka a maximalizovať prínosy a zároveň minimalizovať riziká. Systémy by mali byť etické, teda mali by byť v súlade s etickými normami a tiež robustné, teda také, aby nespôsobovali neúmyselnú ujmu. Dnes však prax významne predbehla vedu, a tak máme systémy, ktoré dokážu skvelé veci, ale nerozumieme im úplne a mnohokrát tak ani nevieme, prečo je konkrétny výsledok taký alebo onaký. Preto investície do výskumu so silným prepojením na prax sú podľa mňa kľúčové.
V čom vidíte najväčšiu hrozbu AI a v čom je jej najväčší prínos?
Hrozby sú v používaní AI na účely, ktoré buď priamo spôsobujú škodu, alebo podprahovo ovplyvňujú ľudí v ich názoroch, postojoch a následne aj v konaní. V minulosti každý z nás bol pod vplyvom pár ľudí, ktorých osobne poznal, a potom čiastočne cez noviny a televíziu so zopár ďalšími. Dnes každú sekundu môžeme konzumovať desiatky a stovky názorov tisícok ľudí z celého sveta bez toho, aby sme mali reálnu možnosť si informácie overovať v dostatočnom rozsahu.
To je časovaná bomba. Systémy AI nám už dnes v mnohých oblastiach výrazne zlepšujú životy, používame ich bez toho, aby sme si to nejako veľmi uvedomovali. Bez nich by sme nemali mnohé lieky, vakcíny, diagnostika by bola menej presná a niektoré typy zdravotníckych úkonov by sme len ťažko mohli robiť. Aj predpoveď počasia by vyzerala úplne inak. Špeciálne s príchodom generatívnej umelej inteligencie, ktorá je doslova revolúciou v komunikácii človeka so strojom.
Musíme sa učiť komunikovať s AI?
Áno, ale nielen s AI. Celkovo sa musíme učiť komunikovať s počítačmi, alebo ešte širšie, so strojmi. Keď v 60. rokoch prišiel Doug Engelbart s počítačovou myšou, celkom zásadne sa zmenil spôsob komunikácie s počítačmi. Potom prišlo pero, gestá, ale čo sa týka jazyka, stále sme museli vedieť kľúčové slová, ktorým rozumie počítač. Teraz prichádza komunikácia so strojmi v prirodzenom jazyku. Prirodzenom v tom zmysle, že sa pýtame celými vetami v neobmedzenom rozsahu jazyka. No tak ako sa človek naučil komunikovať v rôznych kontextoch, s rôznymi ľuďmi, tak to je aj so strojmi. Je dobré poznať, na akých princípoch pracujú a aké majú ohraničenia, aby sme sa vedeli dobre pýtať, čo sa máme pýtať, aby sme dostali dobré odpovede.
Mária Bieliková. (zdroj: TASR)Aký výskum v rámci AI prebieha na Slovensku?
Na Slovensku je niekoľko výskumných pracovísk, ktoré sa dlhodobo zaoberajú umelou inteligenciou, najmä na univerzitách a v Slovenskej akadémii vied. Pred viac ako štyrmi rokmi sa k nimi pridal aj Kempelenov inštitút inteligentných technológií (KInIT), ktorý dnes predstavuje významnú výskumnú kapacitu Slovenska v oblasti. Silné témy Slovenska sú spracovanie reči, prirodzeného jazyka, obrazu a tiež robotika. Viaceré firmy s inovatívnymi produktmi majú vlastný výskum, spravidla aplikovaný, respektíve zameraný na použitie najnovších znalostí pre konkrétny produkt alebo proces. S príchodom generatívnej AI viac a viac firiem experimentuje a hľadá možnosti pre svoj biznis.
Čo skúmate v KInIT?
Výskum sa deje s ohľadom na potreby lokálneho biznisu, do ktorého prenášame najnovšie poznatky, a zároveň tak, aby sme vynikali excelenciou v medzinárodnom kontexte a pomohli Slovensku dostať sa do sveta. Hlavnou témou je takzvaná low resource AI. Hľadáme spôsoby, ako vytvárať systémy AI v prípade, keď máme málo dát alebo málo označkovaných dát, keď chceme šetriť výpočtovou kapacitou tak pri trénovaní modelov, ako aj pri prevádzke. To sa stáva spolu s agentovými systémami (autonómne systémy pre konkrétne účely, ktoré fungujú bez ľudského pričinenia, pozn. red.) veľká téma budúcej AI.
Silnou doménou pri low resource AI je spracovanie informácií, najmä v textovom tvare, skúmanie vlastností veľkých jazykových modelov s ohľadom na jazyky s malými zdrojmi, ako je napríklad slovenčina. Taktiež aj ladenie modelov tak, aby ich výstupy boli čo najlepšie, a to aj napriek hendikepu v podobe malého množstva dát na trénovanie v porovnaní s inými jazykmi, napríklad angličtinou. Venujeme sa aj témam súvisiacim s prostredím, najmä s energetikou, ale aj s ďalšími pre efektívne využívanie zdrojov našej planéty. Typické úlohy, ktoré riešime, je predikcia, hľadanie anomálií, optimalizácie. Musím spomenúť aj etiku a regulácie AI ako témy dôležitej pre KInIT nielen vo výskume, ale aj pri praktickom použití pri vývoji systémov AI.
Má teda Slovensko v tomto smere čo ponúknuť?
Stále máme veľmi šikovných ľudí. Mnohí odchádzajú do zahraničia, ale viacerí sa aj vracajú či pomáhajú zo zahraničia. Výskum a rozvoj AI potrebujú kvalitné dáta, výpočtovú kapacitu a ľudí. Ja som presvedčená, že najväčším bohatstvom sú ľudia. Verím, že v najbližšom období sa posunieme aj vo výpočtovej kapacite, z plánu obnovy a odolnosti by sa mal vybudovať nový superpočítač zameraný aj na AI. Strategická poloha v strede Európy a vyvážený energetický systém spolu s dostupnosťou talentu dáva dobré predpoklady, aby na Slovensku vznikla aj väčšia výpočtová infraštruktúra.
Aké pravidlá v súčasnosti ohraničujú výskum AI? Existujú nejaké etické či morálne dilemy?
Uplynulý august vstúpil do platnosti AI Act, zatiaľ sa Európa a jednotlivé členské štáty pripravujú na konkretizáciu a aplikovanie pravidiel. Mnohé ohraničenia existovali už skôr, keďže budovanie dôveryhodných systémov nielen AI je v našej časti sveta veľmi dôležité. A tak ako dnes už nikto nediskutuje o tom, či nejaký digitálny systém má mať dobrý UX (User eXperience), tak sa stáva dôležitým, aby používatelia považovali systémy za dôveryhodné. V tomto smere považujem za veľmi dôležité to, aby sme našli rovnováhu medzi neurčitosťou, ktorú každá nová technológia prináša, a túžbou o nej vedieť viac a skúšať nové postupy.
Čo pre vás znamenala hlavná cena v ESET Science Award?
Obrovskú radosť a vďaku všetkým, ktorí boli niekde na mojej ceste. Takéto ocenenia nikdy nie su individuálne. Prevziať ocenenie z rúk Emanuelle Charpentierovej, nositeľky Nobelovej ceny, je veľká česť. Je to dôležité aj pre Kempelenov inštitút, lebo to posilňuje našu excelenciu. Je to dôležité aj pre informatiku a umelú inteligenciu, ktorá sa v hlavnej kategórii ESET Science Award objavila prvýkrát.
