"Ľudia verili, že jazyk aj napísanie zmysluplného textu sú ich doménou. Pri zložitých veciach, ako je skladanie proteínov alebo hranie hier ako šach, nikoho neprekvapí, že AI to dokáže," hovorí MICHAL VALKO, Slovák, ktorý skúma strojové učenie v DeepMind. Spoločnosť je súčasťou Googlu a špecializuje sa na výskum umelej inteligencie.
"Pri chatbotoch sa však ukázalo, že to nie je také ťažké, ako sme si mysleli," hovorí o tom, prečo schopnosti chatbota ChatGPT ľudí tak zaskočili, slovenský vedec Michal Valko, ktorý je aj ambasádorom ESET Science Award. Rozhovor s ním vznikol pri príležitosti vyhlásenia tohtoročných laureátov.
V článku sa dočítate:
- čo dokáže chatbot,
- prečo si chaboty vymýšľajú,
- čo je väčší problém než obavy zo vzbury AI,
- či umelá inteligencia môže povedať 'neviem'.
Keď sa pred takmer rokom objavil ChatGPT, ľudí uchvátili jeho schopnosti. Zároveň sa začali objavovať obavy, že hrozí vzbura umelej inteligencie ako vo filmovej sérii Terminátor. Hrozí?
Určite nie, hoci budúcnosť predpovedať neviem.
Nás, ktorí robíme s umelou inteligenciou, tieto schopnosti vôbec neprekvapili. Interne sme mali takéto chatboty veľmi dlho. Technológia, na ktorej funguje, sa volá transformery a existuje od roku 2017. Vynašiel ju náš tím v Googli.
Nevypustili sme ich von preto, že sme si mysleli, že nie sú dostatočne dobré, lebo si môžu vymýšľať veci. Volá sa to halucinovanie. Open AI však svojho chatbota vypustili a zistili sme, že ľuďom to vlastne až tak neprekáža.
Prekvapil nás však apetít po chatbotoch. Samozrejme, aj iné firmy chceli ukázať, že majú chatbota, a tak ich je teraz viac.
Čo teda chatbot dokáže?
ChatGPT nemá ani štipku vedomia. Pod kapotou je len násobenie matíc (kombinovanie dvoch alebo viacerých množín čísel usporiadaných v stĺpcoch a riadkoch, ide o základ mnohých výpočtových úloh, pozn. red.). Celý transformer je v podstate jednoduchý, ale práve vďaka tomu sa dá trénovať ho na množstve dát.
Je to proces, na ktorého konci je distribúcia 32-tisíc slov. My si vyberieme jedno slovo s nejakou pravdepodobnosťou, potom druhé a ďalšie, až máme vetu. Každá veta má určitú pravdepodobnosť a učenie zahŕňa výber takých, ktoré chceme vidieť, tie s väčšou pravdepodobnosťou.
Nemá žiadne vedomie, zámer, názor, nič také. Nedá sa to prirovnať k mozgu či Skynetu (umelá inteligencia z Terminátora, ktorá sa vzbúrila proti ľudstvu, pozn. red.). Učí sa len vzorce, ako slová medzi sebou nasledujú, a snaží sa to zreplikovať. Toto chatboty teraz vedia.
Povedzme, že zareagujem, že ma chlácholíte a v skutočnosti vás platí "Big Tech AI biznis". Čo by ste mi na toto povedali?
Že sa všetko dá veľmi jednoducho overiť. Tieto veci sú verejné, zdrojové kódy dostupné, dajú sa vziať a natrénovať.
Treba však veľmi veľa výpočtovej sily, veľmi veľa dát, to sú miliardy parametrov. Obyčajný človek chatbota na notebooku nenatrénuje, ale aspoň spustí. Vývoj chatbota stojí desiatky miliónov, polovica ide na výpočtovú silu a polovica na platy.
Prečo ľudí technológia tak ohromila? Spomenuli ste, že interne ste chatboty mali niekoľko rokov, no AI sa už dlho používa napríklad pri úprave fotiek v telefónoch. Je to bežná vec.
Nielen bežná. Eliza je chatbot, ktorý má viac ako 50 rokov. Predtým však tieto chatboty neexistovali na neurónových sieťach, ale na iných modeloch. Teraz sa naučili, s akou pravdepodobnosťou bude jedno slovo nasledovať po druhom.
Pred viac ako rokom naša spoločnosť vypustila systém AlphaFold na skladanie proteínov. To je podľa mňa oveľa väčší prínos pre vedu, keďže preň bolo potrebné vymyslieť veľmi veľa inovácií. Je to niečo, čo používajú milióny biológov a posunulo to výskum malárie, baktérií a ďalšie oblasti. Toto však ocení len špecialista. Chatbota, ktorý robí text, ocení hocikto.
Povedal by som, že ľudia verili, že jazyk aj napísanie zmysluplného textu sú ich doménou. Pri zložitých veciach, ako je skladanie proteínov alebo hranie hier ako šach, nikoho neprekvapí, že AI to dokáže. Preto aj v týchto hrách súťažíme. Málokto rozumie, aký pokrok pre to treba spraviť. Pri chatbotoch sa však ukázalo, že to nie je také ťažké, ako sme si mysleli. Pritom sme len zatiaľ našli spôsob, ako doplniť vety.
ChatGPT občas prezentuje fakty, ktoré nevie dokázať, uviesť zdroje. Keď ich skúsite dohľadať vy, nič také nenájdete. Nie je možno dnes nebezpečnejšie viac toto ako predstava vzbury robotov?
