SME

Informatik Jozef Kelemen: Nepotrebujeme vyrábať ďalšieho človeka

Budú stroje myslieť ako ľudia? Budú mať počítače emócie? Vyrobí človek umelú dokonalú bytosť? Odpovedá informatik JOZEF KELEMEN.

Prof. RNDr. Jozef Kelemen, DrSc. (1951), informatik. Zaoberá sa umelou inteligenciou, expertnými systémami, kognitívnou vedou, znalostným manažmentom a vedeckou esejistikou. Pochádza z Nových Zámkov. Vyštudoval matematiku so zameraním na ekonometriu nProf. RNDr. Jozef Kelemen, DrSc. (1951), informatik. Zaoberá sa umelou inteligenciou, expertnými systémami, kognitívnou vedou, znalostným manažmentom a vedeckou esejistikou. Pochádza z Nových Zámkov. Vyštudoval matematiku so zameraním na ekonometriu n (Zdroj: Peter Žákovič)

Budú stroje myslieť ako ľudia? Budú mať počítače emócie? Vyrobíme v budúcnosti umelú dokonalú bytosť? Aj takéto otázky rozoberá náš najväčší odborník na umelú inteligenciu JOZEF KELEMEN.

Vo vede je legendou Massachusettský technologický inštitút, MIT. Aké šoky zažije slovenský vedec na tomto špičkovom americkom pracovisku?

SkryťVypnúť reklamu
Článok pokračuje pod video reklamou
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou

Bolo to asi ako keď dedinský kaplán príde do Vatikánu (smiech). V roku 1992, keď som na MIT pôsobil, mi to celé pripadalo ako iný svet. Menovka na skoro všetkých dverách pre mňa znamenala pojem, a čo viac, s tými odborníkmi som sa mohol rozprávať a nadväzovať kontakty.

SkryťVypnúť reklamu

Tak to bolo napríklad so známym profesorom Marvinom Minskym, hoci ho predchádzala povesť arogantného človeka, čomu sa čudujem, lebo ja som s ním nikdy problém nemal. Dokonca raz sa mi chcel zrejme odvďačiť za pozvanie a návštevu Prahy a poslal po mňa k hotelu limuzínu s liverejovaným vodičom. Myslel som si, že to je omyl, že to auto čaká na nejakú celebritu.

V zámorí sú vedci tak trochu celebrity?

Je fakt, že vedcom venujú omnoho viac pozornosti ako u nás. V USA na pracoviskách dokonca hodnotia spoločenský dopad aktivít svojich profesorov. Vidno to aj z kruhov, v akých sa niektorí z nich pohybujú – priateľmi Marvina Minskyho napríklad sú alebo boli režisér Steven Spielberg, nositeľ Nobelovej ceny John Nash, spisovateľ Isaac Asimov, či skladateľ Leonard Bernstein.

SkryťVypnúť reklamu

Už to svedčí o osobnostnom rozmere a o kultúrnom vplyve vedcov v týchto spoločnostiach. Že mediálne môžu byť zviditeľnené nielen názory práve dnes aktuálnych hviezdičiek a estrádnych klaunov, ale aj ľudí, ktorí niečo vedia, ktorí niečo dokázali a skutočne posunuli kultúrny a spoločenský vývoj.

Ako ste sa dostali k umelej inteligencii?

V roku 1969 som začal študovať matematiku a v treťom ročníku som si ako špecializáciu vybral ekonometriu. Tá sa, v skratke, zaoberá konštrukciou a štúdiom matematických kvantitatívnych modelov a metód ich používania v ekonómii. Postupne som však začal pochybovať, či tieto modely dostatočne presne vypovedajú o reálnej skutočnosti, ktorú modelujú.

A tak som sa dostal k počítačom. Kolega Jozef Hvorecký - otec spisovateľa Michala Hvoreckého - mi zaobstaral knihu od Američana Nilsa Nilssona, ktorá bola prvou učebnicu umelej inteligencie na svete. Mal som vtedy dojem, že toto je tá pravá cesta pre modelovanie v ekonómii. Napodobniť nie vždy racionálne premýšľanie človeka. Azda sa rozhodujeme racionálne, keď si kupujeme najnovší model trička preto, že výrobca je momentálne trendy?

SkryťVypnúť reklamu

Práve o podobné veci sa vtedy pokúšala umelá inteligencia – o takzvané heuristické programy. No a tá oblasť ma dosť zaujala.

kelemenstrpka.jpg

Vedec Jozef Kelemen a básnik Ivan Štrpka. Obaja píšu tak, že ich knihy nepustíte z rúk. Foto – Peter Procházka

Pravek informatiky

Informatika vtedy zrejme nebola taká populárna ako dnes.

Vtedy sa jej hovorilo kybernetika a výpočtová technika. A v roku 1973, čosi vyše roka po vydaní spomínanej prvej učebnice, som dokončil svoju diplomovú prácu. Asi prvú o umelej inteligencii v celom vtedajšom Československu.

Doktorát ste robili v Moskve. V osemdesiatych rokoch už kybernetika nemala povesť buržoáznej pavedy?

Ešte začiatkom päťdesiatych rokov sa skutočne písalo v slovníkoch, že kybernetika je výmysel kapitalistov na zdieranie robotníckej triedy. Okolo roku 1955 sa však tieto predsudky prelomili a za mojej externej prípravy na Akadémii vied ZSSR už bola kybernetika uznávaným odborom.

SkryťVypnúť reklamu

Dá sa povedať, že v Moskve mali skvelých odborníkov na túto oblasť už od konca 50. rokov.

Zaostával v tomto Východ za Západom?

Nemal som ten pocit, možno aj preto, že som sa pohyboval medzi teoretikmi. Iste, zaostávalo technické vybavenie, ale to skôr z ekonomických príčin, nie že by na to odborne nemali. Vo vede boli Sovieti dobrí. Dokonca ich Kybernetický zborník vychádzal preložený v angličtine v prestížnom vydavateľstve Pergamon Press - ak by sovietske myšlienky nestáli za to, asi by ich neprekladali.

Sovieti tiež nehľadeli príliš na copyrighty a veľmi pružne prekladali anglické knihy. Nebudete mi veriť, ale my sme v Bratislave vždy vo štvrtok stávali fronty pred predajňou ruskej literatúry! Za babku boli kvalitné knihy, a to pôvodné ruské, aj vynikajúce preklady zahraničných odborných kníh.

SkryťVypnúť reklamu

kelemenminski.jpg

Legendárny americký vedec Marvin Minsky, jedna z najväčších osobností umelej inteligencie, český vedec Ivan. M. Havel a Jozef Kelemen v roku 2007, počas spoločnej večere v Prahe

Inteligencia - prirodzená a umelá

Prejdime k umelej inteligencii, o ktorej koluje anekdota: kto potrebuje umelú inteligenciu? Ten, komu nestačí prirodzená. Obyčajný vtip, alebo skrýva niečo viac?

Je to vážna otázka a fakticky pravdivá odpoveď. Načo vytvárame stroje? Zrejme na to, aby robili za nás to, čo nás nebaví, čo je pre nás ťažké, otravné, alebo to, čo by sme inak nezvládali. A to, na čo nestačíme intelektuálne, by sme radi prenechali inteligentným strojom.

Napríklad?

Napríklad rýchle a spoľahlivé rozhodovanie. V dnešnom, neustále sa zrýchľujúcom svete, ako vraví klišé, sa musíme rozhodovať omnoho rýchlejšie, než ako sme neurofyziologicky uspôsobení. Zoberme si medicínu. V medicíne existujú takzvané znalostné systémy, ktoré pomáhajú pri diagnostikovaní. To je systém reprezentujúci poznatky lekára. Lekári vám ich porozprávajú, vy ich uložíte do pamäte počítača a necháte rozhodovať počítač.

SkryťVypnúť reklamu

V čom môže byť počítač lepší ako lekár?

Pracuje rýchlejšie ako ľudská myseľ, nikdy sa neunaví, nerobí ani chyby, nezabúda. Napríklad, ak prídete k lekárovi s kašľom a horúčkou počas chrípkovej epidémie, lekár má tendenciu už dopredu si myslieť, že máte chrípku – pretože je chrípková epidémia. Lenže, čo ak možno nemáte chrípku, čo ak máte celkom iné ochorenie? Počítaču, ktorý sa nenechá ovplyvniť postrannými záležitosťami, sa toto nestane. Je v akomsi zmysle „objektívnejší“.

Kde ešte využívame znalostné systémy?

Zoberte si raketoplány. Americké Space Shuttles mali na palube aj znalostný systém umožňujúci veľmi rýchle rozhodovanie. Problém totiž bol, že pilotom raketoplán dáva nesmierne množstvo informácii – za sekundu niekoľko tisíc – čo človek nedokáže spracovať, naráža to na naše psychomotrické limity.

SkryťVypnúť reklamu

Tu sa zíde znalostný systém, ktorý z informácii vyberie tie podstatné. Výsledkom je, že vám v kokpite bliká niekoľko svetielok, nie tisíc. Rozhodovanie pilota nahradíte systémom, ktorý však informácie neignoruje, ale pri svojom rozhodovaní ich zohľadňuje.

kelemensvnuckoumischaelou.jpg

S vnučkou Mischaelou

Turingov stroj

To znie triezvo, s umelou inteligenciou sa však spája čosi viac, umelé myslenie. To, či stroj dokáže reagovať na nerozoznanie od človeka, zisťuje Turingov test, ktorým zatiaľ nijaký počítač neprešiel. Je to iba sci-fi?

Turingov test je pomerne stará záležitosť z päťdesiatych rokov. Vtedy sa ešte celkom presne nevedelo, čo od takzvaných mysliacich strojov očakávame.

V ňom však už ide o celkové napodobnenie človeka.

Celkové, ale v akom zmysle? Matematik Alan Turing si položil otázku, kedy by sme povedali, že stroj je inteligentný. A odpovedal, že by to bolo vtedy, ak by stroj obstál v nasledujúcej imitačnej hre.

SkryťVypnúť reklamu

Niekto by komunikoval s dvoma entitami a snažil by sa rozoznať, ktorá z tých entít je človek a ktorá stroj. Technicky by komunikácia prebiehala tak, aby ste druhú stranu nevideli, napríklad cez email. Tu však vidíme, že chceme napodobniť pomerne širokú oblasť - komunikáciu v prirodzenom jazyku, navyše, komunikáciu o akej oblasti? Aj to je dôležité.

Blíži sa takýto dokonalý konverzačný počítač?

Nezdá sa, že práve toto chceme. Nikto nepotrebuje vyrábať ďalšieho človeka. Potrebujeme nahradiť človeka najmä v oblastiach, kde ľahko a často zlyháva.

Dnes sa umelá inteligencia nesústreďuje na počítače schopné v akomsi všeobecnom zmysle obstáť v Turingovom teste, snažíme sa navrhovať stroje schopné zastať človeka v konkrétnej oblasti intelektuálnej činnosti. Preto dnes riešime špecifické a užitočné otázky.

SkryťVypnúť reklamu

Fyzici naháňajú Higgsov bozón. Má umelá inteligencia podobnú ústrednú tému?

Má, no v poslednom čase je vývoj pokojnejší. Dnes už sa prvky umelej inteligencie aplikujú všelikam, od osobných áut po práčky. Veľmi dobrým príkladom je automobil. Rozoznávanie chodcov, pohyblivých nebezpečenstiev, automatické brzdenie, udržiavanie odstupu od predchádzajúceho vozidla, signalizácie pri cúvaní, automatické zaparkovanie...

Na pražskej ČVUT napríklad, pokiaľ viem, konštruujú systém, ktorý by kontroloval bdelosť vodiča. V prípade, že je vodič za volantom ospalý, mal by sa pokúšať ho prebrať a zablokuje auto pri prvom parkovisku, aby si vodič musel oddýchnuť. Toto je tá pravá umelá inteligencia, akú potrebujeme. A tá už je skoro všade okolo nás, hoci málokedy si to uvedomujeme, pretože je skrytá. Nie je to ten robot, ktorého sa máme obávať.

SkryťVypnúť reklamu

kelemengal.jpg

Jedna z mnohých čitateľských besied Jozefa Kelemena – v roku 2010 v kníhkupectve Artforum nad knihou Myslenie a stroj. Autora čerstvej knihy uviedol vedec Egon Gál. Foto – Michal Gorny - Arforum

Emócie a počítače

Spomínali ste inteligenciu inšpirovanú rozhodovaním ľudí. Lenže ľudia sa často rozhodujú podľa intuície. Vieme čo je intuícia a ako ju môžeme napodobniť?

Intuícia je veľmi dôležitý, zatiaľ veľmi málo prebádaný fenomén, podobne ako emócie. Prežívame emotívne stavy, ale nevieme, ako vznikajú. Nevieme, čo sa v nás deje, keď sme nadšení, smutní či zamilovaní. Ale vieme, že práve emócie nás robia ľuďmi.

Keby sme boli všetci – v rámci teórie racionality – celkom racionálne bytosti, náš život by asi prestal byť tým, čo teraz voláme ľudským životom. To je jeden dôvod, prečo chceme vedieť viac o emotivite. Druhým dôvodom je, že existuje spoločenská objednávka na skúmanie emotivity.

SkryťVypnúť reklamu

Kde ju môžme využiť?

Emotívnosť by mohla byť užitočná pri niektorých počítačových programoch. Rozhodovanie človeka nie je racionálne v zmysle matematických modelov, vstupujú doň emócie a dávajú mu charakter ľudskosti. My chceme o emóciách vedieť viac, aby sme mohli zbližovať racionalitu strojov a ľudí.

Načo?

Aby sme s počítačmi mohli pohodlnejšie a primeranejšie komunikovať a používať ich.

Ťažko si predstaviť počítač, ktorým hádžu emócie. Skúsite to opísať?

Príklad. Počítače nás niekedy otravujú, napríklad nesmiernym počtom otázok. Počítač sa pýta a nezvykne si na to, ako veci robím. Lepšie by bolo, keby bol schopný v tomto sa učiť. Potom by mi bol prijateľnejším partnerom a neliezol by mi na nervy – z nášho pohľadu – hlúpymi a tisíckrát opakovanými otázkami.

SkryťVypnúť reklamu

Napríklad, nenútil by ma pri automatickom opravovaní textov ťukať enter pri každej oprave, opravoval by iba preklepy, ktoré sú naozaj preklepmi, čiže tie, ktoré štatisticky robím, a podobne.

Čiže počítač by bol empatickejší.

Áno. Trochu by sa nám prispôsobil a dbal na naše potreby, nielen na svoje povinnosti.

Môžeme to ďalej domýšľať?

Už teraz má môj počítač kameru, ktorou sa na mňa môže dívať. V budúcnosti uvidí ako sa tvárim a podľa toho môže nadobudnúť „emotívny“ stav. Ak by som napríklad nedajbože stratil niekoho blízkeho a zapnem počítač, nebude ma vítať žartovaním, ale primerane. To však môže vyčítať aj z mojich emailov.

Počítač môže vyčítať aj to, či som v strese alebo nie a môže sa rozhodnúť, že ma rozveselí a premietne mi napríklad kreslený vtip. Dokonca sa môže časom naučiť, aké vtipy mám rád. Také niečo časom iste príde, na tom sa pracuje.

SkryťVypnúť reklamu

Otázka je, či tieto emócie iba simulujeme alebo ich počítač skutočne cíti. Potrebuje umelá inteligencia na svoje fungovanie vedomie?

Marvin Minsky hovorí, že vedomie je nálepka na kufríku, ktorý sme ešte neotvorili a nevieme, čo je v ňom. Kým to nepotrebujeme vedieť, tak nám stačí hovoriť o vedomí. No keď ten kufor otvoríme a uvidíme, čo obsahuje, zistíme, že vnútri možno nie je vedomie, ale je tam viacero vecí, ktoré by sme mohli nazývať aj inak. Nemáme však k tomu zatiaľ tie správne pomenovania, keďže obsah kufríka zatiaľ nebol dôvod podrobnejšie skúmať.

Niekedy teda veľmi komplexné fenomény označujeme jedným slovom, vzhľadom na to, že nemáme dôvod príliš ich rozpitvávať. Vedomie asi bude jedno z tých slov pokrývajúcich veľmi širokú oblasť. Druhý problém je, že vedomie len ťažko oddelíte od rôznych iných skutočností.

SkryťVypnúť reklamu

Napríklad od tela?

Napríklad. Dodnes nevieme, či cítime rovnaký pocit, keď sa pichneme ihlou. Verím, že elektroencefalograf by nameral podobnú krivku vo vašom mozgu, ako v mojom, ale je toto cítenie? Nie je to len prejav toho, čo cítime?

Ďalšia vec po vedomí je seba-vedomie, vedomie samého seba.

S vedomím samého seba experimentujú niektoré robotické systémy. Robot plánujúci činnosť si najprv „uvedomí“, kde sa sám nachádza, aby sa rozhodol, kadiaľ ísť. Čiže, má model „samého seba“ v modeli sveta vo svojej pamäti.

kelemenbondy.jpg

Opäť medzi knihami – tentoraz s filozofom a disidentom Egonom Bondym

Dokonalejší ako človek

Obľúbený sci-fi motív opisuje stroje, ktoré sme stvorili, a ktoré už teraz žijú svojím životom, iba o tom nevieme. Je v tom niečo reálne?

SkryťVypnúť reklamu

Možnože my sme tie stroje (smiech). Problém je, že my ako ľudia sme v úvahách vždy veľmi ohraničení. Napríklad, pod dokonalým strojom si vždy predstavujeme stroj podobný človeku, a po druhé, vždy ho vidíme vyrobený z koliesok a z plechu.

Lenže, kto povedal, že raz nevyrobíme dokonalé roboty na inej technologickej báze? Keď už budeme schopní vytvárať schopné biosystémy, možno začneme celú robotiku budovať odznovu práve na týchto základoch. A vtedy by sa skutočne mohlo stať to, že sme vyrobili roboty nerozoznateľné od ľudí.

S tým prichádza obava, že stvoríme čosi, čo nás presiahne. Treba sa báť?

Vždy musí byť spoločenská objednávka na konkrétny produkt. Ktovie, či bude niekedy objednávka na produkt dokonalejší ako človek. Azda by sme takého tvora ani nepotrebovali.

Čo potrebujeme?

Skôr ako univerzálny inteligentný stroj potrebujeme stroje schopné zvládnuť úlohy v určitých ohraničených oblastiach.

Iná námietka voči stroju dokonalejšiemu ako človek sa pýta, ako sa tento náš výtvor bude správať k človeku. Možnože mu bude na nás záležať, podobne ako nám záleží na zvieratách, čiže, možno to bude stroj-sympaťák, bude sa o nás starať a vytvorí nám raj na zemi. To je tá optimistickejšia predstava.

Keď napríklad dobývame vesmír, nevidíme hneď aplikácie poznatkov v praxi, skôr sme zvedaví. Túžime skúmať vesmír. Nie je za umelou inteligenciou podobná túžba - túžba po umelom živote?

Tá túžba existuje, len máme pred ňou strach. Napokon, umelý život v určitej hraničnej podobe už existuje – zoberte si množiaci sa počítačový vírus výrazne meniaci svoje prostredie.

Dnes sa pracuje na biochemických procesoroch z organickej, nie silikónovej hmoty, ktoré by vedeli spracovať informácie a boli by programovateľné.

Biochemické počítače. Čo sa od nich očakáva?

Mohli by opravovať samých seba, množiť sa, opravovať – podobne ako keď rozrežete dážďovku a ona dorastie. Na týchto veciach sa už pracuje.

Ak to celé zhrnieme, vy ste technooptimista?

Snažím sa byť realistom. Dokonca sa obávam prílišných optimistov, ktorí svoje názory dokážu presadiť a niekedy nevenujú dostatočnú pozornosť rizikám. Treba byť opatrný, keď vypustíte džina z fľaše. Vedci nie sú povinní urobiť všetko, čo vedia urobiť. Som presvedčený, že naša racionalita by mala ostať ľudskou racionalitou.

Musí to zvažovať vedec?

To je tiež otázne. Bude citlivé otázky zvažovať vedec pri výskume, alebo inžinier, ktorý navrhuje praktický výstup? Alebo to bude zvažovať celá spoločnosť? Mnohé citlivé poznatky už máme a vedci len čakajú na spoločnosť, na jej odpoveď, či ich smú alebo nesmú uviesť do praxe.

Problematika embryonálnych buniek či diskusia okolo niektorých veľmi rizikových výskumov vo virológii sú toho dnes dobrým dôkazom. A v rizikovej kategórii sú aj niektoré výskumy v informatike a telekomunikáciách.

kelemenzakovickniznica.jpg

Jozef Kelemen je autorom vyše stovky vedeckých článkov a desiatok odborných kníh. Foto - Peter Žákovič

Znalostná spoločnosť

Dlhodobo sa venujete aj otázkam znalostnej spoločnosti. Z tej sa pomaly stalo vyprázdnené politické zaklínadlo, o čo presne ide?

Pravda, politici sa termín znalostnej spoločnosti naučili rýchlo zneužívať. Pôvodná definícia Petra Ferdinanda Druckera znie, že znalostný pracovník na trhu práce nepredáva svoju fyzickú silu, ale predáva to, čo vie.

Drucker predpovedal, že znalostný pracovník stane dominujúcou zložkou budúcich vyspelých spoločností, tiež však varoval, že s tým prídu otrasy a problémy ešte závažnejšie ako boli sociálne problémy 20. storočia. A čo sa nestalo? Dobrým príkladom na Slovensku bol takzvaný „štrajk“ lekárov.

Prečo takzvaný?

Pretože to nebol štrajk. Môžme v tom vidieť príznak problémov spojených s narastajúcou politickou mocou vzdelaných a pre spoločnosť nepostrádateľných ľudí. Dobre si všimnime, aký chaos spôsobili regulérne a právne dokonale prevedené podanie výpovedí. Krajinu dostalo pomaly do výnimočného stavu iba to, že istá profesná skupina využila právo ukončiť pracovný pomer s pre ňu nevyhovujúcim zamestnávateľom.

Koľko falošných apelov zaznelo! Iste, poslaním lekára je liečiť ľudí, no zamestnanec predsa nemá povinnosť byť zamestnaný, kde nie je spokojný. Lekári podali výpoveď, neodmietli liečiť. To zamestnávateľ im liečiť zabránil tým, že prijal ich výpovede. Toto podľa mňa médiá zámerne nezviditeľňovali.

To je zaujímavé. Znalostná spoločnosť, ktorá sa spomína ako podmienka blahobytu a stability, teda povedie k niečomu opačnému, k spoločenským otrasom?

So znalostnými pracovníkmi vzniká nový stav, na ktorý spoločnosť nie je pripravená. Nepamätajú na to ani zákony navrhnuté podľa starých vzorcov. Keď dá výpoveď robotník, firma prijme iného. Znalostný pracovník však nie je nahraditeľný tak jednoducho ako robotník. Čo sa stane, ak sa spoja všetci znalostní pracovníci a podajú výpovede? Budeme azda meniť pracovné právo? Urobíme z tých, čo niečo vedia, akýchsi novodobých otrokov? Alebo im snáď pripravíme dôstojnejšie podmienky na život?

Znalostný pracovník sa stáva kľúčovým občanom spoločnosti. Môže skomplikovať jej chod, môže ju meniť, môže jej aj nevídane pomôcť. Podobne ako v predminulom storočí proletár.

Ako by vyzeralo riešenie?

Vo svete to skúšajú riešiť napríklad tak, že sa špičkoví znalostní pracovníci dostávajú do správnych rád firiem, kde pracujú. Kto je v správnej rade, spravidla nepodáva výpoveď, lebo časť firmy je jeho a on je finančne zainteresovaný na tom, ako podnik napreduje. Pracovníci ako spolumajitelia podnikov a inštitúcií - to je napokon predstava podobná otcom socializmu, ktorí chceli urobiť vlastníkov výrobných prostriedkov z proletariátu.

Nevieme ako budú vyzerať problémy a ani ako ich bude spoločnosť riešiť. Isté je, že má zmysel vychovávať generáciu odborníkov schopných menežovať znalostných pracovníkov a poznatky využívať v podnikovej praxi.

SkryťVypnúť reklamu

Najčítanejšie na SME Tech

SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťZatvoriť reklamu