Hoci aj najlepšie počítače sú len mŕtve stroje, aj ony môžu ľuďom ubližovať.
V posledných niekoľkých rokoch akoby sa strach z počítačov a z ich odvodeniny – robotov – vrátil nielen na stránky sci-fi, ale i do reálnejších kníh a časopisov. Možnosť akejsi vzbury počítačov alebo robotov sa znovu stala predmetom úvah aj serióznych ľudí. Jedna z príčin spočíva v prudkom rozvoji metód umelej inteligencie, druhá v tom, že počítače a informačná elektronika už opustili klimatizované sály a bývajú s nami. Oba faktory oživujú dávno zabudnuté strachy.
Predovšetkým si povedzme, že napriek všetkým úspechom umelej inteligencie, súčasné počítače v ľudskom zmysle inteligentné nie sú. Nemôžu mať nové nápady a ani pomerne nezávislé riešenia, ku ktorým dochádzajú napríklad expertné systémy, rozhodovacie metódy, optimalizačné algoritmy a podobné rafinovanosti, nie sú vlastne celkom nezávislé. Sú to riešenia a nápady, ktoré si vopred niekto (človek) vyžiadal. Nevyliahli sa samy od seba a ani z vnútornej potreby počítačov. V tomto zmysle sú i tie najlepšie počítače len mŕtve stroje. To samozrejme nemení nič na skutočnosti, že i ony môžu ľuďom ubližovať, to môže napokon aj motyka, len im na to ubližovanie musel vopred niekto dať pokyn, či už zámerne (spomeňme si trebárs na vírus ILOVEYOU) alebo chybou vo vlastnom ľudskom uvažovaní.
Predchádzajúce slová sú však ako argument o neškodnosti počítačov a robotov tak trochu podvodom voči čitateľovi. Len málokto z tých rozumnejších uvažuje o vzbure dnešných počítačov, o robotoch ani nehovoriac – ich dnešné priemyselné verzie nemajú ani inteligenciu reťazca aminokyselín. Obavy a strachy sa týkajú budúcnosti, pre niekoho možno ani nie tak veľmi vzdialenej. Rýchlosť rastu schopnosti počítačov skutočne vyráža dych a niektoré z ich prejavov sa zdajú (dnes však naozaj len zdajú!) byť na hranici inteligentného správania. Máme sa teda báť agresie počítačov niekedy v budúcnosti?
Odpoveď asi bude závisieť od nátury odpovedajúceho. Problém je v tom, že by sme si vopred mali povedať, kde sa agresia vôbec berie – v ľuďoch, ale i v ostatných živých tvoroch (a čo v rastlinách, nepripadá vám burina v záhradke niekedy až veľmi agresívna?). Je to niečo, na čo organizmus príde napokon sám od seba, alebo je to niečo, čo je doň vložené – výchovou, pudmi, evolučným procesom či samotným faktom, že na to, aby prežil, musí využívať (porušovať) okolie?
Odpovedať na to možno vedia psychológovia, sotva však odborníci na počítače. Keby však mali ktorúkoľvek z predchádzajúcich možností povedať svojím jazykom, asi by sa v ich podaní niekde vyskytlo slovo „naprogramovanie“ alebo „architektúra systémov“. Nech už bolo autorom programu živých tvorov čokoľvek (ja som za evolúciu), vložilo doň agresivitu akosi zvonku. Možno ako nutný prvok, ale predsa. Ak chceme o niečom takom uvažovať pri počítačoch, zdá sa, že aj do nich by schopnosť dostávať agresívne nápady musel vopred niekto vložiť. Ten niekto by samozrejme musel byť človek (i keď si nemyslím, že by sa taký nenašiel). Neubližujme svojím strachom počítačom! Nemusíme sa ich báť, skôr sa bojme seba.
Neviem, či možno nasledujúci výrok chápať ako prejav pesimizmu alebo optimizmu: Osobne verím, že počítač alebo robot sa proti človeku sám od seba nevzbúri ani v budúcnosti, tak ako sa proti nemu nikdy samo od seba nevzbúri auto. I keď to nič nemení na tom, že obetí „vzbúrených“ áut každý deň pribúda.
MILAN MAREŠ
Ústav teórie informácie a automatizácie AV ČR
Vesmír 12/2000
