SME

AI prirovnávajú k jadrovým technológiám. Lídri z techu varujú pred zánikom ľudstva

Technologickí lídri varujú pred hrozbou zániku ľudstva.

Generálny riaditeľ OpenAI Samuel Altman svedčí pred súdnym podvýborom Senátu 16. mája 2023 v Kapitole.Generálny riaditeľ OpenAI Samuel Altman svedčí pred súdnym podvýborom Senátu 16. mája 2023 v Kapitole. (Zdroj: Jabin Botsford - The Washington Post)

Text vyšiel pôvodne na webe denníka Washington Post.

Stovky vedcov a pracovníkov v oblasti umelej inteligencie podpísali list, ktorý stručne varuje, že umelá inteligencia predstavuje existenčnú hrozbu pre ľudstvo. Ide o najnovší príklad rastúceho množstva varovaní od ľudí, ktorí technológiu sami vytvárajú.

„Zmiernenie rizika vyhynutia v dôsledku AI by malo byť globálnou prioritou popri iných rizikách celospoločenského rozsahu, ako sú pandémie a jadrová vojna,“ uvádza sa vo vyhlásení, ktoré v utorok zverejnila nezisková organizácia Centrum pre bezpečnosť AI.

SkryťVypnúť reklamu
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou

Otvorený list podpísalo viac ako 350 výskumníkov a vedúcich pracovníkov vrátane generálneho riaditeľa spoločnosti OpenAI, ktorá vytvorila chatbot ChatGPT, Sama Altmana, ako aj 38 členov jednotky umelej inteligencie DeepMind spoločnosti Google.

Altman a ďalší boli na čele tejto oblasti a presadzovali novú „generatívnu“ umelú inteligenciu pre masy, napríklad generátory obrázkov a chatboty, ktoré dokážu viesť konverzácie podobné ľudským, sumarizovať text a písať počítačový kód.

Chatbot ChatGPT od spoločnosti OpenAI bol prvý, ktorý bol v novembri uvedený na trh pre verejnosť. Tým sa postupne začali preteky v zbrojení, ktoré viedli k tomu, že spoločnosti Microsoft a Google začiatkom tohto roka uviedli na trh svoje vlastné verzie.

Posolstvo jednej vety

Odvtedy rastúca frakcia v rámci komunity AI varuje pred možnými rizikami scenára súdneho dňa, keď technológia nadobudne vedomie a pokúsi sa nejakým spôsobom zničiť ľudí. Proti nim zase stoja výskumníci, ktorí tvrdia, že ide o odvrátenie pozornosti od problémov, ako sú prirodzená zaujatosť súčasnej umelej inteligencie, jej potenciál brať pracovné miesta a schopnosť klamať.

SkryťVypnúť reklamu

Skeptici tiež poukazujú na to, že spoločnosti, ktoré predávajú nástroje umelej inteligencie, môžu ťažiť z rozšírenej predstavy, že sú výkonnejšie, než v skutočnosti sú – a môžu predbehnúť potenciálnu reguláciu krátkodobých rizík, ak budú propagovať tie dlhodobé.

Súvisiaci článok Prodekan Murár o umelej inteligencii: Či nahradí učiteľov? Bol by som rád, keby som mohol povedať nie Čítajte 

Dan Hendrycks, počítačový vedec, ktorý vedie Centrum pre bezpečnosť umelej inteligencie, uviedol, že list, ktorý obsahoval iba jednu vetu, bol navrhnutý tak, aby sa hlavné posolstvo nestratilo.

„Potrebujeme všeobecné uznanie okolností predtým, ako budeme môcť viesť užitočné politické diskusie,“ napísal Hendrycks v e-maile. „V prípade rizík takéhoto rozsahu nie je potrebné vyvodiť záver, že táto technológia je preceňovaná, ale že tento problém je v súčasnosti nedostatočne zdôrazňovaný v porovnaní so skutočnou úrovňou ohrozenia.“

SkryťVypnúť reklamu

Nezhodujú sa všetci

Koncom marca sa v inom verejnom liste zozbieralo viac ako 1000 podpisov členov akademickej, podnikateľskej a technologickej sféry, ktorí vyzvali na úplné pozastavenie vývoja nových výkonných modelov umelej inteligencie, kým sa nezavedie regulácia.

Väčšina najvplyvnejších lídrov v tejto oblasti však tento konkrétny list odmietla podpísať. Pri najnovšom vyhlásení však zrejme zmenili názor a list vrátane Altmana podpísali aj dvaja najvyšší manažéri spoločnosti Google v oblasti umelej inteligencie - Demis Hassabis a James Manyika.

Podpísal ho aj technologický riaditeľ spoločnosti Microsoft Kevin Scott a vedecký riaditeľ spoločnosti Microsoft Eric Horvitz.

V liste však napríklad chýbajú generálny riaditeľ spoločnosti Google Sundar Pichai a generálny riaditeľ spoločnosti Microsoft Satya Nadella, dvaja najmocnejší predstavitelia spoločností v tejto oblasti.

SkryťVypnúť reklamu

Pichai v apríli povedal, že tempo technologických zmien môže byť príliš rýchle na to, aby sa im spoločnosť dokázala prispôsobiť, ale bol optimistický, pretože diskusia o rizikách spojených s umelou inteligenciou už prebieha. Nadella povedal, že AI bude nesmierne prospešná, pretože pomôže ľuďom pracovať efektívnejšie a umožní im vykonávať viac technických úloh s menším počtom školení.

Vedúci predstavitelia odvetvia tiež zintenzívňujú svoju angažovanosť vo vzťahu k washingtonským mocenským činiteľom. Začiatkom tohto mesiaca sa Altman stretol s prezidentom Bidenom, aby diskutovali o regulácii AI. Neskôr vypovedal v Kapitole a varoval zákonodarcov, že AI by mohla svetu spôsobiť značné škody.

Altman upozornil na konkrétne „rizikové“ aplikácie vrátane jej využitia na šírenie dezinformácií a potenciálnu pomoc pri cielenejších úderoch dronov.

SkryťVypnúť reklamu

V utorok sa k tomu vyjadril aj senátor Richard Blumenthal: „Tieto technológie už nie sú fantáziou zo science fiction. Umelá inteligencia predstavuje pre našu spoločnosť rozsiahle hrozby a riziká, od presunu miliónov pracovníkov až po šírenie dezinformácií.“ Presadzuje, aby Kongres AI reguloval.

Hendrycks dodal, že na riešenie tohto problému by mohla byť potrebná „ambiciózna globálna koordinácia“, ktorá by sa prípadne poučila z nešírenia jadrových zbraní alebo prevencie pandémií. Hoci bolo navrhnutých viacero nápadov na riadenie AI, neboli prijaté žiadne rozsiahle riešenia.

Treba vyhodnotiť riziká

Altman, generálny riaditeľ OpenAI, v nedávnom blogovom príspevku naznačil, že pravdepodobne bude potrebná medzinárodná organizácia, ktorá bude môcť kontrolovať systémy, testovať ich súlad s bezpečnostnými normami a zavádzať obmedzenia na ich používanie – podobne ako Medzinárodná agentúra pre atómovú energiu riadi jadrové technológie.

SkryťVypnúť reklamu

Altman v súvislosti so zjavným pokrytectvom, keď bije na poplach, ale zároveň rýchlo pracuje na ďalšom rozvoji AI, v Kongrese povedal, že je lepšie dostať túto technológiu k mnohým ľuďom teraz, keď je ešte len na začiatku, aby spoločnosť mohla pochopiť a vyhodnotiť jej riziká, než čakať, kým už bude príliš silná na to, aby sa dala kontrolovať.

Iní naznačili, že porovnanie umelej inteligencie s jadrovou technológiou môže byť alarmujúce. Bývalý technický poradca Bieleho domu Tim Wu povedal, že prirovnávanie jadrového spadu k hrozbe, ktorú predstavuje umelá inteligencia, míňa cieľ. Podľa jeho slov to zahmlieva diskusiu o obmedzení týchto nástrojov tým, že odvádza pozornosť od škôd, ktoré už môžu spôsobovať.

„AI môže spôsobiť jasné škody a vidíme tiež zneužívanie technológie. Myslím si, že by sme s tým mali niečo robiť, ale nemyslím si, že sú ... zatiaľ podobné jadrovej technológii,“ povedal v rozhovore pre denník Washington Post minulý týždeň.

SkryťVypnúť reklamu

Autor: Aaron Gregg, Cristiano Lima, Gerrit De Vynck

SkryťVypnúť reklamu

Najčítanejšie na SME Tech

SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťZatvoriť reklamu