SME

Ľudia majú problém rozpoznať obsah generovaný umelou inteligenciou

Najťažšie rozpoznateľné sú texty a obrázky.

(Zdroj: FOTOLIA)

BRATISLAVA. Ľudia majú vo všeobecnosti problém rozpoznať obsah generovaný umelou inteligenciou (AI). V prípade reči sa úspešnosť pohybuje okolo 60 percent, najťažšie rozpoznateľné sú však text a obrázky. Na utorkovej tlačovej konferencii na to v súvislosti so stúpajúcim počtom podvodov upozornil Róbert Móro z Kempelenovho inštitútu inteligentných technológií (KInIT). Zdôraznil však, že schopnosť ľudí správne rozlíšiť takýto obsah sa zvyšuje pomocou tréningu.

SkryťVypnúť reklamu
Článok pokračuje pod video reklamou
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou

„V budúcnosti môžu pribúdať personalizované útoky, pri ktorých podvodníci využijú údaje z verejných statusov na sociálnych sieťach alebo správy získané phishingom na personalizáciu obsahu. Týmto spôsobom dokážu vytvoriť odpovede napodobňujúce váš štýl vyjadrovania a pôsobiť ešte uveriteľnejšie,“ spresnil Móro.

SkryťVypnúť reklamu
SkryťVypnúť reklamu

Klinický psychológ a súdny znalec Dušan Kešický pripomenul, že to, či človek „naletí“ podvodníkom, nezávisí od veku či vzdelania. „Podvodníci sa nás snažia dostať do stavu emocionálnej destabilizácie - či už negatívnej, napríklad keď vyvolajú strach o našich blízkych, alebo pozitívnej, keď nám volajú s oznamom o výhre alebo zhodnotení našej investície,“ poznamenal. Vždy im však podľa neho ide o to, aby sme konali rýchlo a bez rozmýšľania.

Podľa slov Móra sa môžu čoraz častejšie objavovať aj podvody využívajúce AI modely, ktoré dokážu viesť autonómne konverzácie alebo v reálnom čase meniť tvár vo videu. Dodal, že hoci stále platí, že veľké jazykové modely aj generátory reči najlepšie fungujú pre angličtinu, mnohé z nich už obstojne zvládnu aj slovenčinu. Čo sa týka syntézy reči, najnovšie AI modely potrebujú len niekoľkosekundovú nahrávku, aby dokázali „naklonovať“ daný hlas.

SkryťVypnúť reklamu

Odborník upozornil, že v rámci textu si treba všímať najmä gramatické a štylistické chyby, nezvyčajné tvary slov či zvláštne formulácie. Obrázok vygenerovaný umelou inteligenciou môžu prezradiť nezrovnalosti v detailoch, nerealistické osvetlenie a tiene, nelogické pozadie či objekty, ktoré k sebe „nesedia“. Vo videu naopak pohyby úst nesedia s hovoreným slovom, postavy majú neprirodzené pohyby očí, prítomné sú aj nelogické detaily v pozadí. Reč produkovanú AI môžeme rozpoznať napríklad podľa neprirodzenej melódie reči či dôrazu na jednotlivé slová.

Psychológ dodáva, že univerzálny recept, ako sa podvodom úplne vyhnúť, neexistuje. „Tréningom, skúsenosťami sa tento proces obrusuje a stáva sa oveľa menej nebezpečným, avšak situácie, ktoré vyvolávajú títo útočníci, sú stále nové a nové, a preto je to nekonečný proces, ktorému sa nedá zabrániť,“ podotkol. Kľúčové je však podľa neho, aby téma zostávala prítomná v povedomí ľudí.

SkryťVypnúť reklamu

Technologický riaditeľ mobilného operátora O2 Slavomír Pšenák v tejto súvislosti pripomenul, že podvodníci neustále menia svoje techniky. Poznamenal, že denne zablokujú až 70-tisíc podvodných telefonátov. Keďže operátori nepoznajú obsah komunikácie, je podľa jeho slov veľmi náročné vyhodnotiť, ktoré volanie je korektné, a ktoré realizujú podvodníci.

„Platí zásada, že nemôžeme zablokovať žiaden korektný hovor, ktorý realizujú naši zákazníci,“ doplnil. Za súčasť prevencie označil aj novú informačnú kampaň „Otázka za milión“, ktorá má ľuďom priblížiť, ako reagovať na telefonát, keď sa volajúci vydáva za blízkeho

Technológie

Súvisiace témy: Tech
SkryťVypnúť reklamu

Najčítanejšie na SME Tech

SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu

Neprehliadnite tiež

Do roku 2030 sa má v Indii zdvojnásobiť množstvo produkovaného odpadu. Už dnes veľká časť končí v uliciach a v prírode.

V kaviarni vyzbierali až 23 ton plastu.


Veronika Cechová 17

Týždenný podcast o novinkách z vedy.


a 1 ďalší

Starship po približne hodinovom lete kontrolovane pristála v Indickom oceáne.


TASR
Nobelova cena.

(Ne)vedecký newsletter Tomáša Prokopčáka.


4
SkryťZatvoriť reklamu