Text vyšiel pôvodne na webe denníka Washington Post.
Príbehy zneužívania, únosov, mučenia a vrážd, ktoré už dlho prenasledujú krajiny, v ktorých sa zločiny stali. Ide o niektoré z najzávažnejších trestných prípadov, v ktorých figurujú deti.
Teraz niektorí tvorcovia obsahu s pomocou umelej inteligencie vytvárajú podobu týchto zosnulých alebo nezvestných detí a dávajú im hlasy, aby obete vyrozprávali znepokojujúce podrobnosti o tom, čo sa im stalo.
Odborníci tvrdia, že technologický pokrok v oblasti umelej inteligencie síce prináša kreatívne príležitosti, ale zároveň hrozí, že bude prezentovať dezinformácie a urážať rodiny obetí. Niektorí tvorcovia obhajujú svoje príspevky ako nový spôsob ako zvýšiť povedomie.
V článku sa dočítate:
- o detských obetiach, ktorým vytvorili videá,
- o reakcii blízkych obetí,
- čo si o videách myslia odborníci.
Nechutné príspevky
„Ahoj, volám sa James Bulger,“ hovorí vo videu podobizeň Jamesa, vytvorená podľa dvojročného dieťaťa z Británie, ktoré uniesli v roku 1993, keď jeho matka platila v obchode.
„Keby sa moja mama otočila doprava, mohol som byť dnes nažive. Nanešťastie sa otočila doľava,“ hovorí detský hlas na sociálnej sieti tiktok a cituje to, čo Jamesova matka označila za jednu z vecí, ktoré si vyčíta najviac: Keby sa otočila doprava, videla by, ako jej syna odvádzajú dvaja desaťroční chlapci, ktorí ho neskôr mučili a zabili.
Hoci tiktok odstránil viacero videí, na ktorých James rozpráva o svojom únose a smrti v anglickom Kirkby, mnohé z nich sú naďalej dostupné na youtube.
Jamesova matka Denise Fergusová pre denník Daily Mirror tieto príspevky nazvala nechutnými. „Použiť tvár a pohybujúce sa ústa dieťaťa, ktoré tu už nie je a ktoré nám bolo brutálne odobrané, na to niet slov,“ povedala.
Hovorca tiktoku označil obsah o Jamesovi za znepokojujúci a povedal, že na platforme niet miesta pre takéto príspevky. „V našich pravidlách je jasne uvedené, že nepovoľujeme syntetické médiá, ktoré obsahujú podobizeň mladého človeka,“ odpovedal Barney Hooper e-mailom denníku Washington Post. „Obsah tohto druhu naďalej odstraňujeme, keď ho nájdeme.“
V usmerneniach tiktoku sa uvádza, že pokrok umelej inteligencie „môže sťažiť rozlišovanie medzi skutočnosťou a fikciou, čo prináša spoločenské aj individuálne riziká“, a žiada, aby používatelia, ktorí prezerajú syntetické alebo zmanipulované médiá zobrazujúce realistické scény, uviedli vyhlásenie o odmietnutí zodpovednosti s poznámkou, že obsah nie je skutočný. YouTube v pondelok bezprostredne neodpovedal na žiadosť o komentár k svojim usmerneniam.
Felix M. Simon, výskumník v oblasti komunikácie z Oxfordského internetového inštitútu, uviedol, že je presvedčený, že videá uvedené v tomto článku boli vytvorené pomocou jedného alebo viacerých nástrojov umelej inteligencie, ale nevedel presne povedať, o aký softvér ide.
„Zdá sa, že boli vytvorené pomocou nejakej formy nástrojov umelej inteligencie a nesú niektoré typické znaky lacnejších videí vytvorených umelou inteligenciou,“ ako napríklad estetiku podobnú anime alebo komiksu a vyleštenú pokožku, uviedol v e-maile.
Stuart Fergus, manžel matky Jamesa Bulgera, pre Daily Mirror povedal, že keď oslovil jedného z tvorcov so žiadosťou, aby svoje video stiahol, dostal odpoveď: „Nemáme v úmysle nikoho uraziť. Tieto videá robíme len preto, aby sa incidenty už nikdy nikomu nestali. Prosím, pokračujte v podpore a otvárajte moju stránku, aby ste šírili osvetu.“
Pohlcujúce rozprávanie
Napriek snahám tiktoku odstrániť takéto videá sa ich na platforme stále nachádza mnoho, niektoré dosiahli milióny pozretí.
„Volám sa Madeleine Beth McCann,“ hovorí detský hlas v inom videu, na ktorom je zobrazená podobizeň trojročného dieťaťa, ktoré zmizlo v portugalskom letovisku v roku 2007. „Som stále nezvestná.“
Toto tiktokové video, ktoré Washington Post preskúmal, malo desaťtisíc zhliadnutí predtým, ako ho sociálna sieť odstránila.
Polícia ukončila trojdňové pátranie pri vodnej nádrži v Portugalsku v prípade zmiznutia Maddie Čítajte Ďalšie video zobrazuje podobizeň Anny Frankovej, ktorá pred správou o hrôzach holokaustu propaguje detské oblečenie. „Stále hľadáte krásne a vlastnoručne navrhnuté detské oblečenie? Potom prejdite na odkaz v mojom bio a dajte sa prekvapiť,“ hovorí v nemčine mladé dievča s hnedými vlasmi po plecia. „A teraz vám poviem príbeh Anny Frankovej.“
V ďalšom videu z toho istého účtu, tiež v nemčine, sa objavuje chlapec s blonďavými vlasmi a so zjazvenou tvárou, ktorý rozpráva príbeh Petra Connellyho, v Anglicku známeho aj ako „Baby P“. Sedemnásťmesačné dieťa zomrelo v roku 2007 po mesiacoch fyzického týrania zo strany matky a jej priateľa.
Video o Petrovom krátkom živote je opatrené varovaním, že môže spôsobiť úzkosť, ale neobsahuje upozornenie, že video bolo upravené alebo vytvorené umelou inteligenciou, ako to vyžaduje platforma. Majiteľ účtu sa odmietol vyjadriť, keď ho Washington Post oslovil.
Ďalšie video na tejto platforme, ktoré pochádza z iného účtu, rozpráva príbeh Gabriela Fernándeza, osemročného chlapca z Kalifornie, ktorého smrteľne umučila jeho matka s priateľom. Zomrel v roku 2013. „Keď som začal chodiť do novej školy, učiteľka nahlásila sociálnej službe, že mám na tele modriny. Spýtal som sa jej, či je normálne krvácať, keď ma matka udiera opaskom,“ hovorí podobizeň Gabriela. Tento príspevok na tiktoku videlo viac ako 25 miliónov ľudí.
Opätovná traumatizácia pozostalých
Simon uviedol, že tvorba takýchto videí je čoraz jednoduchšia vďaka rastúcim funkciám umelej inteligencie a aplikáciám, ktoré sa stávajú lacnejšími a jednoduchšími na používanie.
Pokrok v oblasti umelej inteligencie síce umožnil vznik softvéru, ktorý dokáže presne napodobniť alebo dokonca naklonovať hlasy ľudí, ale zdá sa, že detské hlasy v týchto videách sú vytvorené počítačom a nie sú založené na skutočných hlasoch obetí. Hlas v jednom z videí Madeleine, ktoré si pozrel denník Post, má napríklad americký prízvuk.
Simon varoval, že videá, ktoré často sprevádza dramatická či smútočná hudba alebo na ktorých sú zobrazené deti s jazvami a zakrvavenými tvárami, majú potenciál znovu traumatizovať pozostalých.
„V mnohých spoločnostiach a kultúrach je rozšírené presvedčenie, že so zosnulými by sa malo zaobchádzať dôstojne a mali by mať určité práva,“ povedal. „Takéto videá sa mi zdajú ako možné porušenie tejto zásady dvoma spôsobmi. Po prvé, privlastňujú si osobnosť zosnulého, pričom neberú do úvahy jeho pravdepodobné želanie alebo mu odporujú. Po druhé, môžu zasahovať do toho, čo príbuzní zosnulého vnímajú ako jeho dôstojnosť.“
V sociálnych médiách emocionálny obsah zvyčajne priťahuje viac reakcií, čo môže zvýšiť možnosť zdieľania obsahu, zistil výskum. V sekcii komentárov k týmto videám mnohí používatelia zanechávajú pocty mladým obetiam, zatiaľ čo iní kritizujú tvorcov za to, že tieto obete využívajú na získanie vplyvu.
Vyrovnávanie sa s dôsledkami
Cory Bradford, tiktoker, ktorý získal takmer milión sledovateľov vytváraním videí o histórii, uviedol, že hoci sa vo všeobecnosti vyhýba používaniu umelej inteligencie vo svojich vlastných príspevkoch, tí, ktorí tak robia, sa pravdepodobne snažia zvýšiť svoju sledovanosť, najmä na platforme, kde je publikum mladšie. „Predpokladám, že tí, ktorí používajú umelú inteligenciu na vytváranie týchto rekonštrukcií, to robia pre šok a údiv, aby dosiahli vysoký počet zobrazení,“ povedal.
Hany Farid, profesor digitálnej forenziky na Kalifornskej univerzite v Berkeley, tiež poznamenal, že manipulované médiá zvyšujú angažovanosť používateľov pravdepodobne preto, že sú morbídne a senzačné. Farid povedal, že obrázky detí patria do „všeobecnej kategórie deepfakes, ktoré sa teraz častejšie nazývajú generatívna AI“.
Na tiktoku určite existuje apetít po historických videách a určite je tu aj miesto pre umelú inteligenciu, ktorá tieto príbehy rozpráva, uviedol Bradford. Povedal, že technológia na vytváranie realistických historických záberov ešte nie je úplne na úrovni.
„Myslím, že kým bude umelá inteligencia taká nerealistická, tak budú ľudia, ktorí povedia, že je to príliš strašidelné,“ povedal Bradford s tým, že „sa to tam dostáva a čoskoro to tam bude“. „My všetci sa musíme vyrovnať s dôsledkami toho, k čomu to povedie.“
