SME
Sobota, 16. október, 2021 | Meniny má VladimíraKrížovkyKrížovky

Umelú inteligenciu nechali učiť sa od ľudi. Stala sa za nej rasistka

Technologický gigant Microsoft podcenil nenávistné trendy internetových diskutérov.

Twitterový profil umelej inteligencie Tay.Twitterový profil umelej inteligencie Tay. (Zdroj: REPROFOT AUTOR)

BRATISLAVA. Umelá inteligencia AlphaGo sa učí hrať hru go sama na základe expertných dát. Nedávno tak porazila viacnásobného majstra sveta Li Se-dola.

Umelá inteligencia Tay od Microsoftu mala slúžiť na zábavnú interakciu s ľuďmi. Čím viac sa s ňou rozprávajú, tým je múdrejšia. Microsoft však podcenil nenávistné trendy internetových diskusií a z Tay sa za 16 hodín na Twitteri stala rasistka.

Z úvodných tweetov o tom, akí sú ľudia skvelí sa postupne prepracovala až k tvrdeniam, že neznáša feministky a Adolf Hitler mal pravdu.

Skryť Vypnúť reklamu

Popierala tiež holokaust a inšpirovala sa aj myšlienkami o imigrácii kandidáta na amerického prezidenta Donalda Trumpa. "Postavíme stenu a Mexiko nám ju zaplatí," písalo sa podľa portálu The Verge v jednom už vymazanom tweete.

Tay mala podľa portálu Tech Crunch užívateľom hovoriť vtipy, alebo komentovať obrázky, ktoré jej poslali. Každú interakciu mala však prispôsobiť danej osobe. Jej súčasťou bola tiež funkcia, ktorá jej umožňovala zopakovať výroky na požiadanie.

Množstvo negatívnych vyjadrení tak pochádzalo z príkazu "opakuje po mne". Niektoré však Tay tweetla aj sama. "Ricky Gervais sa naučil totalitarizmu od Adolfa Hitlera, vynálezcu ateizmu," odpovedala podľa denníka The Guardian na otázku, či je britský komik Ricky Gervais ateista.

Skryť Vypnúť reklamu

Microsoft svoj experiment prerušil po približne šestnástich hodinách a snaží sa nenávistné tweety odstrániť. Tay však otvorila diskusiu o metódach, ako učiť umelú inteligenciu používať verejné dáta a komunikovať s ľuďmi bez toho, aby bola náchylná osvojovať si negatívne vlastnosti. Pre vývojárov je to ponaučenie, že umelú inteligenciu treba naprogramovať tak, aby vedela, čo by sa hovoriť nemalo.

Skryť Vypnúť reklamu

Najčítanejšie na SME Tech

Skryť Vypnúť reklamu
Skryť Vypnúť reklamu
Skryť Vypnúť reklamu
Skryť Vypnúť reklamu

Neprehliadnite tiež

Technologický podcast Klik.

Prehľad technologických správ.


a 1 ďalší 9 h

Vypočujte si vedátorský špeciál o genetike a bioinformatike.


15. okt

Podcastové novinky z vedy.


a 1 ďalší 15. okt
Skryť Zatvoriť reklamu