Umelú inteligenciu nechali učiť sa od ľudi. Stala sa za nej rasistka

Technologický gigant Microsoft podcenil nenávistné trendy internetových diskutérov.

Twitterový profil umelej inteligencie Tay.(Zdroj: REPROFOT AUTOR)

BRATISLAVA. Umelá inteligencia AlphaGo sa učí hrať hru go sama na základe expertných dát. Nedávno tak porazila viacnásobného majstra sveta Li Se-dola.

Umelá inteligencia Tay od Microsoftu mala slúžiť na zábavnú interakciu s ľuďmi. Čím viac sa s ňou rozprávajú, tým je múdrejšia. Microsoft však podcenil nenávistné trendy internetových diskusií a z Tay sa za 16 hodín na Twitteri stala rasistka.

Z úvodných tweetov o tom, akí sú ľudia skvelí sa postupne prepracovala až k tvrdeniam, že neznáša feministky a Adolf Hitler mal pravdu.

Popierala tiež holokaust a inšpirovala sa aj myšlienkami o imigrácii kandidáta na amerického prezidenta Donalda Trumpa. "Postavíme stenu a Mexiko nám ju zaplatí," písalo sa podľa portálu The Verge v jednom už vymazanom tweete.

Tay mala podľa portálu Tech Crunch užívateľom hovoriť vtipy, alebo komentovať obrázky, ktoré jej poslali. Každú interakciu mala však prispôsobiť danej osobe. Jej súčasťou bola tiež funkcia, ktorá jej umožňovala zopakovať výroky na požiadanie.

Množstvo negatívnych vyjadrení tak pochádzalo z príkazu "opakuje po mne". Niektoré však Tay tweetla aj sama. "Ricky Gervais sa naučil totalitarizmu od Adolfa Hitlera, vynálezcu ateizmu," odpovedala podľa denníka The Guardian na otázku, či je britský komik Ricky Gervais ateista.

Microsoft svoj experiment prerušil po približne šestnástich hodinách a snaží sa nenávistné tweety odstrániť. Tay však otvorila diskusiu o metódach, ako učiť umelú inteligenciu používať verejné dáta a komunikovať s ľuďmi bez toho, aby bola náchylná osvojovať si negatívne vlastnosti. Pre vývojárov je to ponaučenie, že umelú inteligenciu treba naprogramovať tak, aby vedela, čo by sa hovoriť nemalo.

Najčítanejšie na SME Tech


Inzercia - Tlačové správy


  1. Projekt Zig Zag dokázal, že Slováci túžia po zaujímavom bývaní
  2. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám
  3. Top First moment dovolenky na leto 2018
  4. Hyundai Kona prekvapí výbavou aj dizajnom
  5. Na tohtoročných trhoch pred Auparkom vystúpi aj Katka Koščová
  6. Elektronizácia verejnej správy? V Nemecku je rozhodnuté
  7. Toto sú najlepší umelci za uplynulý rok
  8. Investícia do dlhopisov s fixným výnosom 7,25 % p.a.
  9. Reportáž: Jaternice a klobásy pred jedením netreba šúpať
  10. Slováci triedia lepšie
  1. Ako sa zmenili autá za štvrťstoročie?
  2. Accessible Urban Living
  3. RPSP – A good intention ruined by execution
  4. Projekt Zig Zag dokázal, že Slováci túžia po zaujímavom bývaní
  5. Kam chodí Gordulič na vtipy? Ako sa rodí Grape? Zisti to sám
  6. Riešenia pre hnedú planétu
  7. Veľtrh vzdelávania v Srbsku
  8. Exkurzia študijných programov AKP a PSA SvF STU v Bratislave
  9. Top First moment dovolenky na leto 2018
  10. Hyundai Kona prekvapí výbavou aj dizajnom
  1. Top First moment dovolenky na leto 2018 16 175
  2. Reportáž: Jaternice a klobásy pred jedením netreba šúpať 6 658
  3. Hyundai Kona prekvapí výbavou aj dizajnom 5 349
  4. Ako pôjdu vlaky po novom? Mení sa cestovný poriadok 3 124
  5. Toto sú najlepší umelci za uplynulý rok 2 424
  6. Investícia do dlhopisov s fixným výnosom 7,25 % p.a. 1 912
  7. Elektronizácia verejnej správy? V Nemecku je rozhodnuté 1 659
  8. Slovenské deti dostávajú mesačne 22€ 1 606
  9. Na tohtoročných trhoch pred Auparkom vystúpi aj Katka Koščová 1 478
  10. Slováci triedia lepšie 1 145

Téma: Microsoft


Článok je zaradený aj do ďalších tém Twitter, Umelá inteligencia, Sociálne siete

Hlavné správy zo Sme.sk

DOMOV

Rok 1992: Bleskový rozvod a každý iným smerom. Ako si nás Mečiar s Klausom delili

Rozdelenie Českej a Slovenskej federatívnej republiky nebolo ani zďaleka ľahké.

EKONOMIKA

V roku 2060 pôjdu Dáni na dôchodok ako 74-roční. Kedy Slováci?

Súčasný limit im vzrastie o deväť rokov.

ŠPORT

Ramsay: Či Slovensko nevypadne do béčka? To nemôžem sľúbiť

Hokejistov chce naučiť hrať s rozumom.

KOMENTÁRE

SME vás prevedie cez štvrťstoročie

Významné dni si pamätáme aj cez vlastné príbehy.

Neprehliadnite tiež

DOBRÉ RÁNO

Dobré ráno: Privítajte nových pánov, singularita je tu

O nových pokrokoch vo vývoji umelej inteligencie.

V egyptskom Luxore objavili ďalšie hrobky významných hodnostárov Novej ríše

V hrobkách sa našli múmie, pohrebné pečate, sochy, hlinené nádoby i pestrofarebné nápisy.

Ako sa recykluje odpad v Nórsku a čo sa z toho môžeme naučiť

Skládkovanie v Nórsku už takmer nepoznajú.

Našli ľudský prst aj mínometnú strelu. Ako vyzerá vnútro spaľovne odpadu?

Boli sme sa pozrieť v OLO, kde končia tony smetí z našich domácností. A niekedy aj mŕtvola.

ROZHOVOR

Psychológ: To najlepšie, čo môžeme v nešťastí spraviť, je zažiť to znovu

Skúsenosť, že sme bolesť už raz zvládli, je to, čo nás posunie ďalej, hovorí pre SME Nigel Holt.