Text vyšiel pôvodne v denníku The Washington Post.
Ania Rucinski sa cítila mizerne.
Síce vyzerá dobre, ale priatelia jej naznačili, že sa nedokáže vyrovnať svojmu partnerovi - „božskému“ fešákovi. Rovnakí kamaráti jej zároveň nikdy nedokázali poradiť, čo by so sebou mohla urobiť, aby vyzerala atraktívnejšie.
V honbe za krutou pravdou sa preto 32-ročná Rucinská obrátila na netradičný zdroj: ChatGPT.
Botovi napísala, že už je unavená z toho, že sa cíti menej žiadaná, a spýtala sa ho, čo by so sebou mohla urobiť, aby vyzerala lepšie. Odpovedal jej, že by jej tvári prospela „záclonová“ ofina.
„Ľudia filtrujú veci cez svoje predsudky a vnášajú do takýchto zložitých otázok vlastnú subjektivitu,“ vraví Rucinská, ktorá žije v austrálskom meste Sydney. „ChatGPT prináša úroveň objektivity, ktorú v skutočnom živote nemôžete získať,“ tvrdí.
V článku sa dočítate:
- aký plán chcú ľudia od ChatGPT,
- čo boty hovoria používateľom,
- prečo sú rady chatbota zavádzajúce.
Skryté predsudky
Od svojho uvedenia na trh koncom roka 2022 využili ChatGPT od spoločnosti OpenAI stovky miliónov ľudí na celom svete na vypracovanie e-mailov, výskum a brainstorming nápadov.
Najnovšie však ľudia do programu nahrávajú svoje vlastné fotografie, žiadajú ho, aby ohodnotil ich vzhľad, a preposielajú výsledky na sociálnych sieťach. Mnohí tiež žiadajú bota, aby im vypracoval plán, ako svoj vzhľad zlepšiť. Používatelia hovoria, že bot im v reakcii odporučil konkrétne produkty od farby na vlasy až po botox.
Niektorí ľudia tvrdia, že na základe návrhov umelej inteligencie už dokonca minuli tisíce dolárov.
Tento trend poukazuje na ochotu ľudí spoliehať sa na boty nielen v prípade informácií a faktov, ale aj v prípade názorov na veľmi subjektívne témy, ako je napríklad krása.
Dovolenka za 400 eur? Sedem trikov, ako ti umelá inteligencia ušetrí peniaze aj čas Čítajte Niektorí používatelia považujú odpovede umelej inteligencie za nestrannejšie, ale odborníci tvrdia, že tieto nástroje majú skryté predsudky, ktoré odrážajú ich tréningové údaje alebo finančné stimuly ich tvorcov.
Keď bot rozpráva, čerpá z obrovských zásob internetových obsahov, od odborného výskumu až po mizogýnne webové fóra. Kritici z prostredia techniky či krásy preto tvrdia, že je riskantné obrátiť sa na nástroje umelej inteligencie vtedy, keď chceme, aby nám poskytli spätnú väzbu o našom vzhľade.
Analytici okrem iného tvrdia aj to, že spoločnosti programujúce umelú inteligenciu už začínajú používateľom ponúkať rôzne produkty a boty môžu tlačiť spotrebiteľov, aby viac míňali.
„AI len opakuje to, čo videla na internete a väčšina z toho bola navrhnutá tak, aby sa ľudia cítili zle a kupovali viac produktov,“ vraví Emily Pfeifferová, analytička spoločnosti Forrester.
Krásny objekt
Napriek tomu mnohí spotrebitelia tvrdia, že oceňujú kritiku chatbota, ktorý ponúka iný pohľad na vec ako ich priatelia a rodina.
Tridsaťdvaročná Kayla Drewová povedala, že sa na ChatGPT obracia s prosbou o radu „vo všetkom“ - od toho, ako si zariadiť domácnosť až po to, čo kúpiť v obchode s potravinami.
Nedávno požiadala bota o úprimnú spätnú väzbu, ako by mohla vyzerať atraktívnejšie. AI jej ponúkla návrhy týkajúce sa pleti, vlasov, obočia, rias, make-upu aj oblečenia. Drewová všetky botove rady poslúchla a doteraz minula približne 200 dolárov.
Keby jej skutoční ľudia v živote dávali podobnú spätnú väzbu na jej vzhľad, pravdepodobne by ju to ranilo, povedala s tým, že od ChatGPT, ktorú označuje zámenom „ona“, je to celé prijateľnejšie.
„Dnes som sa jej pýtala na bielenie zubov a ona mi povedala, aby som sa uistila, že mám dobrú dentálnu hygienu,“ vraví Drewová. „Povedala som si: ‚Wow.‘ Nikto iný by za mnou neprišiel a nepovedal mi to. [AI] som brala celkom v pohode. Asi som to potrebovala počuť.“
Používatelia vnímajú ChatGPT ako objektívnejšie meradlo krásy, pretože na rozdiel od priateľov a rodiny nezohľadňuje vlastnosti, ako sú láskavosť alebo humor, tvrdí Jessica DeFinová, kritička krásy, ktorá píše spravodaj Review of Beauty.
Internetové štandardy krásy podľa DeFinovej používateľov menia na objekty, takže ako lepšie ohodnotiť objekt, než sa opýtať iného objektu (poháňaného umelou inteligenciou)?
„Ak sa snažíme optimalizovať seba ako krásny objekt, nemôžeme brať do úvahy názor človeka, ktorý je do nás povedzme zamilovaný,“ píše DeFinová.
Zraniteľný chatbot
Spoločnosť OpenAI tento mesiac oznámila, že aktualizuje ChatGPT tak, aby zobrazoval používateľom produkty - vrátane obrázkov a odkazov - keď uváži, že majú záujem nakupovať. Niektorí odborníci na technológie a krásu však upozorňujú, že návrhy chatbota slúžia cieľom jeho tvorcu, nie používateľa.
Spoločnosti zaoberajúce sa umelou inteligenciou potrebujú nové zdroje príjmov, keďže niektoré z nich vynakladajú miliardy na rozvoj a chod umelej inteligencie. Jednou z možných ciest je, aby boty zobrazovali sponzorované produkty a reklamy: spoločnosť Perplexity AI do rozhrania svojho bota už začlenila funkciu nakupovania a podľa jej hovorcu je kozmetika treťou najvyhľadávanejšou kategóriou.
Pfeifferová však upozorňuje, že spotrebitelia môžu pri zavádzaní nákupných funkcií do nástrojov umelej inteligencie postupne narážať na odporúčania produktov bez toho, aby vedeli, prečo bot tieto produkty vyberá. AI by mohla napríklad čerpať nápady od znalého influencera v oblasti líčenia na YouTube alebo od zámerne zavádzajúceho vlákna na Reddite.
Mohla by si dokonca vymyslieť falošný výrobok alebo použiť nepravdivé tvrdenia o skutočnom výrobku, vraví. Jeho tréningové údaje sú také rozsiahle a neprehľadné, že chatbot sa stáva zraniteľným proti zaujatosti a chybám.
Avšak rovnaké tréningové údaje by mohli botom poskytnúť výhodu ako asistentom pri nakupovaní a starostlivosti o krásu v porovnaní s tradičnými vyhľadávačmi, povedal hovorca spoločnosti Perplexity AI Jesse Dwyer.
Namiesto prezerania desiatok vlákien na Reddite alebo videí na youtube pri hľadaní dokonalého produktu proti starnutiu by človek mohol botovi jednoducho vysvetliť, že ho unavujú tmavé kruhy pod očami a chce niečo, čo mu pomôže.
V ideálnom prípade by bot pochopil, o čo jej ide, a ušetril by mu čas pri nakupovaní, hovorí Dwyer.
Z päťky na sedmičku
Isté video na TikToku, v ktorom ChatGPT odporučil niekoľko tipov na skrášlenie, malo viac ako 220-tisíc zobrazení a množstvo pozitívnych komentárov.
Jedna z používateliek dokonca napísala, že bot ohodnotil je atraktivitu na škále od jeden do desať.
„Povedal mi, že som v strede, ale mohla by som sa pomocou makeupu a výplní [kyselinou hyalurónovou] dostať z päťky na sedmičku,“ vraví.
Hoci výrobca ChatGPT OpenAI verejne nezdieľa, na akých údajoch sú jeho systémy AI trénované, tréningové údaje zrejme zahŕňajú internetové fóra, kde ľudia hodnotia atraktivitu iných ľudí (zväčša muži hodnotia ženy), ako napríklad subreddit r/RateMe alebo webová stránka Hot or Not, uvádza Alex Hanna, riaditeľ výskumu v Distributed AI Research Institute.
Hoci tréningové údaje obsahujú rôzne myšlienky, boty majú tendenciu prikláňať sa k najčastejším témam - napríklad k presvedčeniu, že ženy musia neustále zlepšovať svoj vzhľad, vraví Hanna.
„Automatizujeme mužský pohľad,“ dodáva Emily Benderová, počítačová lingvistka, ktorá sa špecializuje na generatívnu AI a spolu s Hannou je autorkou knihy „The AI Con“.
Hovorkyňa OpenAI Leah Seay Aniseová tvrdí, že spoločnosť má tímy, ktoré pracujú na znížení zaujatosti vo svojich modeloch. Odmietla povedať, či bola technológia ChatGPT vyškolená na obsahu, ktorý hodnotí atraktivitu. Nákupné funkcie sú podľa nej nové a stále sa zdokonaľujú.
Možná zaujatosť však nezabránila mnohým ľuďom, aby sa pri citlivých konverzáciách obracali radšej na boty ako na ľudí.
Spoločnosť OpenAI má záujem o internetový prehliadač Chrome Čítajte Niektorí používatelia sa už spoliehajú na boty aj pri spoločenských rozhovoroch vrátane diskusií v štýle terapie duševného zdravia. Niekedy chcú len radu, ktorá neprináša vlastný podiel ľudského nešťastia.
Používatelia, ktorí požiadali ChatGPT o spätnú väzbu na svoj vzhľad, tvrdili, že boli s výsledkami spokojní, aj keď bot poukázal na ich domnelé nedostatky.
Michaela Lassigová, 39-ročná žena zo štátu Washington, napríklad požiadala ChatGPT, aby jej pomohol skrásnieť pred svadbou. V žiadosti povedala svoje ciele (bezchybná a mladistvá pleť), svoj rozpočet (2500 dolárov) a svoj časový limit.
„Ideálne by bolo, keby si mi poskytol zoznam procedúr alebo služieb a povedal mi, kedy ich mám vykonať, aby som mala čo najlepšiu pleť do 16. júla,“ napísala mu.
Bot jej "vypľul" podrobný zoznam známok starnutia na tvári. Lassigová odporúčania privítala - bot dokonca podľa nej správne odhadol jednotky botoxu, ktoré jej navrhla aj kozmetička. Lassigová však dodala, že si dala pozor na formuláciu svojej požiadavky, aby sa zamerala na osobné ciele v oblasti pleti, a nie na nejaký univerzálny štandard.
Aj 31-ročná Haley Andrewsová chcela nefiltrovanú pravdu o svojom vzhľade a „nehľadala milý prístup“. Vždy oceňovala, ako ju staršia sestra kritizovala bez prikrášľovania reality, a tak išla za botom so špeciálnou požiadavkou.
„Povedala som: ‚Prosím, hovor ako staršia sestra, ktorá hovorí pravdu, pretože ťa miluje a chce pre teba to najlepšie, aj keď je to trochu drsné,‘“ povedala Andrewsová.
Bot reagoval slovami, že jej obočie je riedke a jej pleť je bez lícenky bezvýrazná. „Trafil,“ zhodnotila to.
