Používate smartfón na rozpoznávanie jedlých húb? Môže vás to zabiť

Text vyšiel pôvodne v denníku Washington Post.

Pri hľadaní húb nie je priestor na chyby. Výskumník Rick Claypool sa to naučil na vlastnej koži.

Claypool nazbieral košík húb, o ktorých si myslel, že sú to podpňovky. Usmažil ich na panvici, zjedol ich s rezancami ramen, a vzápätí mu prišlo zle od žalúdka.

Po vyhľadávaní na internete a návšteve pohotovosti sa Claypool dozvedel, že huby neboli jedovaté. Lekári označili jeho príznaky za záchvat paniky a poslali ho domov.

Ostatní však nemali také šťastie. V roku 2015 v nemocnici skončila rodina z Oregonu po tom, ako podľa správ z novín zjedla huby, ktoré aplikácia v telefóne označila za bezpečné. Muž z Ohia vážne ochorel v roku 2022 po konzumácii jedovatých húb, ktoré tiež nesprávne identifikovala aplikácia. Podľa Claypoola si spoľahlivá identifikácia húb vyžaduje odborné znalosti, ktorým sa technické nástroje nedokážu vyrovnať.

Teraz sa v obchodoch s aplikáciami Apple, Google a OpenAI objavuje nový sortiment identifikátorov húb, ktoré využívajú umelú inteligenciu na analýzu fotografií alebo opisov húb a porovnávajú ich so známymi druhmi.

Claypool v novej správe pre neziskovú organizáciu na ochranu spotrebiteľov Public Citizen zistil, že podobne ako pri predchádzajúcich aplikáciách na identifikáciu húb, aj tieto majú nízku mieru spoľahlivosti. Spoločnosti zaoberajúce sa umelou inteligenciou a obchody však tieto aplikácie aj napriek tomu ponúkajú, často bez jasného zverejnenia informácií o tom, ako často sa nástroje mýlia.

Spoločnosti Apple, Google, OpenAI a Microsoft nereagovali na žiadosti o komentár.

44 percent

Menšia explózia aplikácií na huby s umelou inteligenciou je symbolom širšieho trendu pridávania umelej inteligencie do produktov, ktoré by ju nemuseli využívať - od daňového softvéru až po terapeutické stretnutia. Nové výkonné technológie sú na niektoré veci dobré, ale dôsledné chrlenie presných informácií medzi ne nepatrí. Pri rozlišovaní húb ide naozaj o veľa, a preto nie je vhodné na to vyžiť technológiu, ale spoločnosti to aj tak robia, uzavrel Claypool.

„Predávajú to ako ‚zdroj vedomostí,‘ akoby to bol počítač zo Star Treku,“ povedal. „No skutočnosť je taká, že tieto veci robia chyby po celý čas.“

Napriek rizikám sa zdá, že začínajúci zberatelia sa čoraz častejšie obracajú na aplikácie, aby im pomohli určiť druhy húb. Podľa Google Trends sa v troch z piatich najčastejších vyhľadávaní týkajúcich sa „identifikácie húb“ spomínajú aplikácie alebo softvér. Pri vyhľadávaní slova „huby“ v obchode GPT Store spoločnosti OpenAI - kde používatelia nájdu špecializované chatboty - sa okamžite objavia návrhy, ako napríklad Mushroom Guide, ktorý tvrdí, že dokáže identifikovať huby z obrázkov a povedať, či sú jedlé. V obchodoch s aplikáciami Apple alebo Google nájdete desiatky aplikácií, ktoré tvrdia, že identifikujú huby, pričom niektoré z nich majú v názve alebo v popise slovo „AI“.

Keď austrálski vedci vlani po náraste počtu otráv testovali presnosť populárnych aplikácií na identifikáciu húb, zistili, že tá najpresnejšia správne identifikovala nebezpečné huby v 44 percentách prípadov.

Otrávené tréningové údaje

Aj málo presné aplikácie si však môžu rýchlo získať dôveru spotrebiteľov v dôsledku javu známeho ako automatizačné skreslenie. Už v roku 1999 vedci zistili, že ľudia majú tendenciu dôverovať rozhodnutiam počítača, aj keď sú jeho odporúčania v rozpore s ich zdravým rozumom alebo tréningom.

V niektorých kontextoch umelá inteligencia zlepšuje presnosť a výsledky. Napríklad vo februárovej štúdii v časopise JAMA Ophthalmology sa zistilo, že chatbot s veľkým jazykovým modelom bol rovnako dobrý ako oční špecialisti pri odporúčaní diagnózy a liečbe glaukómu či ochorení sietnice.

„Naše zistenia, hoci sú sľubné, by sa nemali interpretovať ako podpora priamej klinickej aplikácie vzhľadom na nejasné obmedzenia chatbotov pri komplexnom rozhodovaní spolu s nevyhnutnými etickými, regulačnými a validačnými aspektmi,“ poznamenávajú autori.

Keď Claypool preveroval ďalšie možnosti identifikácie húb pomocou umelej inteligencie, našiel na online obchode Amazon ponuku, ktorá sa javila ako sprievodca hubami, ktorých autorom je umelá inteligencia. Vyskúšal aj aplikáciu Bing Image Creator od spoločnosti Microsoft a požiadal ju, aby vygenerovala a označila obrázky rôznych húb.

Vymyslel nové časti húb, napríklad „ging“ a „nulpe“, ktoré neexistujú. Nepresné obrázky húb vytvorené umelou inteligenciou by mohli v budúcnosti otráviť tréningové údaje umelej inteligencie a výsledky vyhľadávačov, čím by sa tieto systémy umelej inteligencie stali ešte menej presnými, napísal Claypool.

„Zaviazali sme sa poskytovať našim zákazníkom bezpečné nakupovanie a čítanie a záležitosti, ako je táto, berieme vážne,“ uviedla Ashley Vanicek, hovorkyňa spoločnosti Amazon. Smernice spoločnosti vyžadujú, aby autori informovali o používaní obsahu generovaného umelou inteligenciou, a Vaniceková poznamenala, že Amazon bráni zaradeniu kníh do zoznamu a tiež odstraňuje knihy, ktoré tieto pravidlá nedodržiavajú (zakladateľ spoločnosti Amazon Jeff Bezos vlastní denník The Washington Post).

Dôležitá rada na záver: Jednoducho nejedzte divoké huby, pokiaľ ste sa neporadili s odborníkom. Skutočným, ľudským.