V podjetju za odkrivanje prevar z umetno inteligenco Originality.ai, ki svoja orodja ponuja tudi univerzam in drugim uglednim organizacijam, so med pregledom 558 naslovov, objavljenih v Amazonovi podkategoriji zeliščnih zdravil, ugotovili, da je med lanskim januarjem in septembrom kar 82 odstotkov knjig napisala umetna inteligenca.
»To pretresljivo razkritje obsega neoznačene in nepreverjene vsebine umetne inteligence, ki so popolnoma zavzele Amazonovo platformo,« je pred časom opozoril avtor študije Michael Fraiman.
»Obstaja ogromno raziskav o zeliščih, ki so popolnoma neumne,« je dejala Sue Sprung, medicinska zeliščarka iz Liverpoola. »Umetna inteligenca ne bo znala presejati vseh odpadkov, vseh smeti, ki so popolnoma nepomembne. To bi ljudi lahko zavedlo.«
Obstoj le v virtualnem svetu
Ena od knjig, ki naj bi jih napisala umetna inteligenca, je priročnik za naravno zdravljenje (Natural Healing Handbook), ki je uspešnica številka ena v podkategorijah za nego kože, aromaterapije in zeliščna zdravila na Amazonu. V uvodu je knjiga predstavljena kot »priročnik za samozavest« in bralce spodbuja, naj rešitve »poiščejo sami«, še lahko preberemo v še vedno aktualnem članku, ki so ga sicer že pred časom objavili v britanskem Guardianu.
Avtorica priročnika za naravno zdravljenje je Luna Filby, ki je predstavljena kot »35-letna zeliščarka iz obalnega mesta Byron Bay v Avstraliji« in ustanoviteljica blagovne znamke My Harmony Herb. Sarah Wynn, ustanoviteljica revije Wildcraft Journal, je knjigo pohvalila z besedami, da je vir navdiha.
Kljub temu pa imen Luna Filby, My Harmony Herb in Wildcraft Journal v realnem življenju zunaj Amazona ni zaslediti, kar po besedah Michaela Fraimana kaže, da morda ne obstajajo. Tudi Guardian ni našel nobenih dokazov o obstoju obeh knjig. Orodje Originality.ai je razpoložljive vzorce besedila označilo kot ustvarjene z umetno inteligenco s »100-odstotno gotovostjo«.
Ko svetuje klepetalni robot
Raziskava Originality.ai je odkrila še več drugih opozorilnih znakov, ki kažejo na sporne zeliščarske vsebine. Vsaj 29 knjig, ki jih je očitno ustvarila umetna inteligenca, se je sklicevalo tudi na delo kontroverznih zeliščarjev Barbare O'Neill in Alfreda Bowmana, ki sta promovirala nedokazana zdravila za raka.
Te knjige so del širšega trenda prodaje nepreverjenih vsebin z umetno inteligenco na Amazonu. Lani so ljubiteljske nabiralce gob opozorili, naj se izogibajo prebiranju knjig, ki so se prodajale na platformi, očitno so jih napisali klepetalni roboti in vsebujejo vprašljive nasvete o tem, kako ločiti smrtonosno glivo od užitne.
Dan Conway, izvršni direktor Združenja založnikov, je dejal, da njegova organizacija poziva Amazon, naj začne označevati vsebine, ustvarjene z umetno inteligenco. »Vsako knjigo, ki je v celoti napisana z umetno inteligenco, bi bilo treba označiti kot tako, odpadke z umetno inteligenco pa je treba nujno odstraniti.«
Amazon z birokratskim odzivom
Kako odgovarja globalni spletni trgovec Amazon? »Imamo smernice za vsebino, ki določajo, katere knjige so lahko naprodaj, in imamo proaktivne in reaktivne metode, ki nam pomagajo odkriti vsebino, ki krši naše smernice, ne glede na to, ali jo je ustvarila umetna inteligenca ali ne. Vlagamo veliko časa in virov v to, da zagotovimo upoštevanje naših smernic in odstranimo knjige, ki se teh smernic ne držijo.«
Iz birokratskega odgovora ne izvemo nič o konkretnih naporih Amazona, da bi sporne vsebine odstranili. To morda niti ne preseneča, saj si platforma ne prizadeva resno preprečevati prodaje ponarejenih ali drugače spornih izdelkov, ki jih ponujajo na svoji spletni tržnici, in odgovornosti glede ponudbe – predvsem neodvisnih posrednikov in trgovcev – ne prevzemajo.
Širše gledano enotnega podatka o deležu ponarejenih izdelkov na Amazonu ni, saj podjetje teh podatkov ne razkriva, ocene pa se med seboj precej razlikujejo. Po nekaterih vladnih in industrijskih analizah je delež problematičnih oziroma ponarejenih izdelkov na spletnih tržnicah, kamor sodi tudi Amazon, lahko znaten. Poročilo ameriškega Urada za vladno odgovornost (GAO) je tako ugotovilo, da naj bi bilo približno 42 odstotkov izdelkov, ki jih na teh platformah prodajajo tretji prodajalci, ponarejenih ali neustreznih. Amazon po drugi strani navaja, da je delež ponaredkov v celotni ponudbi zelo majhen, pogosto ocenjen na manj kot odstotek vseh izdelkov. Neodvisne strokovne ocene pa praviloma postavljajo širši razpon, ki se giblje med enim in desetimi odstotki vseh izdelkov, pri čemer je tveganje višje v določenih kategorijah, kot so elektronika, kozmetika in luksuzno blago.
