Čeprav podjetje trdi, da njihova umetna inteligenca uporabnike spodbuja k obisku zdravnika, preiskava časnika The Guardian razkriva povsem drugačno sliko: ključna opozorila so pogosto skrita na dnu strani, v drobnem tisku in šele takrat, ko uporabnik klikne »prikaži več«.
»Ta informacija je zgolj informativne narave. Za zdravniški nasvet ali diagnozo se posvetujte s strokovnjakom. Odgovori umetne inteligence lahko vključujejo napake,« se glasi skrito besedilo, ki je napisano v manjši in svetlejši barvi in ga je zato mogoče pogosto spregledati.
Strokovnjaki svarijo pred »avtomatičnim zaupanjem«
Strokovnjaki za umetno inteligenco in zagovorniki pravic pacientov so nad ugotovitvami zgroženi. Pat Pataranutaporn z inštituta MIT opozarja na dve ključni nevarnosti:
- Halucinacije: tudi najnaprednejši modeli si še vedno izmišljujejo informacije ali pa želijo uporabniku ugajati na račun natančnosti. V medicini je to lahko usodno.
- Psihološki učinek: ker se povzetek pojavi na samem vrhu iskanja, ustvari lažni občutek varnosti. Uporabniki pogosto sploh ne iščejo naprej ali ne preverjajo virov.
Gina Neff, profesorica za odgovorno rabo umetne inteligence na univerzi Queen Mary v Londonu, dodaja, da je težava sistemska: »Googlovi povzetki so zasnovani na hitrosti in ne na natančnosti. Ljudje, ki berejo hitro, verjamejo, da so te informacije boljše, kot so v resnici.«
Potencialno nevarni nasveti
Preiskava, ki se je začela že januarja, je pokazala, da so googlovi povzetki z umetno inteligenco že večkrat postregli z lažnimi in zavajajočimi zdravstvenimi informacijami. Po poročanju Guardiana je google sicer nekatere povzetke pri medicinskih iskanjih odstranil, a ne vseh. »Najbolj nevarno je, ko povzetek vsebuje kombinacijo pravilnih in napačnih informacij. Če teme ne poznate podrobno, je skoraj nemogoče ugotoviti, kaj drži in kaj ne,« pa opozarja Sonali Sharma z Univerze Stanford.
Poziv k nujnim spremembam
Številne dobrodelne organizacije zahtevajo, da google varnostna opozorila postavi na vrh povzetkov. »Opozorilo bi moralo biti prva stvar, ki jo vidite, in to v enaki velikosti pisave kot preostalo besedilo,« pravi Tom Bishop iz organizacije Anthony Nolan.
Google se brani, da njihova umetna inteligenca v samih besedilih pogosto omenja obisk zdravnika, ko je to primerno. Vendar pa kritiki odgovarjajo, da to ni dovolj – tveganje, ki ga prinaša umetna inteligenca, zahteva sistemsko in pregledno opozarjanje, ne pa drobnega tiska na dnu strani.
