Uporaba UI v medicini, od diagnostike do odgovarjanja na vprašanja pacientov, se dramatično povečuje. Avtorji študije na prestižnem ameriškem MIT-ju (Massachusetts Institute of Technology) so raziskovali, kako ljudje ocenjujejo in ločijo odgovore zdravnikov ter odgovore UI. Uporabili so 150 anonimnih medicinskih vprašanj in odgovorov zdravnikov s foruma HealthTap ter ustvarili ustrezne odgovore z modelov umetne inteligence GPT-3, ki so jih štirje zdravniki nato razvrstili na visoko in nizko natančne, piše PsyPost.
V seriji poskusov so udeleženci ocenjevali odgovore. Ugotovili so, da so bili nizko natančni odgovori UI ocenjeni podobno kot odgovori zdravnikov. Še posebej skrb vzbujajoče je, da so udeleženci poročali o veliki nagnjenosti k upoštevanju potencialno škodljivih nasvetov nizko natančne UI in nagnjenosti k iskanju nepotrebne zdravniške pomoči, primerljivo z reakcijami na nasvete zdravnikov, včasih pa celo močnejše.
Udeleženci so bili bolj zaupljivi do visoko natančnih odgovorov UI, ko jim je bilo povedano, da jih je dal zdravnik. Strokovnjaki so prav tako višje ocenili odgovore UI, ko vir ni bil znan.
Avtorji zaključujejo: »Povečano zaupanje v netočne ali neustrezne medicinske nasvete, ustvarjene z UI, lahko vodi do napačne diagnoze in škodljivih posledic za posameznika.«
Originalna raziskava je bila objavljena tukaj.
