Kunstig intelligens er på få år blevet en del af mange menneskers hverdag. Stadig flere bruger AI-chatbots som ChatGPT, Gemini eller DeepSeek til at søge information, få forklaret komplicerede forhold eller finde svar på spørgsmål om sundhed og sygdom.
Men hvor sikre er svarene egentlig?
Det spørgsmål har en international forskergruppe forsøgt at besvare i et nyt studie publiceret i BMJ Open. Resultaterne giver anledning til både optimisme og bekymring.
Næsten halvdelen af svarene blev vurderet som problematiske
Forskerne undersøgte fem af de mest anvendte offentligt tilgængelige AI-chatbots: ChatGPT, Gemini, DeepSeek, Meta AI og Grok.
Chatbotterne blev testet med 250 sundhedsrelaterede spørgsmål inden for områder, hvor misinformation er særligt udbredt, blandt andet kræft, vacciner, ernæring, stamcellebehandling og sportspræstationer. Formålet var bevidst at undersøge situationer, hvor risikoen for fejlinformation er størst.
Resultaterne var bemærkelsesværdige.
Næsten halvdelen af alle svar blev vurderet som problematiske. Omkring 30 procent blev klassificeret som delvist problematiske, mens knap 20 procent blev vurderet som alvorligt problematiske. Forskerne fandt ingen chatbot, som konsekvent klarede sig væsentligt bedre end de øvrige.
Studiet understreger dermed, at generativ AI fortsat har betydelige begrænsninger, når det gælder sundhedsinformation.
Problemet er ikke kun fejl
Det mest interessante ved studiet er måske, at problemerne ikke primært skyldes klassiske faktuelle fejl.
Forskerne peger på to gennemgående udfordringer.
Den første er, at chatbotterne ofte præsenterer svar med stor sikkerhed, selv når de er usikre eller direkte forkerte. AI-systemerne har en stærk tilbøjelighed til at levere et svar frem for at erkende, at de ikke ved det.
Ud af 250 spørgsmål nægtede chatbotterne kun at svare to gange.
Den anden udfordring er mere subtil. Flere af chatbotterne havde en tendens til at præsentere veldokumenteret viden og mere spekulative eller udokumenterede synspunkter som næsten ligeværdige alternativer. Forskerne beskriver dette som en form for ”falsk balance”, hvor etableret evidens og usikre påstande får omtrent samme vægt.
I et patientsikkerhedsperspektiv kan det være problematisk, fordi brugeren efterlades med et indtryk af, at alle synspunkter er lige sandsynlige eller lige velunderbyggede.
Referencer giver ikke nødvendigvis tryghed
Mange brugere oplever referencer som et tegn på kvalitet.
Studiet viser imidlertid, at dette ikke nødvendigvis er tilfældet.
Forskerne gennemgik de referencer, som chatbotterne genererede til støtte for deres svar. Ingen af de undersøgte systemer var i stand til at levere en fuldstændig korrekt referenceliste. Flere referencer var ufuldstændige, fejlciterede eller direkte opdigtede.
Det betyder ikke, at AI aldrig kan pege på relevante kilder. Men det understreger, at tilstedeværelsen af referencer ikke i sig selv er et kvalitetsstempel.
Sundhedskompetence bliver endnu vigtigere
En anden vigtig observation er, at svarene generelt var sprogligt komplekse.
Forskerne vurderede, at svarene typisk krævede et læseniveau svarende til de første år på en videregående uddannelse. Det er væsentligt højere end det niveau, som normalt anbefales for patientinformation.
Dermed bliver sundhedskompetence en central faktor.
For at kunne bruge AI på en sikker måde skal brugeren ikke alene kunne forstå svaret. Man skal også kunne vurdere usikkerheder, genkende potentielle fejl og vide, hvornår man bør søge professionel rådgivning.
Et nyt felt for patientsikkerhedsarbejdet
Studiet peger på et område, som sandsynligvis vil få stigende betydning i de kommende år.
Patienter bruger allerede AI som en del af deres informationssøgning. Mange gør det for at forstå prøvesvar, få forklaret medicinske begreber eller forberede sig til samtaler med sundhedsvæsenet. Teknologien forsvinder næppe igen.
Dermed opstår et nyt patientsikkerhedsspørgsmål.
Ikke om patienter skal bruge AI eller ej, men hvordan de kan bruge teknologien på en måde, der styrker deres forståelse uden samtidig at øge risikoen for misinformation, misforståelser eller uhensigtsmæssige beslutninger.
Forskerne bag studiet konkluderer, at der er behov for både offentlig oplysning, professionel uddannelse og løbende opmærksomhed på området.
Set med danske patientsikkerhedsbriller peger studiet på, at AI ikke kun er et teknologisk spørgsmål. Det er også et spørgsmål om sundhedskompetence, risikokommunikation og støtte til patienter og pårørende i mødet med et stadig mere digitaliseret sundhedsvæsen.
Fagligt Nyt om patientsikkerhed er et nyhedsbrev, der udgives af PS!, og som udkommer 4-5 gange årligt. Det formidler nyt om de seneste nationale og internationale forskningsresultater, begivenheder, trends og meninger inden for patientsikkerhed.
Tilmeld dig Fagligt Nyt
