AI har stor indflydelse mange steder i sundhedsvæsenet, og i psykiatrien udgør den nye teknologi en særlig risiko, fordi mange mennesker med psykiske problemer anvender chatbots som erstatning for menneskelige terapeuter. Tendensen forstærkes af, at ventelisterne i psykiatrien er lange.
Og chatbots kan opleves som god støtte, fordi de er tilgængelige og giver tryghed uden at være fordømmende. Men bag de hjælpsomme svar gemmer der sig en teknologi, der hverken har krop, følelser eller en klinisk uddannelse, advarer Psykiatrifonden i et nyt tema på fondens hjemmeside.
I temaet kan man læse interview med fagpersoner, der gennemgår fordele og farer ved AI, med en patient, der oplevede, at AI gav ham ret i hans vrangforestillinger, og med en pårørende, som selv sparrer med AI, men som advarer mod at give chatbotten for mange private oplysninger.
Kan forstærke vrangforstillinger
Der er også gennemført forskning på området: En dansk forskergruppe har undersøgt potentielt skadelige konsekvenser af AI-chatbots blandt patienter med psykiske lidelser. Undersøgelsen er gennemført i Psykiatrien i Region Midtjylland med forskere fra Aarhus Universitet. Data bygger på elektroniske patientjournaler fra 53.974 patienter og over 10,7 millioner journalnotater fra perioden september 2022 til juni 2025.
Samlet peger studiet på, at AI kan være et nyttigt redskab, men også udgøre en klinisk risiko for særligt sårbare patienter. Forskerne identificerede en række tilfælde, hvor AI-chatbots havde bidraget til en forværring af patienternes psykiske tilstand. Chatbotternes svar kunne blandt andet forstærke vrangforestillinger, paranoia og angst. AI-systemerne gav i nogle tilfælde overbevisende, men misvisende eller uhensigtsmæssige råd.
Forfatterne anbefaler, at behandlere rutinemæssigt spørger patienter om deres brug af AI-chatbots. De efterlyser samtidig mere forskning i området og bedre sikkerhedsforanstaltninger i generative AI-systemer.
Erstatning for menneskelig støtte
En rapport fra VIVE – Det Nationale Forsknings- og Analysecenter for Velfærd undersøger, hvordan unge bruger ChatGPT som støtte i forbindelse med sociale og følelsesmæssige udfordringer.
Undersøgelsen bygger på kvalitative interviews med 23 unge mellem 18 og 33 år, analyse af chatbot-samtaler samt interviews med fagpersoner.
De unge beskriver, at de bruger ChatGPT til blandt andet at håndtere bekymringer, ensomhed, præstationspres, psykiske udfordringer og problemer i relationer. ChatGPT opleves som let tilgængelig, anonym og mindre dømmende end samtaler med andre mennesker.
Men rapporten fremhæver flere mulige risici ved denne brug. Unge kan komme til at bruge chatbotten som en erstatning for menneskelig støtte, og der er risiko for afhængighed eller overforbrug.
ChatGPT kan give svar, der virker støttende, men som ikke nødvendigvis er fagligt korrekte eller tilpasset den enkelte situation. Rapporten peger også på risiko for, at chatbotten kan fastholde negative tanker, give en falsk oplevelse af forståelse og ikke opdage alvorlig mistrivsel.
Rapporten konkluderer, at AI-chatbots spiller en stigende rolle i unges søgen efter støtte, men at der er behov for mere viden, opmærksomhed på risici og retningslinjer for sikker anvendelse.
Fagligt Nyt om patientsikkerhed er et nyhedsbrev, der udgives af PS!, og som udkommer 4-5 gange årligt. Det formidler nyt om de seneste nationale og internationale forskningsresultater, begivenheder, trends og meninger inden for patientsikkerhed.
Tilmeld dig Fagligt Nyt
