Kunstig intelligens er på vej ind alle steder i sundhedsvæsenet. AI-baserede algoritmer kan opsummere patientjournaler, hjælpe læger med at tolke scanninger, stille diagnoser og forsøge at forudsige, hvilke patienter der har risiko for at udvikle bestemte sygdomme, fx depression.
– AI kan gøre sundhedsvæsenet bedre. Men det kan også forstærke nogle af de uligheder, der allerede findes. Det handler om, hvordan algoritmerne bliver udviklet, hvilke data de trænes på – og hvad der sker, når de tages i brug. Det er vigtigt, at AI bliver brugt på en måde, der er retfærdig og transparent, siger Melanie Ganz-Benjaminsen, der er lektor ved Datalogisk Institut på Københavns Universitet, og Neurobiologisk Forskningsenhed ved Rigshospitalet.
Hun er leder af forskningsprojektet TRUSTMIND, der sidste år fik 20 mio. kr. fra Lundbeckfonden. Hun har gennem mange år arbejdet med medicinsk billedanalyse og psykiatri og beskæftiget sig med både de teknologiske og kliniske sider af sundhedsforskningen.
Projektet bliver gennemført på Datalogisk Institut i samarbejde med professor Aasa Feragen fra DTU og professor Merete Osler fra Frederiksberg Hospital og er støttet af lektor Sune Hannibal Holm fra Københavns Universitet.
Algoritmerne er allerede overalt
Der bliver flere og flere AI-baserede algoritmer, udviklet til brug i sundhedsvæsenet. Nogle skal bruges til at opsummere tekst fra patientjournaler. Andre skal hjælpe radiologer med at se på billeder. Andre igen forsøger at beregne chancen for, om en bestemt kræftbehandling vil virke. Der bliver også udviklet kunstig intelligens der skal bruges som beslutningsstøtte, når der stilles diagnoser. Endelig er man begyndt at udvikle systemer, der kan hjælpe sundhedsvæsenet med planlægning og prioriteringer
– Der er mange forskellige anvendelser i hele patientinteraktionen, og de har alle forskellige udfordringer, siger Melanie Ganz-Benjaminsen.
Et eksempel er brug af AI til opsummering af eksisterende tekster i elektroniske patientjournaler. Umiddelbart lyder det som en enkel og praktisk opgave. Men patientjournaler er ikke neutrale tekster. Formuleringer i teksten kan afspejle, hvor patienterne kommer fra, deres etniske baggrund eller deres socioøkonomiske status osv. Hvis sådanne mønstre findes i de data, som den kunstige intelligens trænes på, så vil algoritmerne også at lære dem.
– Vi ved, at der er ulighed i sundhed i forhold til adgang og i forhold til behandling. Så hvis vi blindt propper data ind i algoritmerne, så får vi den samme ulighed ud. Og i værste fald kan uligheden blive forstærket hvis den data så bliver genbrugt til at træne nye algoritmer.
De skjulte algoritmer
En anden bekymring handler om, at algoritmerne kan være skjulte for både patienter og sundhedsprofessionelle.
– Der er allerede algoritmer gemt i vores undersøgelsesmaskiner, fx i scanneren eller i saturations-måleren. Det har der været i længe, men udviklingen inden for kunstig intelligens ændrer karakteren af disse systemer, siger Melanie Ganz-Benjaminsen.
Tidligere kunne en algoritme være baseret på forholdsvis klare regler. Men AI-modeller fungerer anderledes. De trænes på store mængder data og finder selv mønstre.
– De nye algoritmer er ikke lige så transparente. I stedet har vi et hav af data, og så træner vi på det. Problemet opstår, hvis de data, der bruges til træningen, ikke repræsenterer alle de patienter, som senere skal bruge teknologien. Så kommer det til at passe til dem, som er bedst repræsenteret i data.
Det kan være et særligt problem i forhold til børn. Producenter af medicinsk udstyr har ikke nødvendigvis adgang til data for børn. Maskinerne trænes på data som er let tilgængeligt, som ofte er voksne. Derfor er børn ofte ikke repræsenteret i de datasæt, som teknologien bliver udviklet på.
Bruges til prioriteringer
Algoritmer bliver også udviklet i sekundære anvendelser, såsom til at forudsige risici for bestemte sygdomme. De udvikles på offentligt tilgængelige data, og de udvikles så de kan anvendes af fx det kommunale sundhedsvæsen til planlægning og prioritering. Den slags algoritmer kan fx være relevante i psykiatrien, hvor der er flere års ventetid på en speciallæge.
Men den type algoritmer tager ikke nødvendigvis hensyn til alle grupper i befolkningen og risikerer derfor at ramme skævt. I TRUSTMIND projektet undersøger man, hvad der kunne ske, når algoritmer bliver udviklet til at forudsige risikoen for depression.
– Vi ’leger’ i projektet, at vi selv er en virksomhed, der vil udvikle et produkt og sælge det til kommunerne. Det giver os mulighed for at følge algoritmen hele vejen fra idé til mulig anvendelse. Og så vil vi i processen kunne se, hvor problemerne opstår.
Hvilke data kan virksomheden overhovedet få adgang til? Hvem er repræsenteret i dataene? Hvad sker der, når algoritmen bruges på forskellige grupper? Og hvilke problemer opstår, når den skal omsættes til en konkret beslutning? Det er nogle af de spørgsmål, som projektet vil kigge på ud fra realistiske data og konkrete cases.
Hjemløse og socialt udsatte
Et af de interessante spørgsmål for TRUSTMIND er, hvad der sker med grupper, der ikke fylder meget i de danske registre, og som derfor generelt ikke er repræsenteret i de data, som algoritmer udvikles på.
Danmark har nogle af verdens mest omfattende sundheds- og registerdata. Men store datamængder er ikke nødvendigvis det samme som repræsentative data. Fx kan hjemløse og socialt udsatte være dårligere repræsenteret i registrene. Derfor har projektet gennem samarbejde med epidemiologer i Center for Klinisk Forskning og Forebyggelse (CCRP) på Frederiksberg Hospital fået adgang til data om specifikke underbefolkninger, blandt andet hjemløse.
– Det giver os mulighed for at stille et helt konkret spørgsmål: Hvis man bygger en algoritme på data fra hele befolkningen og derefter bruger den på en gruppe af hjemløse eller socialt udsatte – virker den så lige så godt? Det skal undersøges.
Fra forskning til retningslinjer
Når en algoritme klassificeres som en del af medicinsk udstyr, følger en række omfattende krav fra Det Europæiske Lægemiddelagentur, EMA, samt den nye EU AI lovgivning (EU AI Act) og krav om CE-mærkning. Men med de typer af algoritmer, som udvikles til risikovurdering og prioritering af ressourcer fx i kommunerne, kan disse krav delvis sænkes eller omgås.
– Målet med TRUSTMIND er at klarlægge, hvordan teknologien kan udvikles og bruges på en måde, så den er ’trustworthy’, dvs. troværdig, retfærdig, gennemsigtig. Vi håber gennem projektet at kunne give nogle retningslinjer for, hvordan det skal ske i praksis, når man udvikler algoritmer.
Gennem projektet ønsker man også at gøre politikere og myndigheder opmærksomme på de problemer, som de nyt AI-algoritmer kan skabe, sådan at projektets resultater eventuelt kan munde ud i nogle krav og noget lovgivning.
I starten af oktober afholder projektet en workshop om ’Responsible AI for mental health’, med deltagelse af internationale eksperter og folk fra det danske forskningsmiljø, som er i gang med at udvikle algoritmer inden for psykiatrien.
Der er fri tilmelding til workshoppen, hvor også repræsentanter for sundhedsmyndighederne er inviteret.
Fagligt Nyt om patientsikkerhed er et nyhedsbrev, der udgives af PS!, og som udkommer 4-5 gange årligt. Det formidler nyt om de seneste nationale og internationale forskningsresultater, begivenheder, trends og meninger inden for patientsikkerhed.
Tilmeld dig Fagligt Nyt
