Når AI bruges som hjælpemiddel i den diagnostiske proces, skal den ikke opfattes som et alvidende orakel, men snarere som en kollega, der muligvis kan tage fejl. Det var en af pointerne ved en gæsteforelæsning på Rigshospitalet af den hollandske diagnoseforsker Laura Zwaan. Hun er Associate Professor ved Erasmus University, Medical Center, Rotterdam.
Gæsteforlæsningen med titlen From bytes to bed – the role of AI in the diagnostic process fandt sted i april i regi af Danmarks Tekniske Universitet, IDA Risk og DSKS Forskning.
Laura Zwaan er en førende forsker med speciale i kompleksiteten af diagnostiske fejl på tværs af menneskelige, AI-baserede og hybride systemer. Med sin baggrund i kognitiv psykologi og epidemiologi anvender hun en bred vifte af forskningsmetoder – herunder kliniske observationer, journalgennemgange og eksperimentelle studier – til at afdække mekanismerne bag både succesfulde og fejlbehæftede diagnostiske processer.
Kompleksiteten til diskussion
Foredraget blev efterfulgt af drøftelser om det komplicerede emne med Laura Zwaan.
Indholdet i Laura Zwaans foredrag og oplæg til drøftelse var kompleksiteten i de diagnostiske processer, og hvordan de kliniske processer faktisk forløber samt betydningen af den indholdsspecifikke viden samt AI’s rolle i den diagnostiske proces.
Diagnostiske fejl udgør en betydelig risiko og byrde i sundhedsvæsnet, da 10-15 % af alle diagnoser ikke er fuldstændig korrekte, fortalte Laura Zwaan. Det medfører, at de fleste mennesker vil opleve en diagnostisk fejl i løbet af deres levetid. Fejlene kan i høj grad forebygges, men har høje dødelighedsrater, og fejldiagnoser er hyppigt forekommende i sager om lægefaglig fejlbehandling.
Laura Zwaan fremhævede kompleksiteten og den omstændighed, at den diagnostiske proces ofte er en løbende dynamisk proces, hvor symptomerne ændrer sig måske fordi sygdommen udvikler sig og der skal ofte tages beslutninger på utilstrækkeligt grundlag som væsentlige faktorer for at fejlene opstår.
Fire problemfelter
Hun beskrev 4 problemfelter af stor betydning for at fejl opstår:
- Patientens forståelse og evne til at følge behandlingen
- Systemrisici – arbejdspres, kommunikation, manglende koordination og forsinkelser
- Kognitive forhold hos sundhedspersonalet – manglende viden, stress, fejlbehæftede data (fortolkninger), kognitive og følelsesmæssige bias samt manglende kritisk tænkning.
- Uklare symptomer og sjældne sygdomme
Et væsentligt og risikabelt forhold der her gør sig gældende er data, der tyder på, at læger ofte udviser stor selvsikkerhed og tiltro til, at de har stillet den korrekte diagnose, som måske giver anledning til manglende kritiske tankegang.
Tre niveauer for kognitiv kontrol
Med reference til den danske risikoforsker, Jens Rasmussens SRK-model (Skills-Rules-Knowledge) redegjorde Laura Zwaan for de tre niveauer for kognitiv kontrol i menneskelig præstation:
- Færdighedsbaseret (Skill-based): Automatiserede handlinger, der sker uden bevidst tanke (rutiner).
- Regelbaseret (Rule-based): Handlinger baseret på kendte procedurer eller “hvis-så”-regler.
- Vidensbaseret (Knowledge-based): Bevidst problemløsning i nye eller ukendte situationer, hvor rutiner og regler ikke slår til.
På alle niveauer er der risiko for bias og fejl, og det gælder for både mennesker og AI, hvilket forklarer, hvorfor det er vanskeligt at definere den præcise rolle for AI i den diagnostiske proces. Det førte til følgende – foreløbige – konklusion:
Centrale pointer
- Den diagnostiske proces er i sin natur kompleks og fejlbarlig
- Sygdomme udvikler sig, usikkerhed er uundgåelig, og man opererer på flere SRK-niveauer samtidigt
- AI har et stort potentiale, men er stadig begrænset i klinisk praksis
- Eksperimentelle studier viser succes, men det ses i mindre grad i klinisk praksis – et systemperspektiv er afgørende
- Det handler ikke om hvorvidt, men om hvordan og hvornår
- Afhængigt af: opgave, kontekst, AI- vs. menneskelig præcision samt fejl-komplementaritet, som konstant ændrer sig
- AI sænker ikke barren for klinisk viden
- Vi skal være opmærksomme på, hvilken uddannelse der er nødvendig i AI-æraen
Til sidst i spørgsmålsrunden spurgte en deltager, om man skal opfatte AI som et ’alvidende’ orakel eller snarere som en (fejlbarlig) kollega og svaret var hurtigt og tydeligt – en kollega.
Fagligt Nyt om patientsikkerhed er et nyhedsbrev, der udgives af PS!, og som udkommer 4-5 gange årligt. Det formidler nyt om de seneste nationale og internationale forskningsresultater, begivenheder, trends og meninger inden for patientsikkerhed.
Tilmeld dig Fagligt Nyt
