Kunstig intelligens implementeres med vanvittig hast på mange niveauer i sundhedsvæsenet, og mange AI-løsninger vil uden tvivl bidrage til styrket patientsikkerhed. Men teknologien og især det tempo, som udviklingen foregår i, giver også problemer for sikkerheden.
Læs også: Fagligt Nyt – tema om AI og patientsikkerhed
Vi bliver nødt til at spørge os selv hvilke kompetencer der er brug for, og hvilke kompetencer vi ikke må aflære. Et særligt problem for patientsikkerheden er nemlig, at brugen af kunstig intelligens kan give anledning til tab af viden og kompetencer, deskilling, for de enkelte sundhedspersoner, fordi de gør sig afhængige af AI-systemer. Samtidig risikerer vi, at studerende og yngre sundhedsprofessionelle på grund af AI aldrig opnår de nødvendige kompetencer, never-skilling.
Vi har brug for at helt nyt uddannelsessystem, der sikrer de sundhedsmæssige kompetencer og samtidig giver organisationen nye færdigheder i, hvordan AI kan bruges på en hensigtsmæssig måde.
Frygt for tab af færdigheder
En undersøgelse blandt amerikansk sundhedspersonale offentliggjort af den globale informations- og teknologivirksomhed Walters Kluwer tidligere i år viste, at 70 % af sygeplejerskerne og 77 % af lægerne bekymrer sig om at miste deres færdigheder på grund af AI.
Og et studie, offentliggjort i The Lancet, tyder på, at bekymringen er reel:
Et retrospektivt observationsstudie gennemført på fire endoskopienheder i Polen undersøgte, om lægers evne til at opdage adenomer ændrede sig efter indførelsen af AI-baseret polypdetektion.
De sammenlignede koloskopier udført i tre måneder før og tre måneder efter introduktion af AI. I alt indgik 1.443 koloskopier uden brug af AI – 795 før og 648 efter AI-implementeringen.
Det primære mål var adenoma detection rate (ADR), altså andelen af undersøgelser, hvor mindst ét adenom blev fundet. ADR faldt fra 28,4 % før AI til 22,4 % efter AI, hvilket tyder på en mulig svækkelse af lægernes egne detektionsevner.
Resultaterne peger på en mulig deskilling-effekt, som ifølge forskerne bør undersøges nærmere.
Grundlæggende kompetencer uden AI
Problematikken omkring never-skilling er for nylig adresseret i Nature Medicine af en international gruppe af forskere og klinikere med kompetencer inden for medicin, sundhedsvidenskab, medicinsk uddannelse og AI/digital sundhed.
De argumenterer for, at studerende og læger under uddannelse, som anvender AI i de tidlige, formative år af deres kliniske uddannelse, kan risikere ikke at udvikle de grundlæggende færdigheder, som sikker og selvstændig klinisk praksis kræver.
De mener ikke, at AI i sig selv skadelig for læring, men dens uddannelsesmæssige effekt afhænger af, hvordan og hvornår den introduceres.
Forskerne foreslår en uddannelsesmodel i tre faser: 1) etablering af et grundlæggende kompetenceniveau uden brug af AI, 2) udvikling af kritisk kalibrering gennem struktureret pædagogik og 3) integration af AI under supervision i den medicinske uddannelse.
Som i andet patientsikkerheds- og kvalitetsarbejde kan vi ikke forvente, at den samme fremgangsmåde fører til nye resultater. Og i denne sammenhæng er der samtidig tale om markant ændrede vilkår. Som kan få endog meget store konsekvenser for patientsikkerheden, så opfordringen er at inddrage den her præsenterede viden i udviklingen af uddannelserne, sammen med anden patientsikkerhedsviden.
