Når kunstig intelligens diskuteres i sundhedsvæsenet, handler det ofte om effektivisering.
AI skal reducere administrative opgaver, frigøre tid til patienterne og gøre arbejdsgange mere smidige. Men hvad sker der egentlig, når teknologien flytter fra udviklingslaboratoriet og ind i den kliniske hverdag?
Det spørgsmål undersøger forskerne Silja Vase og Tariq Osman Andersen fra Københavns Universitet i en ny artikel publiceret i ACM Transactions on Computing for Healthcare. Studiet bygger på et omfattende feltarbejde blandt læger, lægesekretærer, it-medarbejdere og systemudviklere på et dansk hospital, hvor talegenkendelse har været anvendt gennem mere end ti år.
Konklusionen er tankevækkende:
AI reducerer ikke nødvendigvis arbejdet. Den flytter arbejdet.
Når lægen bliver en del af AI-systemet
Talegenkendelse fremstilles ofte som en teknologi, der automatiserer dokumentation. Lægen dikterer, computeren skriver.
Men forskernes observationer viser, at virkeligheden er mere kompliceret.
Når systemet laver fejl, skal lægerne opdage dem, rette dem og kontrollere den færdige journal. Samtidig bliver disse rettelser brugt til at forbedre systemet. På den måde udfører lægerne ikke blot dokumentationsarbejde. De bliver også en del af den løbende udvikling og vedligeholdelse af AI-systemet.
Forskerne beskriver dette som en form for human-in-the-loop, hvor mennesker kontinuerligt overvåger, korrigerer og kvalitetssikrer AI’s arbejde. Problemet er blot, at dette arbejde ofte er usynligt og ikke anerkendes som en selvstændig opgave.
“Jeg kan ikke lære den noget”
Artiklens titel stammer fra en af de læger, som deltog i undersøgelsen.
Efter ni års brug af systemet oplevede lægen stadig ikke, at teknologien blev mærkbart bedre.
“Jeg kan ikke lære den noget,” fortæller han frustreret i studiet. Selvom lægerne løbende retter fejl og får at vide, at deres rettelser hjælper systemet med at lære, oplever mange ingen synlige forbedringer.
Dermed opstår et paradoks.
Organisationen forventer, at klinikerne bidrager til at forbedre teknologien gennem deres daglige arbejde. Men de får sjældent indsigt i, om deres indsats gør en forskel.
Resultatet kan blive oplevelsen af meningsløst ekstraarbejde.
Det usynlige arbejde bag AI
Et af studiets vigtigste bidrag er begrebet overhead work.
Forskerne viser, at AI-systemer ikke blot kræver brugere. De kræver et omfattende lag af mennesker, som overvåger fejl, oplærer kolleger, kvalitetssikrer data, koordinerer forbedringer og kommunikerer med leverandører.
I den undersøgte afdeling spillede lægesekretærer en særlig rolle.
Selvom talegenkendelsen oprindeligt blev introduceret som en teknologi, der skulle reducere behovet for sekretærarbejde, viste studiet, at sekretærerne fortsat udførte centrale opgaver. De kontrollerede fejl, hjalp læger med at bruge systemet korrekt og fungerede som bindeled mellem klinikken og leverandøren.
Dermed udfordrer studiet forestillingen om, at AI blot erstatter menneskeligt arbejde.
Ofte opstår der i stedet nye typer arbejde.
Mere relevant end nogensinde
Selvom studiet handler om talegenkendelse, rækker perspektiverne langt videre.
I dag eksperimenterer sundhedsvæsener verden over med generativ AI til journalnotater, beslutningsstøtte, kommunikation og administrative opgaver. Mange af disse systemer markedsføres som værktøjer, der kan reducere dokumentationsbyrden og frigøre tid til patientkontakt.
Vase og Andersen peger på, at vi bør være forsigtige med sådanne antagelser.
Når AI-systemer bliver en del af klinisk praksis, opstår der ofte nye opgaver med overvågning, kontrol og kvalitetssikring. Hvis disse opgaver ikke anerkendes og organiseres, risikerer de blot at blive lagt oven i det eksisterende arbejde.
Dermed bliver spørgsmålet ikke kun, hvor godt AI virker.
Det bliver også et spørgsmål om, hvem der skal udføre det arbejde, som får AI til at virke.
En vigtig patientsikkerhedslektion
Fra et patientsikkerhedsperspektiv er studiets budskab enkelt, men vigtigt.
AI fungerer ikke alene.
Sikker anvendelse af kunstig intelligens afhænger fortsat af mennesker, som opdager fejl, forstår konteksten og tager ansvar, når teknologien tager fejl. Forskerne argumenterer derfor for, at fremtidens AI-løsninger ikke kun skal designes omkring algoritmer. De skal også designes omkring de mennesker, der skal overvåge, korrigere og samarbejde med teknologien i hverdagen.
I en tid hvor forventningerne til AI vokser hastigt, er det måske den vigtigste erkendelse.
Kunstig intelligens reducerer ikke nødvendigvis behovet for menneskelig indsats.
Den ændrer, hvor og hvordan den menneskelige indsats skal bruges.
Fagligt Nyt om patientsikkerhed er et nyhedsbrev, der udgives af PS!, og som udkommer 4-5 gange årligt. Det formidler nyt om de seneste nationale og internationale forskningsresultater, begivenheder, trends og meninger inden for patientsikkerhed.
Tilmeld dig Fagligt Nyt
