Indførelse af kunstig intelligens (AI) i den offentlige sektor risikerer at forstærke de sociale uligheder, som tidligere digitalisering har skabt. Det er konklusionen i en ny publikation fra CAISA, Det Nationale Center for Kunstig Intelligens i Samfundet.
Borgere med stærke digitale kompetencer, høj uddannelse og gode sociale ressourcer har haft lettere ved at drage fordel af de digitale løsninger, mens sårbare og digitalt udfordrede grupper i højere grad er blevet ekskluderet.
Danmark har en erklæret strategi om, at kunstig intelligens skal anvendes til af effektivisere den offentlige sektor, herunder sundhedsvæsenet, og implementeringen af AI-løsninger er i fuld gang fx i kommunerne.
Publikationen fra CAISA, ”Fra digital kløft til AI-underklasse? Et inklusionsperspektiv på offentlig digitalisering”, undersøger, hvordan den stigende brug af kunstig intelligens i den offentlige sektor kan påvirke borgernes mulighed for at få adgang til og forstå offentlige tilbud.
Digital inklusion
Den forskningslitteratur, som CAISA har gennemgået, beskriver forskelle i borgernes digitale kompetencer, erfaringer og anvendelsesmønstre, hvor faktorer som alder, uddannelse, social baggrund, motivation og digital selvtillid har betydning for, om teknologien kan anvendes meningsfuldt.
Publikationen advarer om, at AI kan føre til en ny form for ulighed – en “AI-underklasse” – hvis teknologien udvikles og implementeres uden et tydeligt fokus på inklusion. AI-løsninger risikerer at gøre mødet med det offentlige endnu vanskeligere for borgere med begrænsede digitale færdigheder, kognitive udfordringer eller svage sociale ressourcer. Det gælder især for borgere, som ikke har adgang til støtte i brugen af digitale tjenester, enten fra pårørende eller fra medarbejdere.
Borgere, der hverken besidder de nødvendige digitale kompetencer eller har nogen til at hjælpe sig, har derfor en højere risiko for at blive ekskluderet.
Forfatterne fremhæver derfor, at viden om digitalt udsatte borgere og eksisterende forskning bør inddrages tidligt i udviklingen af offentlige AI-løsninger. Målet bør ikke alene være øget effektivitet, men også at sikre lige adgang til offentlige ydelser og undgå, at teknologien skaber nye barrierer for bestemte grupper.
Fagligt Nyt om patientsikkerhed er et nyhedsbrev, der udgives af PS!, og som udkommer 4-5 gange årligt. Det formidler nyt om de seneste nationale og internationale forskningsresultater, begivenheder, trends og meninger inden for patientsikkerhed.
Tilmeld dig Fagligt Nyt
