Afvigelser og hændelser ved KI: hvordan bør ansvar og opfølgning forstås?
KI bliver en stadig mere integreret del af tandklinikkens drift – i journaltekster, patientinformationer, prioritering af opgaver og administrative arbejdsgange. Meget af dette sker gennem funktioner, der er indbygget i værktøjer, klinikken allerede bruger.
Når KI bidrager til forslag, opsummeringer eller automatiserede valg, kan der også opstå afvigelser: forkerte formuleringer, misvisende forslag, utilsigtet deling af information eller beslutningsstøtte, der giver uhensigtsmæssige prioriteringer.
Denne artikel forklarer, hvad der kendetegner KI-relaterede afvigelser, hvor ansvar typisk bliver uklart, og hvilke styrings- og opfølgningsmekanismer der bør være på plads for at håndtere hændelser på en efterprøvet måde.
Hvad menes med KI-relaterede afvigelser og hændelser?
En KI-relateret afvigelse er en uønsket hændelse, et fejlagtigt resultat eller en praksis, der afviger fra klinikkens definerede krav – hvor KI har bidraget til eller påvirket resultatet. Det betyder ikke nødvendigvis, at KI “gjorde noget” i teknisk forstand. Ofte er KI kun én del af kæden: forslag → menneskelig vurdering → beslutning → dokumentation → kommunikation.
I tandklinik kan KI-relaterede afvigelser typisk opstå som:
Indholdsafvigelser: forkerte eller upræcise journaltekster, uheldige formuleringer i patientinformationer, eller standardtekster, der ikke passer til patientens situation.
Procesafvigelser: at KI bruges i situationer, hvor klinikken ikke har godkendt brugen, eller at kontrolpunkter ikke bliver gennemført.
Data- og persondataafvigelser: at personoplysninger håndteres på måder, klinikken ikke har overblik over, eller at information trækkes ind i udkast/kommunikation uden tilstrækkelig kontrol.
Styringsafvigelser: at nye KI-funktioner tages i brug gennem opdateringer uden vurdering, træning eller rolleafklaring.
Et kendetegn ved KI-afvigelser er, at de ofte er systematiske: samme fejltype kan gentage sig, fordi KI producerer “lignende” resultater i mange sager, og fordi mennesker kan få en tendens til at godkende forslag, når de oftest virker plausible.
Hvor opstår ansvarsspørgsmålet?
Ansvarsspørgsmålet bliver uklart, når afvigelser behandles som enkeltstående hændelser, mens årsagen ligger i rammer, roller og kontrolmekanismer. I praksis opstår uklarhed ofte i fem områder:
Utydeligt anvendelsesområde og forventet praksis
Hvis det ikke er defineret, hvad KI kan bruges til (og ikke bruges til), bliver det svært at vurdere, om hændelsen er en afvigelse, eller “bare en uheldig situation”. Så bliver opfølgning tilfældig og personafhængig.Manglende eller uoperationel menneskelig kontrol
“Fagperson er involveret” er ikke det samme som reel kontrol. Uden tydelige stopunkter og minimumskrav til kvalitetssikring kan overlesen blive rutine, især under tidspres.Svag sporbarhed i hændelsesforløbet
Ved afvigelser vil man ofte skulle svare på: Hvad var KI's rolle? Hvilket forslag blev givet? Hvem godkendte? Hvad blev ændret? Hvis dette ikke kan rekonstrueres, bliver både ansvarsafklaring og læring svag.Rolleblanding mellem fag, drift og leverandør
Den, der kan ændre systemindstillinger, er ikke altid den, der ejer fagligt indhold, og leverandørens ansvar bliver let blandet med klinikkens ansvar for lokal brug. Resultatet kan blive et “ansvarsvakuum”, hvor ingen har tydelig mandat til at stoppe, ændre eller dokumentere tiltag.Afvigelser bliver “løst” uden at blive håndteret
Mange KI-relaterede problemer bliver rettet i øjeblikket (man skriver om en tekst, korrigerer en notat, sender ny information), men uden at vurdere, om fejlen kan gentage sig. Så forsvinder muligheden for forbedring på systemniveau.
Almindelige misforståelser
«Dette er bare en enkel fejl – ikke en afvigelse»
KI-fejl ser ofte ud som enkeltstående afvigelser, men kan være udtryk for et mønster: samme type upræcise formulering, samme misforståelse, samme tendens til at “udfylde” detaljer. Hvis hændelsen ikke behandles som en afvigelse, bliver det svært at finde årsag og sætte ind med varige tiltag.
«Hvis KI var involveret, er det leverandørens problem»
Leverandøren kan have ansvar knyttet til produktet, men klinikken har ansvar for egen praksis: hvad funktionen bruges til, hvem der bruger den, hvilke kontrolpunkter der findes, og hvordan afvigelser følges op. Afvigelsesopfølgning kan ikke outsources fuldt ud, fordi den skal knyttes til klinikkens arbejdsgang og interne styring.
«Vi har menneskelig kontrol, da vi jo kan tilsidesætte»
Mulighed for tilsidesættelse er ikke tilstrækkelig, hvis tilsidesættelse ikke faktisk sker. Reel kontrol forudsætter, at nogen har ansvar for at udøve kontrol, at der findes konkrete stopunkter, og at det er accepteret i praksis at stoppe en proces, når noget virker forkert.
«Det vigtigste er at logge alt»
Logging kan være nyttig, men løser ikke styringsproblemet alene. Det klinikken har brug for ved afvigelser er ofte: tydeligt anvendelsesområde, defineret kontrolmekanisme, og en proces for at vurdere årsag og tiltag. Uden disse bliver logfilerne bare et teknisk spor uden operationel værdi.
«Afvigelser handler om at finde en skyldig»
Ved KI-relaterede hændelser er det sjældent robust at fokusere på individ. Mere nyttigt er at afklare: Hvilken del af praksisen svigtede (brugsregler, træning, kontrolpunkt, systemændring, sporbarhed)? Når afvigelser behandles systemisk, bliver det også lettere at forbedre uden at skabe en defensiv kultur.
Hvad bør være på plads i praksis?
For at håndtere KI-relaterede afvigelser på en efterprøvbar måde bør tandklinikken have et minimum af styring, der gør hændelser håndterbare og læringsorienterede.
1) Definerede anvendelsesområder og begrænsninger
Klinikken bør have et enkelt overblik over godkendte KI-anvendelsesområder, med tydelige “skal/skal ikke”-grænser. Så kan man hurtigt afgøre, om en hændelse er en afvigelse mod praksis, eller et tegn på, at praksis skal revideres.2) Roller og mandat for afvigelsesopfølgning
Det bør være klart, hvem der:modtager og vurderer meldinger om KI-relaterede afvigelser
kan stoppe eller begrænse brug midlertidigt
kan ændre rutiner, skabeloner eller adgang
følger op leverandør ved behov
I små klinikker kan dette ligge hos få personer, men mandatet skal være eksplicit.
3) Praktiske kontrolpunkter i arbejdsgangen
Etabler minimumskontroller, hvor risikoen faktisk opstår (typisk før signering af journaltekster, før udsendelse af patientinformationer, og ved brug af standardtekster). Kontrollen bør beskrive, hvad der skal verificeres, ikke bare at “det skal kontrolleres”.4) Sporbarhed, der understøtter hændelsesrekonstruktion
Klinikken bør kunne rekonstruere:hvilket anvendelsesområde/funktion der var i brug
hvem der foretog vurderingen
hvad der blev ændret, før endelig dokument/udsendelse
hvilke tiltag der blev gjort efter hændelsen
Dette behøver ikke at indebære at gemme alt, hvad KI producerer, men at kunne forklare hændelsesforløbet.
5) En enkel metode til årsagsanalyser og tiltag
Når afvigelser opstår, bør klinikken skelne mellem:menneskelig fejl (for eksempel manglende kontrol i en situation)
procesfejl (kontrolpunkt mangler eller er utydeligt)
system-/leverandørforhold (funktion ændret, uventet adfærd)
kompetencebehov (medarbejdere forstår ikke begrænsninger)
Tiltag bør knyttes til kategorien, så opfølgning bliver konkret (opdatere brugsregler, justere skabelon, ændre adgang, forbedre træning, eskalere til leverandør).
6) Ændringskontrol for indbygget KI
Klinikken bør have en enkel praksis for at opfange ændringer i systemer, der kan påvirke KI-funktionalitet: opdateringer, nye moduler, ændret standardindstilling. Mange KI-afvigelser handler ikke om “forkert brug”, men om at brugen ændrede sig uden at nogen besluttede det.
Acteras rolle i dette
Actera er etableret for at give tandplejeydelser struktur omkring ansvarlig brug af KI.
Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarsgrupper og dokumentation – så KI kan bruges på en sikker, forudsigelig og efterprøvbar måde.
Afsluttende betragtning
KI-relaterede afvigelser i tandklinikker opstår ofte i grænseområderne: mellem forslag og vurdering, mellem standardtekst og patientens situation, og mellem leverandørens funktion og klinikkens lokale praksis.
Når klinikken har defineret anvendelsesområder, operationaliseret kontrol og sikret sporbarhed i opfølgningen, bliver afvigelser håndterbare – og læringen bliver varig. Det reducerer personafhængighed og gør det muligt at kombinere effektiv KI-brug med efterprøvbar praksis over tid.
