Ansvarlig KI i tandklinik: hvilke roller skal være tydelige?

KI-funktioner bliver stadig mere tilgængelige i tandklinikker – ofte som støtte i tekst, arbejdsgange, planlægning og patientkommunikation, og nogle gange i mere kliniknære vurderingsprocesser. I mange tilfælde er KI “indbygget” i værktøjer, som klinikken allerede bruger, og opleves derfor ikke som en separat indførelse.

Det er netop denne glidende indførelse, der gør rolleafklaringer kritiske. Når KI påvirker, hvordan arbejdet udføres, er det nødvendigt at vide, hvem der ejer brugen, hvem der kan godkende anvendelsesområder, og hvem der skal følge op på afvigelser og ændringer.

Denne artikel beskriver, hvilke roller der typisk skal være tydelige for at anvende KI ansvarligt i en tandklinik – og hvordan rolleuklarhed ofte opstår, selv i ellers veldrevne virksomheder.

Hvad menes der med ansvarlig KI og roller i en tandklinik?

«Ansvarlig KI» inden for tandpleje handler ikke om at være for eller imod teknologien. Det handler om at kunne forklare og efterprøve, hvordan KI bruges på en måde, der ivaretager faglig kvalitet, patientsikkerhed, personoplysninger og virksomhedens styring.

I praksis betyder det, at klinikken har kontrol over:

• hvad KI bruges til (anvendelsesområder og begrænsninger)

• hvem der har beslutningskompetence (hvem kan indføre og ændre brugen)

• hvordan menneskelig kontrol faktisk udøves (ikke kun formodes)

• hvordan fejl og afvigelser indfanges og håndteres

• hvad der dokumenteres, så praksis kan efterprøves senere

«Roller» i denne sammenhæng er ikke først og fremmest jobtitler, men tydelige funktioner: hvem der gør hvad, og på hvilket mandat. En lille klinik kan samle flere roller hos få personer, men rollerne skal stadig være eksplicitte – ellers bliver ansvaret personafhængigt og situationsbestemt.

Hvor opstår ansvarsproblemet?

Ansvarsspørgsmål opstår ofte ikke ved første brug af et KI-værktøj, men når KI bliver en del af «sådan vi gør det hos os». Da bliver det uklart, hvad der er besluttet, hvad der er en vane, og hvad der er leverandørens standardindstillinger.

Typiske steder, hvor rolleuklarhed opstår:

• Når KI tages i brug uden beslutningspunkt
  En funktion aktiveres i et system, eller nogen begynder at bruge KI til at udarbejde udkast. Det kan være effektivt, men uden en tydelig “hvem godkender dette”-mekanisme bliver brugen uformel.

• Når fagligt ansvar og systemansvar blandes
  Den, der har fagligt ansvar for indholdet (for eksempel patientinformation eller journaltekst) er ikke nødvendigvis den, der ejer systemet eller kan ændre indstillinger. Hvis dette ikke afklares, bliver kontrol og opfølgning fragmenteret.

• Når “menneskelig kontrol” bliver en antagelse
  Klinikken kan antage, at «tandlægen altid læser det igennem». I praksis kan tidspres og tillid til systemets forslag gøre kontrollen mindre aktiv. Uden tydelige kontrolpunkter og ansvar for kvalitetssikring bliver det svært at efterprøve.

• Når afvigelser ikke har en tydelig modtager
  Hvis ansatte opdager fejl, skævheder eller uheldige formuleringer: Hvem skal informeres? Hvem vurderer alvorlighedsgraden? Hvem kan stoppe brugen eller ændre rutiner? Uden dette bliver afvigelser ofte “løst i øjeblikket” uden læring.

• Når leverandørstyring bliver for svag
  KI ændrer sig gennem opdateringer, nye funktioner og ændret brugergrænseflade. Hvis ingen har ansvar for ændringskontrol, kan klinikken i praksis få ny funktionalitet uden at have overvejet konsekvenserne.

Almindelige misforståelser

«Dette er et IT-ansvar»

IT (internt eller eksternt) kan eje drift og adgang, men KI-brug berører fag, patientkontakt, dokumentation og arbejdsgange. Det betyder, at ansvaret skal forankres i ledelse og linje – med IT som støttefunktion, hvor det er relevant.

«Hvis leverandøren har lavet det, har leverandøren ansvaret»

Leverandøren kan have ansvar for produkt og funktionalitet, men klinikken har ansvar for, hvordan værktøjet bruges i praksis: hvilke anvendelsesområder der er tilladt, hvordan medarbejdere arbejder med udkast og forslag, hvilke kontrolpunkter der gælder, og hvordan afvigelser håndteres.

«Vi er for små til at have roller – vi gør det bare»

Små klinikker har ofte brug for tydeligere rollebeskrivelser, ikke færre. Når få personer dækker mange opgaver, øges risikoen for, at kritiske opgaver “falder mellem stolene” eller bliver løst forskelligt fra gang til gang.

«Det er nok med en politik om forsigtig brug»

Generelle retningslinjer giver sjældent styring i en travl hverdag. Ansvarlig KI kræver operationalisering: beslutningspunkter, minimumskrav til kontrol, krav til dokumentation og en praktisk afvigsproces.

«Roller handler om at finde nogen at skyde skylden på»

Rolleafklaring handler primært om forudsigelighed: hvem der har mandat til at beslutte, pligt til at følge op og ansvar for at dokumentere. Det gør afvigshåndtering mindre personrettet og mere systemorienteret.

Hvad bør være på plads i praksis?

Nedenfor er et sæt roller/funktioner, der ofte skal være tydelige i en tandklinik, der bruger KI. De kan kombineres, men bør beskrives eksplicit.

• 1) KI-ejer (virksomhedsansvar/klinikledelse)
  Har overordnet ansvar for, at KI-brug er i overensstemmelse med klinikkens praksis, risikoniveau og interne krav. Beslutter, hvilke anvendelsesområder der er tilladt, og prioriterer ressourcer til kontrol og opfølgning.

• 2) Fagligt ansvarlig for indhold og praksis
  Ejer faglige kvalitetskrav, hvor KI påvirker vurderinger, journaltekst, patientinformation eller arbejdsgange, der kan få faglige konsekvenser. Definerer, hvad der altid skal vurderes manuelt, og hvad der er minimumskontrol.

• 3) Systemejer / applikationsansvarlig
  Har ansvar for systemopsætning, adgangsstyring, konfiguration, og for at forstå hvilke KI-funktioner der faktisk er aktive. Sikrer, at ændringer og opdateringer fanges op og vurderes, ikke bare “rulles ud”.

• 4) Ansvarlig for informationssikkerhed og databeskyttelse (funktion, ikke titel)
  Sikrer, at KI-brug ikke skaber uønsket datadeling, forkerte modtagere, manglende adgangskontrol eller svag logning. Vurderer, hvor data behandles, hvordan de lagres, og om der findes interne begrænsninger for, hvad KI kan bruges til.

• 5) Data- og kvalitetsansvarlig (for datagrundlag og dokumentationskvalitet)
  Ved KI, der bruger eller påvirker data (for eksempel skabeloner, journaltekst, strukturerede felter), bør nogen have ansvar for datakvalitet, begrebsbrug og “hygiejne”: hvad der er pålideligt, hvad der er ufuldstændigt, og hvordan fejl rettes på en sporbar måde.

• 6) Uddannelsesansvarlig / superbrugerfunktion
  Ansvarlig for, at medarbejdere forstår, hvordan KI bruges lokalt: begrænsninger, typiske fejl, hvad der skal dobbeltkontrolleres, og hvornår man skal stoppe eller eskalere. Dette er ofte afgørende for, at “menneskelig kontrol” bliver reel.

• 7) Afvigs- og ændringsansvarlig (kan være samme som KI-ejer)
  Definerer, hvad der betragtes som afvigelse ved KI-brug, hvordan det rapporteres, hvordan alvorlighedsgraden vurderes, og hvem der kan iværksætte tiltag (pause funktion, ændre rutine, kontakte leverandør, opdatere skabeloner).

Derudover bør klinikken etablere en enkel styringsmetode, der gør rollerne operationelle:

• Et anvendelsesregister: hvilke KI-anvendelsesområder der er godkendt, begrænsninger, ansvarlige roller og kontrolpunkter.

• RACI for de vigtigste processer: hvem er Responsible, Accountable, Consulted, Informed for indføring, ændring, daglig brug og afvigelser.

• Minimumskrav til dokumentation: hvad der skal kunne forklares i eftertid (anvendelsesområde, ansvar, kontrol, hændelsesforløb ved afvigelse).

Dette behøver ikke være omfattende, men det skal være konsekvent og efterprøvbart.

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så KI kan bruges på en sikker, forudsigelig og efterprøvbar måde.

Afsluttende overvejelse

Når KI bliver en del af hverdagen, er det rolleuklarhed – ikke teknologien i sig selv – der ofte skaber risiko. Uden tydelige funktioner for beslutning, kontrol og opfølgning bliver KI-brug let uformel, personafhængig og svær at efterprøve.

Tydelige roller gør det lettere at tage KI i brug på en måde, der kan forklares i eftertid: hvad der er tilladt, hvem der har vurderet brugen, hvordan kvalitet sikres, og hvordan klinikken lærer, når noget ikke fungerer som forventet.