Dokumentation af KI-brug i tandpleje: hvad bør kunne forklares efterfølgende?

KI anvendes i stigende grad på tandklinikker – ofte som støtte i tekst, arbejdsgang, prioritering og patientkommunikation og undertiden nærmere kliniske vurderinger.

Når KI indgår i praksis uden at det er tydeligt, hvad der faktisk bruges, hvordan det kontrolleres, og hvem der har ansvaret, bliver det svært at efterprøve kvalitet – især hvis noget skal forklares senere.

Denne artikel beskriver, hvad dokumentation for KI-brug bør omfatte i en tandplejevirksomhed, hvor ansvarsproblemet typisk opstår, og hvilke styringsprincipper der giver sporbarhed uden at gøre driften unødigt tung.

Hvad menes med KI-brug i tandpleje?

Indenfor tandpleje er KI-brug ofte mindre "et system" og mere en samling af funktioner, der påvirker, hvordan arbejdet udføres. Det kan være tekstudkast og opsummeringer, sortering og prioritering af opgaver, automatiserede forslag i software eller støtte i patientdialog.

Dokumentation af KI-brug handler derfor ikke primært om at beskrive teknologi i detalje, men om at kunne svare præcist på spørgsmål som:

• Hvad bruges KI til – og hvad bruges det ikke til?

• Hvor i arbejdsgangen påvirker KI et valg, en formulering eller en prioritering?

• Hvem har godkendt brugen, og hvilke rammer gælder?

• Hvordan udøves menneskelig kontrol i praksis?

• Hvordan håndteres afvigelser, ændringer og opdateringer over tid?

Pointen er efterprøvbarhed: At klinikken kan forklare sammenhængen mellem KI-støtte og faktisk praksis, uden at forklaringen bliver afhængig af enkeltpersoner.

Hvor opstår ansvarsproblemet?

Ansvarsproblemet opstår typisk, når dokumentation mangler på de punkter, som bliver kritiske ved afvigelser, klager eller tilsyn. Nogle gentagne situationer er:

1. Når KI er "indbygget" og ikke behandles som en styret ændring
   Nye funktioner kommer via opdateringer eller bruges af enkeltpersoner. Uden et tydeligt beslutningspunkt bliver det uklart, om brugen er vurderet, hvem der ejer den, og hvad der er forventet praksis.

2. Når kontrol findes som intention, men ikke som sporbar praksis
   Mange antager, at "fagpersonen læser over". Problemet er, at uden definerede kontrolpunkter og minimumskrav til kvalitetssikring bliver kontrollen variabel – og vanskelig at dokumentere senere.

3. Når det ikke er muligt at rekonstruere hændelsesforløb
   Hvis noget går galt, vil man ofte have brug for at vide: Hvilket brugsområde var aktivt? Hvilke forslag gav systemet? Hvad blev ændret af mennesket? Hvem godkendte? Uden dette bliver både læring og ansvarsafklaring svage.

4. Når leverandør- og klinikansvar blandes
   Leverandører kan levere funktionalitet, men klinikken bestemmer kontekst, brugsmønster, træning og opfølgning. Hvis klinikken ikke dokumenterer dette, opstår et "ansvarsvakuum", hvor ingen kan vise, hvad der faktisk blev aftalt og overholdt.

5. Når regelverksforventninger peger mod mere logging og sporbarhed
   For nogle typer KI-systemer (afhængig af klassificering og brugsområde) kan der være forventninger om log- og dokumentationspraksis hos den, der tager systemet i brug. I EU AI Act beskrives f.eks., at deployere af højrisiko KI skal beholde logfiler, som systemet genererer i mindst seks måneder (så langt de er under deployers kontrol). 
   (Dette er kontekst og principforståelse, ikke juridisk rådgivning.)

Almindelige misforståelser

«Journalen er dokumentationen – så er vi dækket»

Journalen er central, men den forklarer ikke nødvendigvis, hvordan KI påvirkede indholdet eller processen. Når KI bruges til tekstudkast, opsummering eller autofyld, kan klinikken senere have behov for at kunne forklare hvordan teksten blev til, hvilke kontrolpunkter der gælder, og hvem der godkendte.

«Leverandøren har loggene, så vi behøver ikke at tænke på det»

Leverandører kan have tekniske logfiler, men klinikken har ofte behov for egen sporbarhed knyttet til praksis: hvad der er godkendt brugsområde, hvilke krav der gælder for overlæsning/omskrivning, og hvordan afvigelser håndteres. Desuden kan det være sådan, at logfiler kun er delvist tilgængelige for klinikken eller ikke besvarer de operative spørgsmål, der opstår ved en hændelse.

«Dette løses med en kort intern retningslinje»

Generelle sætninger som “brug KI med forsigtighed” giver lidt styring. Dokumentation skal knyttes til konkrete mekanismer: beslutningsmyndighed, brugsområder, kontrolpunkter, træning og afvigs-rutiner. Uden dette bliver det svært at efterleve konsekvent – og svært at forklare senere.

«Dokumentation betyder at gemme alt, KI producerer»

Målet er sjældent at gemme “alt”, men at dokumentere det som gør brugen efterprøvbar. For mange klinikker er det vigtigere at kunne vise rammer og proces end at arkivere hvert udkast: hvad var brugsområdet, hvem kontrollerede, hvad var minimumskravet til kvalitetssikring, og hvordan håndteres ændringer.

«Det bliver for tungt – vi må vælge mellem drift og kontrol»

God dokumentation behøver ikke være omfattende. Den bør være minimumsorienteret og risikobaseret: mere struktur der, hvor KI kan påvirke patientsikkerhed, journal eller patientkommunikation – enklere struktur der, hvor KI kun bruges til generelle administrative forslag.

Hvad bør være på plads i praksis?

For tandklinikker er det ofte muligt at etablere en robust dokumentationspraksis med fem byggebjælker:

• Kortlagt faktiske KI-brug i virksomheden
  En opdateret oversigt over hvor KI indgår (systemer, funktioner, processer), hvad brugen påvirker, og hvilke data der berøres. Dette er grundlaget for al videre styring.

• Brugsområderegister med afgrænsninger
  En enkel oversigt over godkendte brugsområder, hvad KI kan bruges til, hvad der ikke er tilladt, og hvem der ejer brugen. Dette reducerer personafhængighed og gør ændringer håndterbare.

• Tydelige roller, ansvar og beslutningsmyndighed
  Hvem kan aktivere nye funktioner? Hvem godkender brugsområder? Hvem har ansvar for opfølgning ved afvigelser? Dette bør være dokumenteret, selv om samme person fylder flere roller i en lille klinik.

• Menneskelig kontrol der operationaliseres
  Definer kontrolpunkter som faktisk kan efterleves:
  – hvad der altid skal verificeres før signering/udsendelse
  – hvornår man skal stoppe eller overse KI-forslag
  – hvordan uenighed eller rettelse håndteres
  Sådanne kontrolmekanismer stemmer overens med retningen i etablerede rammeværk for KI-risikostyring, hvor GOVERN-funktionen understreger behovet for styringsstruktur og sporbar praksis over livsløbet. 

• Dokumentation og sporbarhed ved afvigelser og ændringer
  Et minimum bør være, at klinikken kan rekonstruere hændelser: hvilket brugsområde, hvilken funktion, hvem der var ansvarlig, hvilke tiltag der blev gjort, og hvordan praksis blev justeret for at forhindre gentagelse.
  Der KI er relevant for overensstemmelse og styring over tid, kan det også være nyttigt at læne sig op ad en styringssystem-logik (policy, roller, processer og kontinuerlig forbedring), sådan som ISO/IEC 42001 beskriver for AI management systems. 

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvars-linjer og dokumentation – så KI kan bruges på en sikker, forudsigelig og efterprøvbar måde. 

Afsluttende betragtning

KI vil fortsætte med at blive en del af tandplejetjenesten. Spørgsmålet er ikke om, men hvordan.

Når dokumentation for KI-brug er tydelig nok til at forklare praksis senere, bliver det lettere at styre ansvar, håndtere afvigelser og bevare faglig kvalitet over tid.

Sporbarhed handler i praksis om få, præcise greb: oversigt, rolleafklaring, kontrolpunkter og en enkel måde at lære af ændringer og hændelser på.