Dokumentasjon av KI-bruk i tannhelse: hva bør kunne forklares i ettertid?

KI brukes i økende grad i tannklinikker – ofte som støtte i tekst, arbeidsflyt, prioritering og pasientkommunikasjon, og noen ganger nærmere kliniske vurderinger.

Når KI inngår i praksis uten at det er tydelig hva som faktisk brukes, hvordan det kontrolleres og hvem som har ansvar, blir det vanskelig å etterprøve kvalitet – særlig hvis noe må forklares i ettertid.

Denne artikkelen beskriver hva dokumentasjon av KI-bruk bør innebære i en tannhelsevirksomhet, hvor ansvarsspørsmålet typisk oppstår, og hvilke styringsprinsipper som gir sporbarhet uten å gjøre driften unødig tung.

Hva menes med KI-bruk i tannhelse?

I tannhelse er KI-bruk ofte mindre “et system” og mer en samling funksjoner som påvirker hvordan arbeid utføres. Det kan være tekstutkast og oppsummeringer, sortering og prioritering av oppgaver, automatiserte forslag i programvare, eller støtte i pasientdialog.

Dokumentasjon av KI-bruk handler derfor ikke primært om å beskrive teknologi i detalj, men om å kunne svare presist på spørsmål som:

• Hva brukes KI til – og hva brukes det ikke til?

• Hvor i arbeidsflyten påvirker KI et valg, en formulering eller en prioritering?

• Hvem har godkjent bruken, og hvilke rammer gjelder?

• Hvordan utøves menneskelig kontroll i praksis?

• Hvordan håndteres avvik, endringer og oppdateringer over tid?

Poenget er etterprøvbarhet: At klinikken kan forklare sammenhengen mellom KI-støtte og faktisk praksis, uten at forklaringen blir personavhengig.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår typisk når dokumentasjon mangler på de punktene som blir kritiske ved avvik, klager eller tilsyn. Noen gjentakende situasjoner er:

1. Når KI er “innebygget” og ikke behandles som en styrt endring
   Nye funksjoner kommer via oppdateringer, eller tas i bruk av enkeltpersoner. Uten et tydelig beslutningspunkt blir det uklart om bruken er vurdert, hvem som eier den, og hva som er forventet praksis.

2. Når kontroll finnes som intensjon, men ikke som sporbar praksis
   Mange antar at “fagpersonen leser over”. Problemet er at uten definerte kontrollpunkter og minimumskrav til kvalitetssikring, blir kontrollen variabel – og vanskelig å dokumentere i ettertid.

3. Når det ikke er mulig å rekonstruere hendelsesforløp
   Hvis noe går galt, vil man ofte trenge å vite: Hvilket bruksområde var aktivt? Hvilke forslag ga systemet? Hva ble endret av mennesket? Hvem godkjente? Uten dette blir både læring og ansvarsavklaring svake.

4. Når leverandør- og klinikkansvar blandes
   Leverandører kan levere funksjonalitet, men klinikken bestemmer kontekst, bruksmønster, opplæring og oppfølging. Hvis klinikken ikke dokumenterer dette, oppstår et “ansvarsvakuum” der ingen kan vise hva som faktisk var avtalt og etterlevd.

5. Når regelverksforventninger peker mot mer logging og sporbarhet
   For enkelte typer KI-systemer (avhengig av klassifisering og bruksområde) kan det være forventninger om logg- og dokumentasjonspraksis hos den som tar systemet i bruk. I EU AI Act beskrives for eksempel at deployere av høyrisiko KI skal beholde logger som systemet genererer i minst seks måneder (så langt de er under deployers kontroll). 
   (Dette er kontekst og prinsippforståelse, ikke juridisk rådgivning.)

Vanlige misforståelser

«Journalen er dokumentasjonen – da er vi dekket»

Journalen er sentral, men den forklarer ikke nødvendigvis hvordan KI påvirket innholdet eller prosessen. Når KI brukes til tekstutkast, oppsummering eller autofyll, kan klinikken i ettertid trenge å kunne forklare hvordan teksten ble til, hvilke kontrollpunkter som gjelder, og hvem som godkjente.

«Leverandøren har loggene, så vi trenger ikke å tenke på det»

Leverandører kan ha tekniske logger, men klinikken trenger ofte egen sporbarhet knyttet til praksis: hva som er godkjent bruksområde, hvilke krav som gjelder for overlesning/overstyring, og hvordan avvik håndteres. I tillegg kan det være slik at logger bare er delvis tilgjengelige for klinikken, eller ikke svarer på de operative spørsmålene som oppstår ved en hendelse.

«Dette løses med en kort intern retningslinje»

Generelle setninger som “bruk KI med forsiktighet” gir lite styring. Dokumentasjon må knyttes til konkrete mekanismer: beslutningsmyndighet, bruksområder, kontrollpunkter, opplæring og avviksrutiner. Uten dette blir det vanskelig å etterleve konsekvent – og vanskelig å forklare i ettertid.

«Dokumentasjon betyr å lagre alt KI produserer»

Målet er sjelden å lagre “alt”, men å dokumentere det som gjør bruken etterprøvbar. For mange klinikker er det viktigere å kunne vise rammer og prosess enn å arkivere hvert utkast: hva var bruksområdet, hvem kontrollerte, hva var minimumskravet til kvalitetssikring, og hvordan håndteres endringer.

«Dette blir for tungt – vi må velge mellom drift og kontroll»

God dokumentasjon trenger ikke være omfattende. Den bør være minimumsorientert og risikobasert: mer struktur der KI kan påvirke pasientsikkerhet, journal, eller pasientkommunikasjon – enklere struktur der KI kun brukes til generelle administrative utkast.

Hva bør være på plass i praksis?

For tannklinikker er det ofte mulig å etablere en robust dokumentasjonspraksis med fem byggesteiner:

• Kartlagt faktisk KI-bruk i virksomheten
  En oppdatert oversikt over hvor KI inngår (systemer, funksjoner, prosesser), hva bruken påvirker, og hvilke data som berøres. Dette er grunnlaget for all videre styring.

• Bruksområderegister med avgrensninger
  En enkel oversikt over godkjente bruksområder, hva KI kan brukes til, hva som ikke er tillatt, og hvem som eier bruken. Dette reduserer personavhengighet og gjør endringer håndterbare.

• Tydelige roller, ansvar og beslutningsmyndighet
  Hvem kan aktivere nye funksjoner? Hvem godkjenner bruksområder? Hvem har ansvar for oppfølging ved avvik? Dette bør være dokumentert, selv om samme person fyller flere roller i en liten klinikk.

• Menneskelig kontroll som operasjonaliseres
  Definer kontrollpunkter som faktisk kan etterleves:
  – hva som alltid må verifiseres før signering/utsendelse
  – når man skal stoppe eller overstyre KI-forslag
  – hvordan uenighet eller korrigering håndteres
  Slike kontrollmekanismer samsvarer med retningen i etablerte rammeverk for KI-risikostyring, der GOVERN-funksjonen understreker behovet for styringsstruktur og sporbar praksis over livsløpet. 

• Dokumentasjon og sporbarhet ved avvik og endringer
  Et minimum bør være at klinikken kan rekonstruere hendelser: hvilket bruksområde, hvilken funksjon, hvem som var ansvarlig, hvilke tiltak som ble gjort, og hvordan praksis ble justert for å hindre gjentakelse.
  Der KI er relevant for compliance og styring over tid, kan det også være nyttig å lene seg på en styringssystem-logikk (policy, roller, prosesser og kontinuerlig forbedring), slik ISO/IEC 42001 beskriver for AI management systems. 

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte. 

Avsluttende betraktning

KI vil fortsette å bli en del av tannhelsetjenesten. Spørsmålet er ikke om, men hvordan.

Når dokumentasjon av KI-bruk er tydelig nok til å forklare praksis i ettertid, blir det enklere å styre ansvar, håndtere avvik og bevare faglig kvalitet over tid.

Sporbarhet handler i praksis om få, presise grep: oversikt, rolleavklaring, kontrollpunkter og en enkel måte å lære av endringer og hendelser på.