Når er det riktig å slutte å bruke et KI-verktøy?

KI-verktøy blir ofte tatt i bruk gradvis i tannhelse: først som støtte i tekst og administrasjon, senere i mer integrerte arbeidsprosesser. Over tid kan bruken bli «normalisert» uten at verktøyet vurderes like aktivt som ved oppstart. 

Problemet er at ansvarlig KI-bruk ikke bare handler om innføring, men også om kontroll i drift – og om å kunne stoppe bruken når forutsetningene endrer seg, kvalitet faller, eller risiko blir uakseptabel. I praksis er avslutning ofte vanskeligere enn anskaffelse.

Denne artikkelen forklarer hvilke signaler som typisk tilsier at et KI-verktøy bør fases ut eller stoppes, og hva klinikken bør ha på plass for at en slik beslutning blir etterprøvbar og håndterbar. 

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter i praksis alle funksjoner som analyserer, foreslår, prioriterer eller genererer innhold basert på data – enten det skjer i pasientnære prosesser eller i støttefunksjoner.

Typiske bruksformer er:

• tekststøtte i journalføring og dokumentasjon (forslag, oppsummeringer, strukturering)

• administrativ automatisering (sortering, planlegging, malverk, rapportutkast)

• pasientkommunikasjon (utkast til meldinger, informasjonstekster)

• støtte til kvalitetsarbeid (stikkprøver, identifisering av mønstre og avvik)

Når man snakker om å «slutte å bruke» et KI-verktøy, kan det bety flere ting: å stoppe all bruk, å begrense bruksområdet, å fjerne integrasjoner, eller å flytte bruken tilbake til manuelle rutiner. Poenget er at avslutning må forstås som en del av livsløpet: KI er ikke «ferdig innført» når den tas i bruk – den må også kunne justeres og avvikles på en kontrollert måte. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår gjerne når det blir uklart hvem som skal oppdage at et verktøy ikke lenger fungerer som forutsatt – og hvem som faktisk kan beslutte å stoppe eller endre bruken.

I tannhelse ser man ofte disse typiske situasjonene:

1. Kvalitet endrer seg over tid uten at noen «eier» observasjonen
   KI kan fungere godt i en periode, men gradvis gi mer varierende kvalitet (for eksempel mer upresise oppsummeringer eller uheldige formuleringer). Uten fast monitorering kan dette bli en lavgradig risiko som normaliseres. 

2. Bruken glir utover opprinnelig formål
   Et verktøy tatt i bruk for administrative tekster kan etter hvert brukes i pasientnære sammenhenger, eller som «standard» i dokumentasjonsflyten. Denne typen utvidelse skjer ofte uten ny vurdering, og gjør avslutning vanskelig fordi prosesser og forventninger allerede er tilpasset verktøyet. 

3. Avvik håndteres lokalt, men blir aldri et beslutningsgrunnlag
   Enkeltbrukere kan oppdage feil og «rette opp» i hverdagen, uten at avvik registreres. Da får ledelsen verken oversikt over omfang, mønster eller utvikling – og mangler grunnlag for å vurdere om bruken bør stoppes. 

4. Avslutning skaper operasjonell risiko
   Å stoppe et KI-verktøy kan påvirke kapasitet, responstid og arbeidsflyt. Hvis klinikken ikke har planlagt for alternative rutiner, kan avslutning oppleves som urealistisk – selv når risiko tilsier at det burde skje.

I sum: ansvar oppstår i skjæringspunktet mellom faglig kontroll (hva som faktisk kommer ut), drift (hvordan det brukes), og styring (hvem som setter rammer og tar beslutninger). 

Vanlige misforståelser

«Å stoppe bruken betyr at vi har feilet»

Å avslutte et verktøy er ofte et tegn på moden styring, ikke feil. KI endrer seg, konteksten endrer seg, og klinikkens behov endrer seg. En ansvarlig virksomhet må kunne justere eller stoppe når forutsetningene ikke lenger er til stede – på samme måte som man reviderer rutiner og bytter systemer av faglige eller driftsmessige grunner.

«Hvis det er nyttig, er det forsvarlig å fortsette»

Nytte kan være reell, men må vurderes opp mot kontroll og risiko. I helsenære prosesser er spørsmålet typisk ikke bare om verktøyet sparer tid, men om kvaliteten er stabil, om menneskelig kontroll fungerer i praksis, og om konsekvenser ved feil er håndterbare.

«Leverandøren sier det er trygt, så vi kan fortsette»

Ekstern informasjon kan være relevant, men den erstatter ikke klinikkens ansvar for egen brukskontekst: hvilke data som inngår, hvordan output brukes, hvem som kontrollerer, og hvilke feilscenarier som er kritiske. Ansvarlig drift handler om lokal etterprøvbarhet, ikke bare generelle egenskaper ved teknologien. 

«Vi kan bare skru det av uten konsekvenser»

Avslutning påvirker ofte prosesser, kapasitet og forventninger. Hvis KI har blitt en del av dokumentasjonsflyt eller pasientkommunikasjon, kan en brå stans skape flaskehalser eller økt feilpress. Nettopp derfor bør avslutning være planlagt: hva skjer i stedet, og hvem følger opp overgangsrisikoen.

«Avslutning trenger ikke dokumentasjon»

Når et verktøy tas ut av bruk, er det ofte like viktig å dokumentere hvorfor som ved innføring. Klinikken bør kunne forklare hvilke signaler som lå til grunn, hvilke tiltak som ble vurdert, hva som ble besluttet, og hvordan man sikret kontroll i overgangsperioden. Dette er en del av internkontroll og sporbarhet over tid. 

Hva bør være på plass i praksis?

Å kunne stoppe bruk på en kontrollert måte forutsetter at avslutning er en del av styringsmodellen – ikke et ad hoc-tiltak. Følgende elementer gir typisk et robust grunnlag:

• Definerte stoppkriterier (exit-kriterier)
  Klinikken bør ha tydelige kriterier for når bruken må revurderes eller stanses. Eksempler kan være: økning i feilrate, gjentatte avvik i bestemte situasjoner, manglende etterlevelse av menneskelig kontroll, eller endringer i bruksområde som ikke er vurdert.

• Løpende monitorering som fanger endring over tid
  Monitorering bør dekke mer enn teknisk drift: også kvalitetsstabilitet, avviksmønstre og hvordan verktøyet faktisk brukes i prosessene. Uten dette blir avslutningsbeslutninger basert på enkelthendelser eller «magefølelse». 

• Avviksregistrering som gir beslutningsgrunnlag
  Når KI gir feil eller uheldig output, bør det finnes en enkel måte å registrere dette på – inkludert hva som skjedde, hvilken kontekst det gjaldt, og om det ble overstyrt. Over tid gir dette et mønster som kan vise om risikoen er økende. 

• Tydelig beslutningsmyndighet og eskalering
  Det bør være avklart hvem som kan: (a) begrense bruksområde, (b) pause bruken, og (c) beslutte full utfasing. Like viktig er eskalering: når skal en lokal observasjon løftes til ledelse.

• Plan for kontrollert utfasing
  En utfasing bør beskrive hva som skjer i stedet (midlertidige rutiner, ressursplan), hvilke prosesser som påvirkes, og hvordan klinikken sikrer kvalitet i overgangsperioden.

• Håndtering av data, integrasjoner og ettersporbarhet
  Avslutning handler ikke bare om å «slutte å bruke». Klinikken bør ha kontroll på hvilke integrasjoner som må fjernes, hva som skal arkiveres, og hvordan man sikrer at tidligere arbeid fortsatt er etterprøvbart (for eksempel dokumentasjon av endringer, versjoner og vurderinger).

• Oppdatert dokumentasjon som viser livsløpsstyring
  Når bruken endres eller stoppes, bør relevante dokumenter oppdateres: bruksrammer, risikovurdering, endringslogg og opplæringsgrunnlag. Dette viser at KI er styrt som en del av virksomhetens drift – ikke som et enkeltstående prosjekt. 

Til sammen gjør dette avslutning til et styringsspørsmål: klinikken beholder handlingsrom, samtidig som man kan vise at beslutninger bygger på observasjoner, kontroll og dokumenterte vurderinger.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI. 

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte. 

Avsluttende betraktning

Ansvarlig KI-bruk handler ikke bare om å komme i gang, men om å kunne justere kursen når kvalitet, risiko eller forutsetninger endrer seg. Evnen til å stoppe eller fase ut et verktøy er ofte et tydelig tegn på moden styring.

KI vil fortsette å bli en del av tannhelsevirksomheters arbeidsprosesser. Spørsmålet blir derfor i økende grad om virksomheten har struktur som gjør at bruken forblir kontrollert – også når svaret bør være å avslutte.