Avvik og hendelser ved KI: hvordan bør ansvar og oppfølging forstås?

KI blir en stadig mer integrert del av tannklinikkens drift – i journaltekst, pasientinformasjon, prioritering av oppgaver og administrative arbeidsflyter. Mye av dette skjer gjennom funksjoner som er innebygget i verktøy klinikken allerede bruker.

Når KI bidrar til forslag, oppsummeringer eller automatiserte valg, kan det også oppstå avvik: feil formuleringer, misvisende forslag, utilsiktet deling av informasjon eller beslutningsstøtte som gir uheldige prioriteringer.

Denne artikkelen forklarer hva som kjennetegner KI-relaterte avvik, hvor ansvar typisk blir uklart, og hvilke styrings- og oppfølgingsmekanismer som bør være på plass for å håndtere hendelser på en etterprøvbar måte.

Hva menes med KI-relaterte avvik og hendelser?

Et KI-relatert avvik er en uønsket hendelse, et feilutfall eller en praksis som avviker fra klinikkens definerte krav – der KI har bidratt til eller påvirket resultatet. Det betyr ikke nødvendigvis at KI “gjorde noe” i teknisk forstand. Ofte er KI kun én del av kjeden: forslag → menneskelig vurdering → beslutning → dokumentasjon → kommunikasjon.

I tannklinikk kan KI-relaterte avvik typisk oppstå som:

• Innholdsavvik: feil eller upresis journaltekst, uheldige formuleringer i pasientinformasjon, eller standardtekster som ikke passer pasientens situasjon.

• Prosessavvik: at KI brukes i situasjoner der klinikken ikke har godkjent bruken, eller at kontrollpunkter ikke blir gjennomført.

• Data- og personvernavvik: at personopplysninger håndteres på måter klinikken ikke har oversikt over, eller at informasjon trekkes inn i utkast/kommunikasjon uten tilstrekkelig kontroll.

• Styringsavvik: at nye KI-funksjoner tas i bruk gjennom oppdateringer uten vurdering, opplæring eller rolleavklaring.

Et kjennetegn ved KI-avvik er at de ofte er systematiske: samme feiltype kan gjenta seg, fordi KI produserer “liknende” utfall i mange saker, og fordi mennesker kan få en vane for å godkjenne forslag når de oftest virker plausible.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet blir uklart når avvik håndteres som enkelthendelser, mens årsaken ligger i rammer, roller og kontrollmekanismer. I praksis oppstår uklarhet ofte i fem områder:

1. Utydelig bruksområde og forventet praksis
   Hvis det ikke er definert hva KI kan brukes til (og ikke brukes til), blir det vanskelig å vurdere om hendelsen er et avvik, eller “bare en uheldig situasjon”. Da blir oppfølging tilfeldig og personavhengig.

2. Manglende eller uoperasjonalisert menneskelig kontroll
   “Fagperson er involvert” er ikke det samme som reell kontroll. Uten tydelige stoppunkter og minimumskrav til kvalitetssikring kan overlesning bli rutine, særlig under tidspress.

3. Svak sporbarhet i hendelsesforløpet
   Ved avvik vil man ofte måtte svare på: Hva var KI sin rolle? Hvilket forslag ble gitt? Hvem godkjente? Hva ble endret? Hvis dette ikke kan rekonstrueres, blir både ansvarsavklaring og læring svak.

4. Rolleblanding mellom fag, drift og leverandør
   Den som kan endre systeminnstillinger er ikke alltid den som eier faglig innhold, og leverandørens ansvar blir lett blandet med klinikkens ansvar for lokal bruk. Resultatet kan bli et “ansvarsvakuum” der ingen har tydelig mandat til å stoppe, endre eller dokumentere tiltak.

5. Avvik blir “løst” uten å bli håndtert
   Mange KI-relaterte problemer blir rettet i øyeblikket (man skriver om en tekst, korrigerer et notat, sender ny informasjon), men uten å vurdere om feilen kan gjenta seg. Da forsvinner muligheten for forbedring på systemnivå.

Vanlige misforståelser

«Dette er bare en enkelt feil – ikke et avvik»

KI-feil ser ofte ut som enkeltstående avvik, men kan være uttrykk for et mønster: samme type upresis formulering, samme misforståelse, samme tendens til å “fylle inn” detaljer. Hvis hendelsen ikke behandles som et avvik, blir det vanskelig å finne årsak og sette inn varige tiltak.

«Hvis KI var involvert, er det leverandørens problem»

Leverandøren kan ha ansvar knyttet til produktet, men klinikken har ansvar for egen praksis: hva funksjonen brukes til, hvem som bruker den, hvilke kontrollpunkter som finnes, og hvordan avvik følges opp. Avviksoppfølging kan ikke outsources fullt ut, fordi den må knyttes til klinikkens arbeidsflyt og interne styring.

«Vi har menneskelig kontroll, for vi kan jo overstyre»

Mulighet for overstyring er ikke tilstrekkelig hvis overstyring ikke faktisk skjer. Reell kontroll forutsetter at noen har ansvar for å utøve kontroll, at det finnes konkrete stoppunkter, og at det er akseptert i praksis å stoppe en prosess når noe virker feil.

«Det viktigste er å logge alt»

Logging kan være nyttig, men løser ikke styringsproblemet alene. Det klinikken trenger ved avvik er ofte: tydelig bruksområde, definert kontrollmekanisme, og en prosess for å vurdere årsak og tiltak. Uten disse blir loggene bare et teknisk spor uten operativ verdi.

«Avvik handler om å finne en skyldig»

Ved KI-relaterte hendelser er det sjelden robust å fokusere på individ. Mer nyttig er å avklare: Hvilken del av praksisen sviktet (bruksregler, opplæring, kontrollpunkt, systemendring, sporbarhet)? Når avvik behandles systemisk, blir det også enklere å forbedre uten å skape defensiv kultur.

Hva bør være på plass i praksis?

For å håndtere KI-relaterte avvik på en etterprøvbar måte, bør tannklinikken ha et minimum av styring som gjør hendelser håndterbare og læringsorienterte.

• 1) Definerte bruksområder og avgrensninger
  Klinikken bør ha en enkel oversikt over godkjente KI-bruksområder, med tydelige “skal/skal ikke”-grenser. Da kan man raskt avgjøre om en hendelse er et avvik mot praksis, eller et tegn på at praksis må revideres.

• 2) Roller og mandat for avviksoppfølging
  Det bør være klart hvem som:

  • tar imot og vurderer meldinger om KI-relaterte avvik

  • kan stoppe eller begrense bruk midlertidig

  • kan endre rutiner, maler eller tilgang

  • følger opp leverandør ved behov
    I små klinikker kan dette ligge hos få personer, men mandatet må være eksplisitt.

• 3) Praktiske kontrollpunkter i arbeidsflyten
  Etabler minimumskontroller der risikoen faktisk oppstår (typisk før signering av journaltekst, før utsendelse av pasientinformasjon, og ved bruk av standardtekster). Kontrollen bør beskrive hva som må verifiseres, ikke bare at “det skal sjekkes”.

• 4) Sporbarhet som støtter hendelsesrekonstruksjon
  Klinikken bør kunne rekonstruere:

  • hvilket bruksområde/funksjon som var i bruk

  • hvem som gjorde vurderingen

  • hva som ble endret før endelig dokument/utsendelse

  • hvilke tiltak som ble gjort etter hendelsen
    Dette trenger ikke innebære å lagre alt KI produserer, men å kunne forklare hendelsesforløpet.

• 5) En enkel metode for årsaksanalyse og tiltak
  Når avvik oppstår, bør klinikken skille mellom:

  • menneskelig feil (for eksempel manglende kontroll i en situasjon)

  • prosessfeil (kontrollpunkt mangler eller er utydelig)

  • system-/leverandørforhold (funksjon endret, uventet oppførsel)

  • kompetansebehov (ansatte forstår ikke begrensninger)
    Tiltak bør knyttes til kategorien, slik at oppfølging blir konkret (oppdatere bruksregler, justere mal, endre tilgang, forbedre opplæring, eskalere til leverandør).

• 6) Endringskontroll for innebygd KI
  Klinikken bør ha en enkel praksis for å fange opp endringer i systemer som kan påvirke KI-funksjonalitet: oppdateringer, nye moduler, endret standardoppsett. Mange KI-avvik handler ikke om “feil bruk”, men om at bruken endret seg uten at noen besluttet det.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI-relaterte avvik i tannklinikk oppstår ofte i grenseflatene: mellom forslag og vurdering, mellom standardtekst og pasientens situasjon, og mellom leverandørens funksjon og klinikkens lokale praksis.

Når klinikken har definert bruksområder, operasjonalisert kontroll og sikret sporbarhet i oppfølgingen, blir avvik håndterbare – og læringen blir varig. Det reduserer personavhengighet og gjør det mulig å kombinere effektiv KI-bruk med etterprøvbar praksis over tid.