Når KI gir forskjellige svar over tid: stabilitet som risikofaktor

Ingress

KI vurderes ofte ut fra nøyaktighet: om svarene er riktige her og nå. I klinisk praksis er imidlertid konsistens over tid minst like viktig. Når samme spørsmål, data eller situasjon gir ulike KI-svar på ulike tidspunkt, oppstår nye former for risiko.

Slike variasjoner kan være vanskelige å oppdage i hverdagen. Likevel påvirker de dokumentasjon, diagnostikk, etterprøvbarhet og tillit – både internt i klinikken og overfor pasienter og tilsyn.

Denne artikkelen forklarer hvorfor stabilitet og konsistens i KI-output er styringsrelevant i klinikken, hvordan modellendringer og versjonsproblematikk arter seg i praksis, og hva som bør være på plass for å håndtere dette som et governance-spørsmål.

Hva menes med stabilitet og konsistens i KI?

Stabilitet handler om hvorvidt et KI-system gir forutsigbare resultater over tid, gitt samme eller tilsvarende input. Konsistens handler om graden av samsvar mellom svar på tvers av tidspunkt, brukere eller kontekst.

I klinisk sammenheng kan manglende konsistens vise seg som:

– ulike formuleringer eller vurderinger i journalutkast ved samme problemstilling
– varierende forslag eller oppsummeringer ved like kliniske data
– endrede prioriteringer eller analyser uten tydelig årsak
– forskjeller som ikke kan forklares faglig eller metodisk

Disse variasjonene kan være små hver for seg, men får betydning når KI brukes gjentatte ganger i arbeid som krever sammenheng, sporbarhet og forklarbarhet.

Hvor oppstår risikoen?

Risikoen oppstår i skjæringspunktet mellom klinisk praksis og teknologisk endring. KI-systemer er ikke statiske. De kan endre seg over tid gjennom:

– oppdateringer av underliggende modeller
– justeringer i treningsdata eller parametere
– endringer i hvordan systemet er konfigurert eller integrert
– tilpasning til ny kontekst eller nye bruksmønstre

For klinikken kan dette bety at et verktøy som «fungerte som før», plutselig gir andre svar – uten at dette er tydelig kommunisert eller dokumentert.

Konsekvensene viser seg særlig innen tre områder:

1. Journalføring
   Ulike formuleringer over tid kan svekke konsistens i dokumentasjon og gjøre etterprøving vanskelig.

2. Diagnostisk støtte
   Varierende vurderinger kan påvirke klinisk resonnering, særlig der KI brukes som støtte i komplekse saker.

3. Forklarbarhet og tillit
   Når output ikke er stabil, blir det vanskelig å forklare hvorfor en vurdering ble gjort – både internt og eksternt.

Vanlige misforståelser

«Variasjon er et tegn på intelligens»

I klinisk arbeid er forutsigbarhet ofte en forutsetning for kvalitet. Uforklarte variasjoner kan skape usikkerhet, selv om hvert enkelt svar isolert sett virker plausibelt.

«Dette er bare et teknisk anliggende»

For klinikken er dette et praksisspørsmål. Når output endrer seg, endres også beslutningsgrunnlaget – uavhengig av den tekniske årsaken.

«Så lenge svarene er riktige, spiller det ingen rolle»

Riktighet uten konsistens er vanskelig å etterprøve. Over tid kan manglende stabilitet svekke både kvalitetssikring og læring.

«Dette merker vi hvis det blir et problem»

Endringer skjer ofte gradvis. Små variasjoner kan normaliseres i hverdagen og først bli synlige når konsekvensene allerede har oppstått.

Hva bør være på plass i praksis?

For å håndtere stabilitet som risikofaktor bør virksomheten behandle modellendring og konsistens som en del av styringsansvaret.

Det innebærer blant annet:

– Bevissthet om at KI endrer seg over tid
KI bør forstås som dynamiske systemer, ikke faste verktøy.

– Oversikt over hvilke KI-verktøy som brukes hvor
Dette gjør det mulig å vurdere konsekvenser når output endrer seg.

– Rutiner for endring og versjonering
Det bør være kjent når vesentlige endringer skjer, og hvilke deler av praksis de påvirker.

– Vurdering av konsistens i kritiske bruksområder
Journal, diagnostikk og beslutningsstøtte bør ha særlig oppmerksomhet.

– Dokumentasjon av brukskontekst
Når KI inngår i vurderinger, bør dette være kjent og etterprøvbart i ettertid.

Slik kan klinikken skille mellom ønsket utvikling og uønsket variasjon.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI som endrer svar over tid utfordrer klinisk praksis på en annen måte enn åpenbare feil. Risikoen ligger ikke bare i hva som er riktig eller galt, men i tap av konsistens og forklarbarhet.

Å ta stabilitet på alvor innebærer å følge med på hvordan KI faktisk oppfører seg i praksis – over tid. Når endring forstås og styres, kan KI utvikle seg uten å undergrave dokumentasjon, kvalitet eller tillit.