Når KI giver forskellige svar over tid: stabilitet som risikofaktor

Indledning

KI vurderes ofte ud fra nøjagtighed: om svarene er korrekte her og nu. I klinisk praksis er konsistens over tid dog mindst lige så vigtig. Når samme spørgsmål, data eller situation giver forskellige KI-svar på forskellige tidspunkter, opstår der nye former for risiko.

Sådanne variationer kan være svære at opdage i hverdagen. Alligevel påvirker de dokumentation, diagnostik, efterprøvelighed og tillid - både internt i klinikken og overfor patienter og tilsyn.

Denne artikel forklarer, hvorfor stabilitet og konsistens i KI-output er styringsrelevant i klinikken, hvordan modelændringer og versionsproblematik viser sig i praksis, og hvad der bør være på plads for at håndtere dette som et governance-spørgsmål.

Hvad menes med stabilitet og konsistens i KI?

Stabilitet handler om, hvorvidt et KI-system giver forudsigelige resultater over tid, givet samme eller tilsvarende input. Konsistens handler om graden af overensstemmelse mellem svar på tværs af tidspunkter, brugere eller kontekst.

I klinisk sammenhæng kan manglende konsistens vise sig som:

– forskellige formuleringer eller vurderinger i journaludkast ved samme problemstilling
– varierende forslag eller opsummeringer ved ens kliniske data
– ændrede prioriteringer eller analyser uden tydelig årsag
– forskelle, der ikke kan forklares fagligt eller metodisk

Disse variationer kan være små hver for sig, men får betydning, når KI bruges gentagne gange i arbejde, der kræver sammenhæng, sporbarhed og forklarbarhed.

Hvor opstår risikoen?

Risikoen opstår i skæringspunktet mellem klinisk praksis og teknologisk forandring. KI-systemer er ikke statiske. De kan ændre sig over tid gennem:

– opdateringer af underliggende modeller
– justeringer i træningsdata eller parametre
– ændringer i hvordan systemet er konfigureret eller integreret
– tilpasning til ny kontekst eller nye brugsmønstre

For klinikken kan dette betyde, at et værktøj, der "fungerede som før", pludselig giver andre svar – uden at dette er tydeligt kommunikeret eller dokumenteret.

Konsekvenserne viser sig særligt inden for tre områder:

1. Journalføring
   Forskellige formuleringer over tid kan svække konsistens i dokumentation og gøre efterprøvning vanskelig.

2. Diagnostisk støtte
   Varierende vurderinger kan påvirke klinisk ræsonnering, især hvor KI bruges som støtte i komplekse sager.

3. Forklarbarhed og tillid
   Når output ikke er stabilt, bliver det svært at forklare, hvorfor en vurdering blev gjort – både internt og eksternt.

Almindelige misforståelser

"Variation er et tegn på intelligens"

I klinisk arbejde er forudsigelighed ofte en forudsætning for kvalitet. Uforklarede variationer kan skabe usikkerhed, selvom hvert enkelt svar isoleret set virker plausibelt.

"Dette er bare et teknisk anliggende"

For klinikken er dette et praksisspørgsmål. Når output ændrer sig, ændres også beslutningsgrundlaget – uafhængigt af den tekniske årsag.

"Så længe svarene er korrekte, spiller det ingen rolle"

Korrekthed uden konsistens er vanskelig at efterprøve. Over tid kan manglende stabilitet svække både kvalitetssikring og læring.

"Dette opdager vi, hvis det bliver et problem"

Ændringer sker ofte gradvist. Små variationer kan blive normaliseret i hverdagen og først blive synlige, når konsekvenserne allerede er opstået.

Hvad bør være på plads i praksis?

For at håndtere stabilitet som risikofaktor bør virksomheden behandle modelændring og konsistens som en del af styringsansvaret.

Det indebærer blandt andet:

– Bevidsthed om, at KI ændrer sig over tid
KI bør forstås som dynamiske systemer, ikke faste værktøjer.

– Overblik over hvilke KI-værktøjer der bruges hvor
Dette gør det muligt at vurdere konsekvenser, når output ændrer sig.

– Rutiner for ændring og versionering
Det bør være kendt, når væsentlige ændringer sker, og hvilke dele af praksis de påvirker.

– Vurdering af konsistens i kritiske anvendelsesområder
Journal, diagnostik og beslutningsstøtte bør have særlig opmærksomhed.

– Dokumentation af anvendelseskontekst
Når KI indgår i vurderinger, bør dette være kendt og efterprøvbart i eftertid.

Således kan klinikken skelne mellem ønsket udvikling og uønsket variation.

Acteras rolle i dette

Actera er etableret for at give tandlægevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarsfordeling og dokumentation – således at KI kan bruges på en sikker, forudsigelig og efterprøvelig måde.

Afsluttende betragtning

KI, der ændrer svar over tid, udfordrer klinisk praksis på en anden måde end åbenlyse fejl. Risikoen ligger ikke kun i, hvad der er rigtigt eller forkert, men i tab af konsistens og forklarbarhed.

At tage stabilitet alvorligt indebærer at holde øje med, hvordan KI faktisk opfører sig i praksis – over tid. Når ændring forstås og styres, kan KI udvikle sig uden at underminere dokumentation, kvalitet eller tillid.