Når KI endrer anbefalinger over tid

Ingress

Kunstig intelligens brukes i økende grad som analyse- og beslutningsstøtte i helsetjenesten. I tannhelse kan teknologien bidra til vurdering av røntgenbilder, strukturering av journaltekst eller analyse av kliniske data.

Et særtrekk ved enkelte KI-systemer er at anbefalingene kan endre seg over tid. Endringer kan skyldes oppdateringer av modeller, nye datagrunnlag eller justeringer i systemets funksjon.

Denne artikkelen forklarer hvorfor slike endringer kan oppstå, og hvorfor det er viktig at tannklinikker følger med på hvordan KI-systemer utvikler seg i praksis.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag basert på statistiske modeller eller maskinlæring.

Eksempler på bruk kan være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I slike situasjoner genererer systemet forslag eller analyser som kan inngå i klinikerens vurderingsgrunnlag.

Selv om teknologien kan bidra med analyser eller strukturering av informasjon, ligger den faglige vurderingen og beslutningen fortsatt hos behandleren. KI fungerer derfor som beslutningsstøtte, ikke som en selvstendig beslutningstaker. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår når systemets anbefalinger endrer seg over tid uten at virksomheten er klar over det.

Dette kan for eksempel skje når:

• en oppdatering endrer hvordan systemet analyserer data

• modellen trenes på nytt datagrunnlag

• systemet justeres for bedre presisjon

• nye funksjoner introduseres

I slike situasjoner kan ansatte oppleve at systemet gir andre anbefalinger enn tidligere.

Dersom slike endringer ikke oppdages eller forstås, kan det bli vanskelig å forklare:

• hvorfor systemet gir ulike forslag over tid

• hvordan endringene påvirker arbeidsprosesser

• hvordan anbefalingene bør tolkes

Derfor er oppfølging av systemets utvikling en viktig del av driftsovervåking.

Vanlige misforståelser

«Et KI-system gir alltid samme resultat»

Tradisjonell programvare gir ofte samme resultat hver gang den brukes.

KI-systemer kan derimot endre seg over tid gjennom oppdateringer, justeringer eller nye datagrunnlag.

«Endringer betyr at systemet fungerer dårlig»

Endringer i anbefalinger kan også skyldes forbedringer i modellen.

For eksempel kan systemet bli bedre til å identifisere mønstre eller redusere feil.

«Dette er bare relevant for avanserte KI-systemer»

Også relativt enkle KI-funksjoner kan endre seg gjennom oppdateringer eller justeringer.

Derfor kan fenomenet være relevant i flere typer klinikkprogramvare.

«Leverandøren håndterer alle endringer»

Leverandøren utvikler og oppdaterer systemet, men virksomheten må fortsatt forstå hvordan endringer påvirker bruken i klinikken.

Hva bør være på plass i praksis?

Når KI-systemer kan endre anbefalinger over tid, kan noen organisatoriske prinsipper bidra til bedre kontroll.

Oppfølging av systemoppdateringer

Virksomheten bør være oppmerksom på når systemer oppdateres og hvilke endringer oppdateringen innebærer.

Dette kan bidra til å forstå hvorfor systemets anbefalinger eventuelt endrer seg.

Erfaringer fra daglig bruk

Ansatte som bruker systemet regelmessig kan ofte oppdage endringer i hvordan systemet oppfører seg.

Slike observasjoner kan gi viktig informasjon om systemets utvikling.

Periodisk gjennomgang av systemets rolle

Det kan være nyttig å gjennomgå hvordan systemet brukes i klinikken med jevne mellomrom.

Dette kan bidra til å identifisere endringer i hvordan anbefalingene tolkes eller brukes.

Tydelig faglig vurdering

Selv når KI-systemer gir analyser eller forslag, bør ansatte fortsatt gjøre en faglig vurdering av resultatene.

Dette gjør det mulig å håndtere endringer i systemets anbefalinger på en kontrollert måte.

Klare ansvarslinjer

Virksomheten bør ha definert hvem som følger opp KI-systemer i drift og vurderer endringer over tid.

Dette kan bidra til mer strukturert oppfølging av teknologien.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI-systemer utvikler seg ofte over tid gjennom oppdateringer, justeringer og nye datagrunnlag.

Når slike systemer brukes i klinisk arbeid, blir det viktig å følge med på hvordan anbefalingene utvikler seg.

Ved å ha oversikt over systemendringer og hvordan de påvirker praksis, kan tannklinikker opprettholde kontroll og forståelse av teknologiens rolle i arbeidet.