Når KI-verktøy oppdateres: hvem har ansvar?

Ingress

Kunstig intelligens inngår i dag i mange av systemene som brukes i tannhelsetjenesten. Dette kan være analyse av røntgenbilder, forslag til journaltekst eller automatiserte administrative funksjoner.

Slike systemer oppdateres jevnlig av leverandører. Oppdateringer kan endre hvordan systemet fungerer, hvilke analyser det gjør, eller hvordan resultater presenteres.

Denne artikkelen forklarer hva som skjer når KI-verktøy oppdateres, hvilke ansvarsspørsmål som kan oppstå, og hvordan tannklinikker kan forholde seg til slike endringer.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter systemer som analyserer data eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Eksempler kan være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I mange tilfeller er slike funksjoner integrert i eksisterende journalsystemer eller klinikkprogramvare. KI er dermed ikke nødvendigvis et separat verktøy, men en del av systemene som brukes i det daglige arbeidet.

Når slike systemer oppdateres, kan også KI-funksjonene endre seg. Dette gjør oppfølging av oppdateringer relevant for virksomhetens styring av teknologien. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår fordi KI-systemer ofte utvikles og oppdateres av leverandører, mens de brukes operasjonelt i klinikken.

Når en oppdatering skjer, kan det for eksempel innebære at:

• algoritmen analyserer data på en ny måte

• systemet presenterer nye typer forslag

• nye funksjoner introduseres

• eksisterende funksjoner endres

I slike situasjoner kan det bli uklart hvem som har ansvar for å forstå og følge opp endringen.

I praksis er ansvaret delt:

• Leverandøren har ansvar for utvikling og teknisk oppdatering av systemet.

• Klinikken har ansvar for hvordan systemet brukes i virksomheten.

Dette betyr at oppdateringer ikke bare er en teknisk hendelse, men også en organisatorisk.

Vanlige misforståelser

«Oppdateringer er leverandørens ansvar alene»

Leverandøren oppdaterer systemet, men virksomheten må fortsatt forstå hvordan endringen påvirker egen bruk.

Dette gjelder spesielt dersom systemet påvirker arbeidsprosesser eller beslutningsgrunnlag.

«Oppdateringer er bare tekniske forbedringer»

Noen oppdateringer kan være små og tekniske, men andre kan endre hvordan systemet analyserer informasjon eller presenterer resultater.

Slike endringer kan påvirke hvordan ansatte bruker systemet.

«Hvis systemet oppdateres automatisk, trenger vi ikke følge med»

Automatiske oppdateringer kan gjøre endringer mindre synlige.

Derfor kan det være viktig at virksomheten fortsatt har oversikt over hva som endres.

«Dette gjelder bare avanserte KI-systemer»

Også relativt enkle KI-funksjoner kan endre seg gjennom oppdateringer.

For eksempel kan systemer som foreslår journaltekst eller analyserer data få nye modeller eller funksjoner.

Hva bør være på plass i praksis?

Når KI-verktøy oppdateres, handler oppfølging først og fremst om å forstå hvordan endringen påvirker virksomheten.

Noen organisatoriske prinsipper kan bidra til bedre kontroll.

Oversikt over systemoppdateringer

Virksomheten bør være oppmerksom på når systemer oppdateres, og hva oppdateringen innebærer.

Dette kan for eksempel være informasjon fra leverandøren om nye funksjoner eller endringer.

Vurdering av påvirkning på arbeidsprosesser

Dersom oppdateringen påvirker hvordan systemet brukes i klinikken, kan det være relevant å vurdere hvordan dette påvirker arbeidsprosesser.

Oppfølging av erfaringer fra bruk

Ansatte kan ofte oppdage endringer i systemets oppførsel først.

Derfor kan erfaringer fra daglig bruk gi viktig informasjon om hvordan oppdateringen påvirker arbeidet.

Klare ansvarslinjer

Det kan være nyttig å ha definert hvem i virksomheten som følger opp systemoppdateringer.

Dette kan inkludere ansvar for:

• oversikt over KI-systemer

• oppfølging av endringer

• vurdering av konsekvenser for praksis

Dialog med leverandør

Ved større endringer kan det også være relevant å avklare spørsmål med leverandøren om hvordan systemet fungerer etter oppdateringen.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI-systemer er ikke statiske teknologier. De utvikler seg gjennom oppdateringer, nye datagrunnlag og endringer i bruk.

For tannklinikker betyr dette at ansvar for teknologibruk ikke slutter ved implementering. Det innebærer også å forstå og følge opp hvordan systemene utvikler seg over tid.

Slik oppfølging bidrar til bedre kontroll, tydeligere ansvar og mer stabil bruk av KI i klinisk drift.