Løpende kontroll av KI i klinikken

Ingress

Kunstig intelligens brukes i økende grad i systemer som inngår i tannklinikkers daglige arbeid. Teknologien kan bidra til analyse av data, støtte dokumentasjon eller automatisere administrative oppgaver.

Når slike systemer tas i bruk i ordinær drift, oppstår også behovet for løpende kontroll. KI-systemer kan endre seg gjennom oppdateringer, påvirkes av nye data eller brukes på måter som ikke var forutsatt ved innføring.

Denne artikkelen forklarer hva løpende kontroll av KI innebærer i en tannklinikk, og hvilke organisatoriske prinsipper som kan bidra til trygg og forutsigbar bruk over tid.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Eksempler på bruk kan være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

Slike systemer kan være integrert i journalsystemer, røntgenprogrammer eller administrative verktøy.

Når KI blir en del av klinikkens daglige drift, betyr det at teknologien ikke bare tas i bruk én gang. Den må også følges opp over tid. KI-systemer kan endre atferd eller påvirkes av nye data og kontekster, noe som gjør kontinuerlig oppfølging viktig i moderne KI-styring. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål knyttet til KI oppstår ikke bare når systemer tas i bruk, men også mens de er i drift.

Dette kan skje i situasjoner hvor:

• systemer oppdateres av leverandøren

• nye funksjoner introduseres

• systemet brukes i nye arbeidsprosesser

• systemets output endrer seg over tid

Dersom slike endringer skjer uten at virksomheten oppdager dem, kan det bli vanskelig å forstå hvordan teknologien påvirker arbeidet.

Løpende kontroll handler derfor om å sikre at klinikken fortsatt har oversikt over hvordan KI-systemer fungerer i praksis.

Vanlige misforståelser

«Kontroll skjer når systemet tas i bruk»

Mange vurderer KI-systemer grundig ved innføring, men mindre etter at de er tatt i bruk.

I praksis kan risiko også oppstå senere, når systemet inngår i daglige arbeidsprosesser.

«Leverandøren følger opp systemet»

Leverandører kan oppdatere og vedlikeholde teknologien, men virksomheten må fortsatt følge opp hvordan systemet fungerer i egen praksis.

Dette gjelder spesielt hvordan ansatte bruker systemet og hvordan resultatene vurderes.

«Hvis systemet fungerer, er kontroll mindre viktig»

Systemer kan fungere godt i lang tid, men likevel endre seg gradvis.

Endringer i data, oppdateringer eller nye bruksmønstre kan påvirke hvordan systemet oppfører seg.

«Dette gjelder bare avanserte KI-systemer»

Selv relativt enkle KI-funksjoner kan påvirke dokumentasjon eller arbeidsprosesser.

Derfor kan også slike systemer være relevante i løpende oppfølging.

Hva bør være på plass i praksis?

Løpende kontroll av KI i klinikken handler først og fremst om å følge opp hvordan systemene brukes i praksis.

Noen prinsipper går ofte igjen.

Oversikt over systemer i drift

Klinikken bør ha oversikt over hvilke KI-systemer eller funksjoner som brukes i virksomheten.

Dette gjør det lettere å identifisere hvilke systemer som bør følges opp.

Oppfølging av systemendringer

KI-systemer kan endre seg gjennom oppdateringer eller nye versjoner.

Virksomheten bør derfor være oppmerksom på endringer som kan påvirke systemets funksjon eller bruksområde.

Faglig vurdering av systemets output

Når KI brukes som støtte i analyser eller dokumentasjon, bør ansatte fortsatt vurdere resultatene faglig.

Dette bidrar til å sikre at teknologien brukes på en forsvarlig måte.

Oppfølging av erfaringer fra bruk

Erfaringer fra ansatte kan gi viktig innsikt i hvordan systemer fungerer i praksis.

Slike erfaringer kan bidra til å identifisere behov for justeringer eller forbedringer.

Klare ansvarslinjer

Det bør være tydelig hvem i virksomheten som har ansvar for oppfølging av KI-systemer.

Dette kan inkludere ansvar for:

• oversikt over systemer

• oppfølging av endringer

• vurdering av erfaringer fra bruk

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Når KI-systemer blir en del av klinikkens daglige drift, er det ikke tilstrekkelig å vurdere teknologien kun ved innføring.

Løpende kontroll bidrar til at virksomheten fortsatt forstår hvordan systemene fungerer og hvordan de påvirker arbeidet.

Dette er en viktig del av ansvarlig bruk av kunstig intelligens i helsetjenesten.