KI i klinikkens internkontrollsystem

Kunstig intelligens tas i bruk i stadig flere deler av tannhelsetjenesten. Teknologien kan analysere røntgenbilder, bidra til dokumentasjon i journal, automatisere administrative oppgaver og støtte pasientkommunikasjon.

Når slike systemer blir en del av klinikkens arbeid, oppstår et spørsmål som ofte kommer i etterkant: Hvordan inngår KI i virksomhetens internkontroll?

Internkontroll handler om hvordan virksomheten sikrer forsvarlig drift, tydelige ansvarslinjer og etterprøvbar praksis. Når teknologi påvirker arbeidsprosesser eller beslutningsgrunnlag, blir det naturlig å inkludere teknologien i denne strukturen.

Denne artikkelen forklarer hvordan bruk av kunstig intelligens kan integreres i klinikkens internkontrollsystem, og hvilke styringsprinsipper som vanligvis er relevante i praksis.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter systemer som analyserer informasjon, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I en klinikk kan dette blant annet inkludere:

• analyse av røntgenbilder eller diagnostiske data

• støtte til journalføring eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Disse systemene fungerer ofte som beslutningsstøtte eller automatiserte verktøy. De produserer analyser eller forslag basert på data, som deretter vurderes av mennesker.

Selv om faglige beslutninger fortsatt tas av klinikere, kan KI påvirke hvordan informasjon presenteres og tolkes i arbeidshverdagen.

Dermed blir teknologien en del av virksomhetens operative struktur.

Hvor oppstår ansvarsspørsmålet?

Spørsmålet om internkontroll oppstår særlig når KI blir integrert i klinikkens rutiner.

Tre situasjoner er typiske.

Når teknologi påvirker dokumentasjon

Systemer som genererer eller foreslår journaltekst kan påvirke hvordan informasjon registreres i pasientjournalen.

Når KI påvirker analyse eller vurderinger

Analyseverktøy kan bidra med forslag eller vurderinger som inngår i faglige beslutningsprosesser.

Når nye verktøy tas i bruk uten formell struktur

I mange virksomheter kan KI-verktøy tas i bruk av enkeltpersoner uten at bruken er forankret i virksomhetens styringssystem.

Når slike forhold oppstår, blir det nødvendig å avklare hvordan teknologien inngår i internkontrollen.

Vanlige misforståelser

«Internkontroll gjelder bare klinisk arbeid»

Internkontroll knyttes ofte først og fremst til faglig behandling og pasientsikkerhet.

Når teknologi påvirker dokumentasjon, analyse eller kommunikasjon, blir den også en del av virksomhetens kontrollstruktur.

«Teknologi regulerer seg selv»

Digitale systemer oppfattes noen ganger som stabile og selvstyrte.

I praksis kan systemer oppdateres, endre funksjonalitet eller få nye bruksområder over tid. Dette gjør oppfølging nødvendig.

«Internkontroll betyr detaljert teknisk kontroll»

Internkontroll handler vanligvis ikke om teknisk evaluering av algoritmer eller modeller.

Det handler snarere om oversikt, ansvar og organisering av hvordan teknologien brukes i virksomheten.

«Dette er kun relevant ved tilsyn»

Spørsmål om internkontroll rundt teknologi oppstår ofte først ved tilsyn eller revisjon.

I praksis er strukturen også et verktøy for virksomheten selv, fordi den gir oversikt over hvordan teknologi påvirker drift og arbeidsprosesser.

Hva bør være på plass i praksis?

Når KI inngår i klinikkens arbeid, kan den også inngå i internkontrollsystemet gjennom noen grunnleggende strukturer.

Oversikt over KI-systemer

Virksomheten bør ha en samlet oversikt over hvilke KI-systemer som brukes i klinikken, hva de brukes til og hvilke prosesser de påvirker.

Dette kan fungere som et enkelt KI-register.

Tydelige ansvarslinjer

Internkontrollen bør vise hvem som har ansvar for:

• beslutning om bruk av teknologi

• implementering og oppfølging

• faglig vurdering av bruk

Retningslinjer for bruk

Virksomheten bør ha en kort beskrivelse av hvordan KI kan brukes i klinikken, og hvilke oppgaver som alltid krever menneskelig vurdering.

Oppfølging av systemer

Internkontrollen bør også beskrive hvordan bruken av KI følges opp over tid, for eksempel gjennom:

• periodiske gjennomganger

• vurdering av avvik eller feil

• oppdatering av interne rutiner

Dokumentasjon

Virksomheten bør kunne dokumentere hvilke systemer som brukes, hvilket formål de har og hvordan bruken er organisert.

Slike strukturer samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å ha oversikt over og kontroll med hvordan KI brukes i praksis. 

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Dette innebærer blant annet å bidra til etablering av KI-register, styringsmodeller og dokumentasjon som gjør teknologien lettere å integrere i virksomhetens internkontrollsystem. 

Avsluttende betraktning

Kunstig intelligens vil trolig bli en stadig mer integrert del av tannhelsetjenestens arbeid.

Når teknologi påvirker arbeidsprosesser, dokumentasjon eller analyse, blir det også naturlig å inkludere den i virksomhetens internkontroll.

Internkontroll rundt KI handler ikke først og fremst om teknologi, men om struktur: oversikt, ansvar og etterprøvbar praksis. Når disse elementene er på plass, kan teknologien inngå i klinikkens arbeid på en mer forutsigbar måte.