KI i tannklinikk: hva tilsyn forventer av dokumentasjon

Ingress

Kunstig intelligens blir en del av stadig flere digitale systemer i tannhelsetjenesten. Teknologien kan støtte kliniske vurderinger, analysere data eller automatisere administrative oppgaver.

Når KI tas i bruk i helsevirksomheter, oppstår også et spørsmål om hvordan teknologien dokumenteres og kontrolleres. Myndigheter og tilsynsorganer er ikke først og fremst opptatt av teknologien i seg selv, men av hvordan virksomheten styrer bruken av den.

Denne artikkelen forklarer hva tilsyn typisk forventer av dokumentasjon når KI brukes i en tannklinikk, og hvilke typer informasjon virksomheten bør kunne fremvise.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske eller maskinlæringsbaserte metoder.

I praksis kan dette være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata eller drift

Noen systemer er utviklet spesifikt for kliniske oppgaver, mens andre er generelle KI-verktøy som brukes i administrative prosesser.

Felles for dem er at teknologien kan påvirke hvordan informasjon tolkes eller presenteres. Når slike systemer inngår i virksomhetens arbeid, blir dokumentasjon en viktig del av ansvarlig bruk. 

Hvor oppstår ansvarsspørsmålet?

Tilsynsmyndigheter vurderer normalt ikke KI isolert som teknologi. De vurderer hvordan virksomheten bruker teknologien i sine prosesser.

Ansvarsspørsmål oppstår derfor når:

• KI påvirker kliniske vurderinger

• KI påvirker dokumentasjon eller beslutningsgrunnlag

• ansatte bruker KI uten klare rammer

• virksomheten mangler oversikt over hvilke systemer som brukes

I slike situasjoner vil tilsyn typisk spørre:

• hvilke KI-systemer virksomheten bruker

• hvordan teknologien påvirker arbeidsprosesser

• hvilke risikoer som er vurdert

• hvilke kontrollmekanismer som finnes

Dokumentasjon blir dermed et sentralt grunnlag for å vise at teknologien brukes på en strukturert og forståelig måte.

Vanlige misforståelser

«Tilsyn kontrollerer selve KI-teknologien»

Tilsynsmyndigheter vurderer normalt ikke algoritmer eller tekniske modeller direkte.

Deres hovedfokus er virksomhetens styring av teknologien. Det vil si hvordan ledelsen har organisert ansvar, kontroll og dokumentasjon rundt bruken.

«Dette gjelder bare avanserte kliniske systemer»

Mange antar at dokumentasjonskrav kun gjelder for avanserte diagnostiske systemer.

I praksis kan også enklere KI-verktøy være relevante dersom de påvirker dokumentasjon, kommunikasjon eller beslutningsgrunnlag i klinikken.

«Hvis KI kun brukes administrativt, er dokumentasjon unødvendig»

Selv administrative systemer kan påvirke pasientinformasjon, arbeidsprosesser eller prioriteringer.

Derfor kan tilsyn fortsatt være opptatt av hvordan slike systemer brukes og kontrolleres.

«En generell KI-policy er tilstrekkelig»

En overordnet policy kan være nyttig, men tilsyn vil ofte være mer opptatt av konkret dokumentasjon av hvordan systemer brukes i praksis.

Det betyr at virksomheten bør kunne vise mer enn bare generelle retningslinjer.

Hva bør være på plass i praksis?

Tilsyn forventer normalt ikke omfattende tekniske rapporter fra en tannklinikk. Det viktigste er at virksomheten kan vise oversikt og struktur rundt KI-bruken.

Noen typer dokumentasjon går ofte igjen.

Oversikt over KI-systemer

Virksomheten bør kunne vise hvilke systemer eller funksjoner som bruker KI.

En slik oversikt kan inkludere:

• systemnavn

• bruksområde

• hvor i arbeidsprosessen systemet brukes

Dette gir tilsynet et bilde av hvordan teknologien inngår i virksomheten.

Beskrivelse av bruksområde

Det bør være dokumentert hva systemet faktisk brukes til i klinikken.

Dette kan for eksempel være:

• støtte til dokumentasjon

• analyse av data

• administrativ automatisering

• beslutningsstøtte

Formålet med bruken er ofte et sentralt spørsmål i tilsyn.

Roller og ansvar

Tilsyn vil ofte være opptatt av hvem som har ansvar for teknologibruken.

Det kan derfor være nyttig å dokumentere:

• hvem som godkjenner bruk av KI-verktøy

• hvem som følger opp systemene

• hvem som håndterer avvik eller feil

Tydelige ansvarslinjer er en viktig del av god styring.

Enkel risikovurdering

Virksomheten bør ha gjort en vurdering av hvordan teknologien kan påvirke arbeid, beslutninger eller pasientinformasjon.

Dette trenger ikke være en omfattende analyse, men bør vise at risiko er vurdert.

Dokumentasjon av menneskelig kontroll

Når KI brukes i arbeidsprosesser, vil tilsyn ofte være opptatt av hvordan fagpersoner fortsatt vurderer og kontrollerer systemets output.

Derfor kan det være relevant å beskrive hvordan ansatte bruker faglig skjønn sammen med teknologien.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Bruk av KI i helse handler ikke bare om teknologi, men også om styring og ansvar.

For tilsynsmyndigheter er spørsmålet derfor sjelden om KI finnes i virksomheten, men hvordan den brukes og kontrolleres.

Når klinikker har oversikt over systemer, roller og risiko, blir det enklere å dokumentere at teknologien brukes på en ansvarlig og gjennomtenkt måte.