Menneskelig kontroll av KI i tannklinikk: hvordan dokumentere det

Ingress

Kunstig intelligens kan støtte analyse, dokumentasjon og beslutninger i tannhelsetjenesten. Samtidig er det et grunnleggende prinsipp at teknologien ikke erstatter faglig ansvar.

Når KI inngår i kliniske eller administrative arbeidsprosesser, forventes det derfor at mennesker fortsatt vurderer og kontrollerer systemets output.

Denne artikkelen forklarer hva menneskelig kontroll innebærer i praksis, og hvordan tannklinikker kan dokumentere at slik kontroll faktisk er en del av arbeidet.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter systemer som analyserer data eller genererer forslag basert på statistiske modeller eller maskinlæring.

Eksempler på bruk kan være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

Slike systemer kan bidra til effektivitet og bedre informasjonsgrunnlag. Samtidig kan de påvirke hvordan informasjon presenteres og hvordan vurderinger gjøres i praksis.

Derfor er menneskelig kontroll et sentralt prinsipp i ansvarlig KI-bruk i helse. Teknologien skal støtte faglige vurderinger – ikke erstatte dem. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår når KI påvirker beslutningsgrunnlag eller dokumentasjon i klinikken.

Dette kan skje for eksempel når:

• systemet foreslår journaltekst

• KI markerer mulige funn i røntgenbilder

• automatiserte analyser foreslår prioriteringer

• KI genererer kommunikasjon til pasienter

Hvis ansatte oppfatter systemets output som et fasitsvar, kan teknologien i praksis få større innflytelse enn det som er tilsiktet.

Derfor er det viktig å kunne vise at fagpersoner fortsatt:

• vurderer resultatene

• kan overstyre systemet

• har siste ord i beslutninger

Dokumentasjon av menneskelig kontroll handler om å gjøre denne rollen tydelig.

Vanlige misforståelser

«Menneskelig kontroll betyr bare at en person bruker systemet»

At en person klikker på et system er ikke det samme som reell kontroll.

Menneskelig kontroll innebærer at brukeren aktivt vurderer systemets output og kan korrigere eller ignorere det dersom det ikke virker riktig.

«Dette gjelder bare for kliniske beslutninger»

Selv administrative KI-funksjoner kan påvirke dokumentasjon, kommunikasjon eller prioriteringer.

Derfor kan også slike systemer være relevante når man vurderer behovet for menneskelig kontroll.

«Kontroll er åpenbart i praksis og trenger ikke dokumenteres»

Selv om kontroll skjer i praksis, kan det være vanskelig å vise dette uten dokumentasjon.

Både ledelse og tilsyn kan ha behov for å forstå hvordan kontroll faktisk fungerer i arbeidsprosessene.

«Systemet er utviklet for helse, så kontroll er innebygd»

Selv systemer som er designet for helsebruk kan gi feil eller ufullstendige forslag.

Derfor er menneskelig vurdering fortsatt en viktig del av sikker bruk.

Hva bør være på plass i praksis?

Dokumentasjon av menneskelig kontroll trenger ikke være komplisert. Formålet er å vise hvordan faglig vurdering fortsatt inngår i arbeidet.

Noen elementer går ofte igjen i virksomheter som arbeider strukturert med KI.

Beskrivelse av arbeidsprosessen

Det bør være tydelig beskrevet hvordan KI-systemet brukes i arbeidsflyten.

For eksempel:

• når systemet gir forslag

• når en fagperson vurderer resultatet

• hvordan beslutningen tas

Dette gjør det mulig å se hvor menneskelig kontroll skjer.

Avklaring av faglig ansvar

Det bør være klart dokumentert at fagpersoner fortsatt har ansvar for vurderinger og beslutninger.

KI kan støtte analysen, men det endelige ansvaret ligger hos klinikeren eller virksomheten.

Mulighet for overstyring

Ansatte må kunne ignorere eller korrigere systemets forslag dersom de vurderer dem som feil eller irrelevante.

Dokumentasjon kan beskrive hvordan dette gjøres i praksis.

Opplæring og forståelse

For å utøve kontroll må brukerne forstå hva systemet gjør og hvilke begrensninger det har.

Derfor kan det være relevant å dokumentere hvordan ansatte får informasjon om systemets funksjon og begrensninger.

Oppfølging og evaluering

Virksomheten kan også ha rutiner for å følge opp hvordan KI brukes i praksis.

Dette kan for eksempel være:

• stikkprøver

• faglig gjennomgang

• vurdering av avvik eller feil

Slike rutiner viser at kontroll ikke bare er teoretisk, men en del av driften.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Menneskelig kontroll er et grunnleggende prinsipp i ansvarlig bruk av KI i helse.

Teknologien kan bidra med analyser, forslag og automatisering, men faglig vurdering og ansvar ligger fortsatt hos mennesker.

Når klinikker dokumenterer hvordan slik kontroll skjer i praksis, blir det enklere å forstå teknologiens rolle og å bruke den på en trygg og strukturert måte.