Hvordan håndtere avvik knyttet til KI

Ingress

Kunstig intelligens brukes i økende grad i systemer som inngår i tannklinikker og andre helsevirksomheters arbeid. Teknologien kan bidra til analyse av bilder, forslag til dokumentasjon eller automatisering av administrative oppgaver.

Samtidig kan KI-systemer gi uventede eller feilaktige resultater. Når dette skjer, oppstår et behov for å håndtere avvik på en strukturert måte.

Denne artikkelen forklarer hva avvik knyttet til KI kan være, hvorfor slike situasjoner oppstår, og hvordan tannklinikker kan følge opp avvik som oppdages i praksis.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Slike systemer kan blant annet brukes til:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I mange tilfeller fungerer KI som et støtteverktøy. Systemet genererer analyser eller forslag, mens den faglige vurderingen fortsatt gjøres av klinikeren.

Når slike systemer inngår i klinikkens arbeid, kan avvik oppstå dersom teknologien gir resultater som ikke stemmer med faglig vurdering eller forventet funksjon. 

Hvor oppstår ansvarsspørsmålet?

Avvik knyttet til KI kan oppstå i flere situasjoner.

Dette kan for eksempel være når:

• systemet identifiserer funn som ikke er til stede

• systemet overser forhold som burde vært oppdaget

• KI genererer misvisende eller feilaktig tekst

• systemet oppfører seg annerledes etter en oppdatering

Når slike situasjoner oppstår, kan det være vanskelig å forstå:

• om avviket skyldes systemet eller bruken av det

• om det er en enkeltstående hendelse eller et mønster

• hvordan avviket bør følges opp

En strukturert tilnærming til avvik gjør det lettere å identifisere årsak og vurdere konsekvenser.

Vanlige misforståelser

«Et avvik betyr at KI-systemet er ubrukelig»

Alle teknologiske systemer kan gi feil eller uventede resultater.

Et enkelt avvik betyr ikke nødvendigvis at systemet er uegnet, men det kan være et signal om at systemets rolle bør vurderes nærmere.

«Avvik skyldes alltid teknologien»

Noen avvik kan oppstå fordi systemet brukes i situasjoner det ikke er utviklet for.

Derfor kan det være nødvendig å vurdere både teknologien og hvordan den brukes i praksis.

«Dette er leverandørens ansvar»

Leverandøren kan ha ansvar for tekniske feil i systemet.

Men virksomheten har ansvar for hvordan systemet brukes i klinikken og hvordan avvik oppdages og håndteres.

«Avvik bør bare håndteres uformelt»

Uformell håndtering kan gjøre det vanskelig å identifisere mønstre eller gjentakende problemer.

En enkel struktur for avvikshåndtering kan gi bedre oversikt over hvordan systemet fungerer i praksis.

Hva bør være på plass i praksis?

Håndtering av avvik knyttet til KI kan følge mange av de samme prinsippene som annen kvalitetsoppfølging i klinikken.

Noen elementer er særlig relevante.

Oppdagelse av avvik

Avvik oppdages ofte av ansatte som bruker systemet i praksis.

Derfor er det viktig at brukere føler seg trygge på å stille spørsmål ved systemets output og rapportere uventede resultater.

Dokumentasjon av hendelsen

Når et avvik oppdages, kan det være nyttig å dokumentere:

• hvilken situasjon avviket oppstod i

• hvilken type resultat systemet ga

• hvordan resultatet ble vurdert av fagperson

Slik dokumentasjon gjør det lettere å forstå hva som faktisk skjedde.

Vurdering av årsak

Et avvik kan skyldes flere forhold, for eksempel:

• feil i systemet

• feil bruk av systemet

• mangelfull forståelse av systemets begrensninger

En kort vurdering av mulige årsaker kan bidra til å identifisere behov for tiltak.

Oppfølging av gjentakende hendelser

Hvis lignende avvik oppstår flere ganger, kan det indikere et mønster.

I slike situasjoner kan det være relevant å:

• justere hvordan systemet brukes

• avklare forhold med leverandøren

• vurdere om bruken bør endres eller begrenses

Klare ansvarslinjer

Det bør være tydelig hvem i virksomheten som følger opp avvik knyttet til KI-systemer.

Dette kan bidra til mer systematisk håndtering av hendelser.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Avvik knyttet til KI er en naturlig del av bruk av avanserte digitale systemer.

Det avgjørende er ikke at slike hendelser aldri oppstår, men hvordan de oppdages, forstås og følges opp.

Når klinikker håndterer avvik på en strukturert måte, blir det lettere å opprettholde kontroll over teknologien og sikre ansvarlig bruk i praksis.