Når KI bidrar til feil i klinikken

Ingress

Kunstig intelligens brukes i økende grad i systemer som inngår i klinikkers arbeid. Teknologien kan bidra til analyse av røntgenbilder, forslag til journaltekst eller støtte i administrative prosesser.

Samtidig kan KI-systemer påvirke hvordan informasjon tolkes eller presenteres. I enkelte situasjoner kan dette bidra til at feil oppstår i klinisk arbeid.

Denne artikkelen forklarer hvordan KI kan være involvert i feil i klinikken, hvorfor slike situasjoner kan oppstå, og hvordan virksomheter kan håndtere og lære av dem.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Slike systemer kan blant annet brukes til:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I praksis brukes slike systemer ofte som beslutningsstøtte. De genererer analyser eller forslag som inngår i klinikerens vurderingsgrunnlag.

Selv om KI kan bidra med analyser eller strukturering av informasjon, ligger den faglige vurderingen og beslutningen fortsatt hos behandleren. 

Hvor oppstår ansvarsspørsmålet?

Når KI påvirker informasjon eller analyser i klinikken, kan det i enkelte situasjoner bidra til at feil oppstår.

Dette kan for eksempel være når:

• et system markerer funn i et røntgenbilde som ikke er til stede

• systemet overser forhold som burde vært oppdaget

• KI genererer tekst som inneholder feil eller misvisende formuleringer

• systemets anbefalinger påvirker prioritering eller vurdering

I slike situasjoner kan det være vanskelig å avgjøre:

• hvilken rolle teknologien spilte i hendelsen

• hvordan feilen oppstod

• hvordan lignende situasjoner kan forebygges

Når KI inngår i arbeidsprosesser, blir det derfor viktig å kunne analysere hendelser der teknologi kan ha påvirket utfallet.

Vanlige misforståelser

«Hvis KI er involvert, er teknologien skyld i feilen»

Feil i klinisk arbeid oppstår ofte som følge av flere faktorer.

KI kan ha påvirket informasjonen i situasjonen, men det betyr ikke nødvendigvis at teknologien alene er årsaken.

«Feil knyttet til KI er annerledes enn andre feil»

Selv om teknologien er ny, kan håndtering av slike hendelser følge mange av de samme prinsippene som andre kliniske avvik.

Det handler om å forstå hva som skjedde og hvordan lignende situasjoner kan forebygges.

«Hvis KI brukes som støtte, kan den ikke bidra til feil»

Selv støtteverktøy kan påvirke hvordan informasjon presenteres eller oppfattes.

Dette kan i enkelte situasjoner påvirke hvordan vurderinger gjøres.

«Feil betyr at KI ikke bør brukes»

Enkelthendelser betyr ikke nødvendigvis at teknologien er uegnet.

Men de kan gi viktig informasjon om hvordan systemet bør brukes eller kontrolleres.

Hva bør være på plass i praksis?

Når KI kan ha bidratt til en feil i klinikken, kan noen prinsipper bidra til en strukturert oppfølging.

Kartlegging av hendelsen

Det første steget er å forstå hva som faktisk skjedde.

Dette kan innebære å avklare:

• hvilken rolle systemet spilte

• hvilken informasjon systemet ga

• hvordan denne informasjonen ble vurdert av fagpersoner

Vurdering av teknologiens rolle

I noen tilfeller kan KI ha hatt direkte betydning for hendelsen.

I andre tilfeller kan teknologien ha vært en mindre faktor i en større situasjon.

En nyansert vurdering gjør det lettere å forstå hendelsen.

Oppfølging av systemet

Dersom hendelsen er knyttet til systemets funksjon, kan det være relevant å:

• undersøke om lignende hendelser har oppstått tidligere

• avklare forhold med leverandøren

• vurdere om bruken av systemet bør justeres

Læring i organisasjonen

Hendelser hvor KI har vært involvert kan gi viktig læring om hvordan teknologien påvirker arbeid i praksis.

Dette kan bidra til bedre forståelse av systemets begrensninger.

Dokumentasjon av hendelsen

Kort dokumentasjon av hendelsen og vurderingene som er gjort kan bidra til bedre oversikt over hvordan systemet fungerer over tid.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Når KI blir en del av klinikkens arbeid, kan teknologien også bli en del av hendelser der feil oppstår.

Det viktigste er ikke nødvendigvis om KI var involvert, men hvordan hendelsen forstås og følges opp.

En strukturert tilnærming til slike situasjoner kan bidra til bedre innsikt i hvordan teknologi påvirker klinisk praksis, og hvordan den kan brukes mer ansvarlig over tid.