Når KI bidrager til fejl i klinikken

Indledning

Kunstig intelligens bruges i stigende grad i systemer, der indgår i klinikkernes arbejde. Teknologien kan bidrage til analyse af røntgenbilleder, forslag til journaltekst eller støtte i administrative processer.

Samtidig kan KI-systemer påvirke, hvordan information tolkes eller præsenteres. I visse situationer kan dette føre til, at der opstår fejl i klinisk arbejde.

Denne artikel forklarer, hvordan KI kan være involveret i fejl i klinikken, hvorfor sådanne situationer kan opstå, og hvordan virksomheder kan håndtere og lære af dem.

Hvad forstås ved KI-brug i tandpleje?

KI i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Sådanne systemer kan blandt andet bruges til:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I praksis bruges sådanne systemer ofte som beslutningsstøtte. De genererer analyser eller forslag, der indgår i klinikerens vurderingsgrundlag.

Selvom KI kan bidrage med analyser eller strukturering af information, ligger den faglige vurdering og beslutning fortsat hos behandleren. 

Hvor opstår ansvarsspørgsmålet?

Når KI påvirker information eller analyser i klinikken, kan det i visse situationer føre til, at der opstår fejl.

Dette kan for eksempel være når:

• et system markerer fund i et røntgenbillede, som ikke er til stede

• systemet overser forhold, der burde være blevet opdaget

• KI genererer tekst, der indeholder fejl eller misvisende formuleringer

• systemets anbefalinger påvirker prioritering eller vurdering

I sådanne situationer kan det være vanskeligt at afgøre:

• hvilken rolle teknologien spillede i hændelsen

• hvordan fejlen opstod

• hvordan lignende situationer kan forebygges

Når KI indgår i arbejdsprocesser, bliver det derfor vigtigt at kunne analysere hændelser, hvor teknologi kan have påvirket udfaldet.

Almindelige misforståelser

«Hvis KI er involveret, er teknologien skyld i fejlen»

Fejl i klinisk arbejde opstår ofte som følge af flere faktorer.

KI kan have påvirket informationen i situationen, men det betyder ikke nødvendigvis, at teknologien alene er årsagen.

«Fejl forbundet med KI er anderledes end andre fejl»

Selvom teknologien er ny, kan håndtering af sådanne hændelser følge mange af de samme principper som andre kliniske afvigelser.

Det handler om at forstå, hvad der skete, og hvordan lignende situationer kan forebygges.

«Hvis KI bruges som støtte, kan den ikke bidrage til fejl»

Selv støtteværktøjer kan påvirke, hvordan information præsenteres eller opfattes.

Dette kan i visse situationer påvirke, hvordan vurderinger træffes.

«Fejl betyder, at KI ikke bør bruges»

Enkelthændelser betyder ikke nødvendigvis, at teknologien er uegnet.

Men de kan give vigtig information om, hvordan systemet bør bruges eller kontrolleres.

Hvad bør være på plads i praksis?

Når KI kan have bidraget til en fejl i klinikken, kan nogle principper bidrage til en struktureret opfølgning.

Kortlægning af hændelsen

Det første skridt er at forstå, hvad der faktisk skete.

Dette kan indebære at afklare:

• hvilken rolle systemet spillede

• hvilken information systemet gav

• hvordan denne information blev vurderet af fagpersoner

Vurdering af teknologiens rolle

I nogle tilfælde kan KI have haft direkte betydning for hændelsen.

I andre tilfælde kan teknologien have været en mindre faktor i en større situation.

En nuanceret vurdering gør det lettere at forstå hændelsen.

Opfølgning af systemet

Hvis hændelsen er knyttet til systemets funktion, kan det være relevant at:

• undersøge, om lignende hændelser har opstået tidligere

• afklare forhold med leverandøren

• vurdere, om brugen af systemet bør justeres

Læring i organisationen

Hændelser, hvor KI har været involveret, kan give vigtig læring om, hvordan teknologien påvirker arbejde i praksis.

Dette kan bidrage til bedre forståelse af systemets begrænsninger.

Dokumentation af hændelsen

Kort dokumentation af hændelsen og de vurderinger, der er foretaget, kan bidrage til bedre overblik over, hvordan systemet fungerer over tid.

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – således at KI kan bruges på en sikker, forudsigelig og efterprøvelig måde.

Afsluttende betragtning

Når KI bliver en del af klinikkens arbejde, kan teknologien også blive en del af hændelser, hvor fejl opstår.

Det vigtigste er ikke nødvendigvis, om KI var involveret, men hvordan hændelsen forstås og følges op.

En struktureret tilgang til sådanne situationer kan bidrage til bedre indsigt i, hvordan teknologi påvirker klinisk praksis, og hvordan den kan bruges mere ansvarligt over tid.