Hvordan undersøge hændelser, hvor KI er involveret

Indledning

Kunstig intelligens indgår i stadig flere systemer i tandplejetjenesten. Teknologien kan bidrage til analyse af røntgenbilleder, generere forslag til journaltekst eller støtte administrative processer.

Når en uønsket hændelse opstår i klinikken, kan KI i visse tilfælde have været en del af situationen. Det kan da være nødvendigt at undersøge, hvilken rolle teknologien egentlig spillede.

Denne artikel forklarer, hvordan tandklinikker kan undersøge hændelser, hvor KI er involveret, og hvordan sådanne analyser kan bidrage til bedre forståelse og kontrol af teknologien.

Hvad menes med KI-brug i tandpleje?

KI i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Eksempler på brug kan være:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I mange tilfælde fungerer sådanne systemer som støtteværktøjer. De genererer analyser eller forslag, der indgår i klinikerens beslutningsgrundlag.

Når teknologien indgår i arbejdsprocesser på denne måde, kan den også blive en del af hændelser, hvor noget ikke fungerer som forventet. 

Hvor opstår ansvarsproblemet?

Når en hændelse undersøges i en klinik, kan det være nødvendigt at afklare, hvilken rolle forskellige faktorer spillede.

Hvis KI var involveret, kan spørgsmål opstå som:

• hvad systemet faktisk gjorde i situationen

• hvordan resultatet fra systemet blev præsenteret

• hvordan medarbejdere tolkede eller brugte systemets output

Uden en struktureret undersøgelse kan det være svært at forstå, om teknologien:

• påvirkede beslutningsgrundlaget

• bidrog til misforståelser

• eller bare var en del af konteksten uden direkte betydning

Undersøgelsen handler derfor først og fremmest om at rekonstruere hændelsesforløbet.

Almindelige misforståelser

«Hvis KI var involveret, er teknologien årsagen»

Hændelser i klinisk arbejde har ofte flere årsager.

KI kan have været én faktor i situationen, men det betyder ikke nødvendigvis, at teknologien alene forklarer hændelsen.

«Undersøgelsen skal være teknisk»

I mange tilfælde handler undersøgelsen mere om arbejdsprocesser end om algoritmer.

Det vigtigste er at forstå, hvordan systemet blev brugt i situationen.

«Dette gælder kun avanceret diagnostisk KI»

Også enklere KI-funktioner kan påvirke, hvordan information præsenteres eller tolkes.

Derfor kan sådanne systemer også være relevante i hændelsesanalyser.

«En hændelse betyder, at systemet bør fjernes»

Undersøgelsen bør først afklare, hvad der skete.

Derefter kan virksomheden vurdere, om brugen af systemet bør ændres, begrænses eller videreføres.

Hvad bør være på plads i praksis?

Når en hændelse, hvor KI kan være involveret, undersøges, kan nogle trin bidrage til en mere struktureret analyse.

Kortlæg hændelsesforløbet

Det første skridt er at rekonstruere, hvad der skete.

Dette kan indebære at afklare:

• hvilken opgave der blev udført

• hvilke systemer der blev brugt

• hvilke vurderinger der blev gjort af fagpersoner

Afklar teknologiens rolle

Derefter kan det vurderes, hvordan KI-systemet indgik i situationen.

Dette kan inkludere:

• hvilken analyse eller anbefaling systemet gav

• hvordan informationen blev præsenteret

• hvordan resultatet blev brugt i arbejdet

Vurder, hvordan resultatet blev tolket

Det kan være relevant at forstå, hvordan medarbejdere opfattede systemets output.

For eksempel:

• blev resultatet opfattet som et forslag

• blev det opfattet som en bekræftelse

• eller skabte det usikkerhed i vurderingen

Undersøg, om der findes lignende hændelser

Hvis lignende hændelser har opstået tidligere, kan dette indikere et mønster.

Det kan da være relevant at se nærmere på, hvordan systemet bruges i praksis.

Dokumentér læringspunkter

Formålet med undersøgelsen er ikke kun at forklare en enkelt hændelse, men også at identificere læring.

Dette kan bidrage til:

• bedre forståelse af teknologiens begrænsninger

• justering af arbejdsprocesser

• tydeligere kontrol af KI-brugen

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så KI kan bruges på en sikker, forudsigelig og efterprøvbar måde.

Afsluttende bemærkning

Når KI bliver en del af klinikkens arbejde, kan teknologien også blive en del af hændelser, der opstår i praksis.

En struktureret undersøgelse af sådanne hændelser gør det muligt at forstå teknologiens rolle og identificere, hvordan systemet bør bruges fremover.

Dette bidrager til bedre kontrol, mere læring og mere ansvarlig brug af kunstig intelligens i klinisk arbejde.