Afvigelsessystemer og AI: Hvad skal registreres

Indledning

Kunstig intelligens bliver en del af stadig flere systemer i tandplejen. Teknologien kan bidrage til analyse af røntgenbilleder, generering af journaltekst eller støtte i administrative processer.

Når AI indgår i klinikkens arbejdsprocesser, kan den også blive en del af situationer, hvor afvigelser opstår. I sådanne tilfælde bliver det vigtigt at forstå, hvilken rolle teknologien spillede.

Denne artikel forklarer, hvordan afvigelsessystemer kan håndtere hændelser, hvor AI er involveret, og hvilken information der bør registreres for at gøre hændelser forståelige efterfølgende.

Hvad menes med AI-brug i tandpleje?

AI i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Eksempler på brug kan være:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatisk patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I mange tilfælde fungerer sådanne systemer som støtteværktøjer. De genererer analyser eller forslag, som indgår i klinikerens vurderingsgrundlag.

Når AI indgår i sådanne processer, kan teknologien også påvirke hændelser, hvor noget ikke fungerer som forventet. Derfor kan det være relevant at registrere teknologiens rolle i klinikkens afvigelsessystem. 

Hvor opstår ansvarsspørgsmålet?

Ansvarsspørgsmål opstår, når det er uklart, hvilken rolle et AI-system spillede i en hændelse.

Dette kan for eksempel være, når:

• et system markerer fund, der ikke er til stede

• et system overser forhold, der burde være identificeret

• AI genererer tekst, der indeholder fejl

• systemet påvirker, hvordan information tolkes eller prioriteres

Uden tilstrækkelig registrering kan det være vanskeligt at forstå:

• om AI faktisk påvirkede hændelsen

• hvordan systemet blev brugt i situationen

• om lignende hændelser kan opstå igen

Registrering i afvigelsessystemet gør det muligt at analysere sådanne situationer mere systematisk.

Almindelige misforståelser

«AI skal ikke registreres særskilt i afvigelsessystemet»

Hvis teknologien ikke registreres som en del af hændelsen, kan det være vanskeligt at identificere mønstre over tid.

Derfor kan det være nyttigt at synliggøre, når AI har været involveret.

«Kun tekniske fejl i systemet bør registreres»

Afvigelser kan også opstå, fordi systemet bruges i situationer, det ikke er udviklet til.

Derfor kan både teknologiske og organisatoriske forhold være relevante.

«Afvigelser betyder, at AI-systemet ikke fungerer»

En afvigelse kan skyldes flere forhold.

Registrering handler først og fremmest om at forstå, hvad der skete, ikke om at konkludere med årsagen.

«Dette er leverandørens ansvar»

Leverandøren kan følge op på tekniske forhold i systemet.

Men virksomheden må selv have overblik over, hvordan teknologien påvirker arbejdet i praksis.

Hvad bør være på plads i praksis?

Når AI er involveret i en hændelse, kan nogle typer information være særligt relevante at registrere i afvigelsessystemet.

Hvilket system der var involveret

Det bør fremgå, hvilket AI-system eller hvilken funktion der blev brugt i situationen.

Dette gør det muligt at identificere, om lignende hændelser opstår i samme system.

Hvad systemet faktisk gjorde

Det kan være nyttigt at registrere:

• hvilken analyse eller anbefaling systemet gav

• hvordan resultatet blev præsenteret

• hvordan systemet blev brugt i situationen

Dette bidrager til bedre forståelse af hændelsen.

Hvordan resultatet blev vurderet

Det bør også fremgå, hvordan fagpersoner vurderede systemets output.

Dette kan for eksempel være:

• om resultatet blev lagt til grund

• om det blev overstyret

• om det skabte usikkerhed i vurderingen

Kontekst for hændelsen

Situationen, hvor systemet blev brugt, kan være vigtig for at forstå, hvad der skete.

Dette kan inkludere:

• hvilken type opgave systemet blev brugt til

• hvor i arbejdsprocessen det indgik

• hvilke andre faktorer der påvirkede hændelsen

Eventuel opfølgning

Afvigelsessystemet bør også kunne registrere hvilke tiltag, der vurderes eller gennemføres efter hændelsen.

Dette kan for eksempel være:

• dialog med leverandør

• justering af brug

• øget opmærksomhed omkring systemets begrænsninger

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af AI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarsforhold og dokumentation – så AI kan bruges på en tryg, forudsigelig og eftergørlig måde.

Afsluttende betragtning

Når AI tages i brug i klinikkens arbejde, bliver teknologien også en del af hændelser, der opstår i praksis.

Ved at registrere relevant information om AI i afvigelsessystemer kan virksomheder bedre forstå, hvordan teknologien påvirker arbejdet.

Dette giver et bedre grundlag for læring, forbedring og mere ansvarlig brug af kunstig intelligens i klinisk praksis.