Læring efter hændelser hvor AI er anvendt

Indledning

Kunstig intelligens anvendes i stigende grad i systemer, der indgår i klinikkers arbejde. Teknologien kan bidrage til analyse af røntgenbilleder, generere forslag til journaltekst eller støtte administrative processer.

Når en hændelse opstår, hvor AI har været involveret, opstår der ikke kun et behov for at forstå, hvad der skete. Hændelsen kan også give vigtig læring om, hvordan teknologien fungerer i praksis.

Denne artikel forklarer, hvordan tandklinikker kan bruge sådanne hændelser som grundlag for organisatorisk læring og forbedring af AI-anvendelsen.

Hvad menes med AI-anvendelse i tandpleje?

AI i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Sådanne systemer kan blandt andet anvendes til:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af kliniske data

I praksis fungerer sådanne systemer ofte som støtteværktøjer. De genererer analyser eller forslag, der kan indgå i klinikerens vurderingsgrundlag.

Når AI indgår i klinikkens arbejdsprocesser på denne måde, kan den også blive en del af situationer, hvor noget ikke fungerer som forventet. Sådanne hændelser kan give vigtig indsigt i, hvordan systemet påvirker arbejdet. 

Hvor opstår ansvarsspørgsmålet?

Når en hændelse analyseres i eftertid, kan der være behov for at afklare, hvordan forskellige faktorer påvirkede situationen.

Hvis AI var involveret, kan spørgsmål opstå såsom:

• hvilken information systemet gav

• hvordan informationen blev præsenteret

• hvordan resultatet blev tolket af medarbejdere

Uden en struktureret opfølgning kan sådanne hændelser blive behandlet som enkelttilfælde.

Når hændelser analyseres systematisk, kan de derimod bidrage til bedre forståelse af, hvordan teknologien påvirker klinikkens arbejde.

Almindelige misforståelser

«Hændelsen er løst, når årsagen er identificeret»

At forstå, hvad der skete, er kun første skridt.

Læring handler også om at identificere, hvordan organisationen kan bruge erfaringen til at forbedre praksis.

«Læring handler kun om tekniske forbedringer»

Nogle gange kan tekniske forhold være en del af forklaringen.

Men ofte handler læring også om arbejdsprocesser, oplæring og hvordan systemet bruges i praksis.

«Enkelthændelser giver lidt læring»

Selv enkeltstående hændelser kan give vigtig indsigt i, hvordan teknologi påvirker arbejdet i klinikken.

Dette kan bidrage til bedre forståelse af systemets begrænsninger.

«Læring sker automatisk efter en hændelse»

Erfaringer fra hændelser fører ikke nødvendigvis til læring uden en struktureret opfølgning.

Derfor kan det være nyttigt at have rutiner for, hvordan hændelser analyseres og diskuteres i organisationen.

Hvad bør være på plads i praksis?

Når klinikken ønsker at lære af hændelser hvor AI er anvendt, kan nogle principper bidrage til mere systematisk læring.

Dokumentation af hændelsen

Det første skridt er at sikre, at hændelsen er dokumenteret på en måde, der gør det muligt at forstå, hvad der skete.

Dette kan inkludere:

• hvilke systemer der var involveret

• hvilken rolle teknologien spillede

• hvordan situationen udviklede sig

Analyse af hændelsesforløbet

En struktureret gennemgang kan bidrage til at identificere, hvordan forskellige faktorer påvirkede hændelsen.

Dette kan inkludere både:

• teknologiens rolle

• menneskelige vurderinger

• organisatoriske forhold

Identificering af læringspunkter

Formålet med analysen er at identificere erfaringer, der kan være relevante for fremtidige praksis.

Dette kan for eksempel være:

• bedre forståelse af systemets begrænsninger

• justering af hvordan systemet bruges

• behov for tydeligere kontrol eller opfølgning

Deling af erfaringer i organisationen

Læring sker ofte bedst, når erfaringer deles.

Gennemgang af hændelser i fagmøder eller interne diskussioner kan bidrage til bedre forståelse af, hvordan AI påvirker arbejdet.

Opfølgning over tid

Nogle læringspunkter kan føre til ændringer i praksis.

Derfor kan det være nyttigt at følge op på, om tiltag faktisk påvirker, hvordan systemet bruges.

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af AI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så AI kan bruges på en sikker, forudsigelig og efterprøvelig måde.

Afsluttende betragtninger

Når AI tages i brug i klinisk arbejde, kan hændelser, hvor teknologien er involveret, opstå.

Sådanne situationer giver ikke kun behov for forklaring, men også mulighed for læring.

Ved at analysere hændelser systematisk kan tandklinikker udvikle bedre forståelse af, hvordan AI påvirker praksis, og bruge denne indsigt til at forbedre fremtidig anvendelse af teknologien.