Hur man undersöker händelser där KI är inblandad

Inledning

Artificiell intelligens ingår i allt fler system inom tandvården. Tekniken kan bidra till analys av röntgenbilder, generera förslag på journaltext eller stödja administrativa processer.

När en oönskad händelse inträffar på kliniken kan KI i vissa fall ha varit en del av situationen. Det kan då bli nödvändigt att undersöka vilken roll tekniken faktiskt spelade.

Den här artikeln förklarar hur tandkliniker kan undersöka händelser där KI är inblandad och hur sådana analyser kan bidra till bättre förståelse och kontroll av tekniken.

Vad menas med KI-användning inom tandvården?

KI inom tandvården omfattar digitala system som analyserar information eller genererar förslag med hjälp av statistiska modeller eller maskininlärning.

Exempel på användning kan vara:

• analys av röntgenbilder

• förslag på journaltext

• automatiserad patientkommunikation

• stöd för behandlingsplanering

• analys av klinikdata

I många fall fungerar sådana system som stödverktyg. De genererar analyser eller förslag som är en del av klinikerns beslutsunderlag.

När tekniken ingår i arbetsprocesser på detta sätt kan den också bli en del av händelser där något inte fungerar som förväntat. 

Var uppstår ansvarsfrågan?

När en händelse undersöks på en klinik kan det vara nödvändigt att klargöra vilken roll olika faktorer spelade.

Om KI var inblandad kan frågor uppstå som:

• vad systemet faktiskt gjorde i situationen

• hur resultatet från systemet presenterades

• hur personalen tolkade eller använde systemets output

Utan en strukturerad undersökning kan det vara svårt att förstå om tekniken:

• påverkade beslutsunderlaget

• bidrog till missförstånd

• eller bara var en del av kontexten utan direkt betydelse

Undersökningen handlar därför främst om att rekonstruera händelseförloppet.

Vanliga missförstånd

«Om KI var inblandad är tekniken orsaken»

Händelser i kliniskt arbete har ofta flera orsaker.

KI kan ha varit en faktor i situationen, men det betyder inte nödvändigtvis att tekniken ensam förklarar händelsen.

«Undersökningen måste vara teknisk»

I många fall handlar undersökningen mer om arbetsprocesser än om algoritmer.

Det viktigaste är att förstå hur systemet användes i situationen.

«Detta gäller bara avancerad diagnostisk KI»

Även enklare KI-funktioner kan påverka hur information presenteras eller tolkas.

Därför kan sådana system också vara relevanta i händelseanalyser.

«En händelse betyder att systemet bör tas bort»

Undersökningen ska först klargöra vad som hände.

Därefter kan verksamheten överväga om användningen av systemet bör ändras, begränsas eller fortsättas.

Vad bör finnas på plats i praktiken?

När en händelse där KI kan vara inblandad undersöks kan vissa steg bidra till en mer strukturerad analys.

Kartlägg händelseförloppet

Det första steget är att rekonstruera vad som hände.

Detta kan innebära att klargöra:

• vilken uppgift som utfördes

• vilka system som användes

• vilka bedömningar som gjordes av yrkesverksamma

Klargör teknikens roll

Därefter kan det bedömas hur KI-systemet ingick i situationen.

Detta kan inkludera:

• vilken analys eller rekommendation systemet gav

• hur informationen presenterades

• hur resultatet användes i arbetet

Bedöm hur resultatet tolkades

Det kan vara relevant att förstå hur personalen uppfattade systemets output.

Till exempel:

• blev resultatet uppfattat som ett förslag

• betraktades det som en bekräftelse

• eller skapade det osäkerhet i bedömningen

Undersök om liknande händelser finns

Om liknande händelser har inträffat tidigare kan detta indikera ett mönster.

Det kan då vara relevant att granska hur systemet används i praktiken.

Dokumentera lärandepunkter

Syftet med undersökningen är inte bara att förklara en enskild händelse utan också att identifiera lärdomar.

Detta kan bidra till:

• bättre förståelse av teknikens begränsningar

• justering av arbetsprocesser

• tydligare kontroll av KI-användningen

Acteras roll i detta

Actera är etablerat för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av KI.

Vi arbetar inte med teknikutveckling eller kliniska beslut, utan med styrningsstruktur, ansvarslinjer och dokumentation – så att KI kan användas på ett säkert, förutsägbart och efterprövbart sätt.

Avslutande reflektion

När KI blir en del av klinikens arbete kan tekniken också bli en del av de händelser som uppstår i praktiken.

En strukturerad undersökning av sådana händelser möjliggör en förståelse av teknikens roll och identifierar hur systemet bör användas framöver.

Detta bidrar till bättre kontroll, mer lärdomar och mer ansvarsfull användning av artificiell intelligens i kliniskt arbete.