Lärdomar efter incidenter där AI har använts

Inledning

Artificiell intelligens används i allt större utsträckning i system som ingår i klinikernas arbete. Teknologin kan bidra till analys av röntgenbilder, generera förslag till journaltexter eller stödja administrativa processer.

När en incident uppstår där AI har varit inblandad, uppstår inte bara ett behov av att förstå vad som hände. Incidenten kan också ge viktig lärdom om hur teknologin fungerar i praktiken.

Denna artikel förklarar hur tandkliniker kan använda sådana incidenter som grund för organisatoriskt lärande och förbättring av AI-användningen.

Vad menas med AI-användning inom tandvård?

AI inom tandvård omfattar digitala system som analyserar information eller genererar förslag med hjälp av statistiska modeller eller maskininlärning.

Sådana system kan bland annat användas till:

• analys av röntgenbilder

• förslag till journaltexter

• automatiserad patientkommunikation

• stöd för behandlingsplanering

• analys av klinikdata

I praktiken fungerar sådana system ofta som stödverktyg. De genererar analyser eller förslag som kan ingå i klinikerns bedömningsunderlag.

När AI ingår i klinikens arbetsprocesser på detta sätt kan den också bli en del av situationer där något inte fungerar som förväntat. Sådana incidenter kan ge viktig insikt i hur systemet påverkar arbetet. 

Var uppstår ansvarsfrågan?

När en incident analyseras i efterhand kan det finnas ett behov av att klargöra hur olika faktorer påverkade situationen.

Om AI var inblandad kan frågor uppstå som:

• vilken information systemet gav

• hur informationen presenterades

• hur resultatet tolkades av personalen

Utan en strukturerad uppföljning kan sådana incidenter behandlas som enskilda fall.

När incidenter analyseras systematiskt kan de däremot bidra till en bättre förståelse av hur teknologin påverkar klinikens arbete.

Vanliga missförstånd

«Incidenten är löst när orsaken identifierats»

Att förstå vad som hände är bara första steget.

Lärande handlar också om att identifiera hur organisationen kan använda erfarenheten för att förbättra praxis.

«Lärande handlar bara om tekniska förbättringar»

Ibland kan tekniska aspekter vara en del av förklaringen.

Men ofta handlar lärande också om arbetsprocesser, utbildning och hur systemet används i praktiken.

«Enstaka incidenter ger lite lärande»

Även enstaka incidenter kan ge viktig insikt i hur teknologi påverkar arbetet i kliniken.

Detta kan bidra till en bättre förståelse av systemets begränsningar.

«Lärande sker automatiskt efter en incident»

Erfarenheter från incidenter leder inte nödvändigtvis till lärande utan en strukturerad uppföljning.

Därför kan det vara användbart att ha rutiner för hur incidenter analyseras och diskuteras i organisationen.

Vad bör finnas på plats i praktiken?

När kliniken vill lära av incidenter där AI har använts kan vissa principer bidra till mer systematiskt lärande.

Dokumentation av incidenten

Det första steget är att säkerställa att incidenten dokumenteras på ett sätt som gör det möjligt att förstå vad som hände.

Detta kan inkludera:

• vilka system som var inblandade

• vilken roll teknologin spelade

• hur situationen utvecklade sig

Analys av händelseförloppet

En strukturerad genomgång kan hjälpa till att identifiera hur olika faktorer påverkade incidenten.

Detta kan inkludera både:

• teknologins roll

• mänskliga bedömningar

• organisatoriska förhållanden

Identifiering av lärdomspunkter

Syftet med analysen är att identifiera erfarenheter som kan vara relevanta för framtida praxis.

Detta kan till exempel vara:

• bättre förståelse av systemets begränsningar

• justering av hur systemet används

• behov av tydligare kontroll eller uppföljning

Dela erfarenheter i organisationen

Lärande sker oftast bäst när erfarenheter delas.

Genomgång av incidenter i fackliga möten eller interna diskussioner kan bidra till en bättre förståelse av hur AI påverkar arbetet.

Uppföljning över tid

Vissa lärdomspunkter kan leda till förändringar i praxis.

Därför kan det vara nyttigt att följa upp om åtgärder faktiskt påverkar hur systemet används.

Acteras roll i detta

Actera har etablerats för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av AI.

Vi arbetar inte med teknikutveckling eller kliniska beslut, utan med styrningsstruktur, ansvarslinjer och dokumentation – så att AI kan användas på ett säkert, förutsägbart och granskningsbart sätt.

Avslutande tanke

När AI används i kliniskt arbete kan incidenter där teknologin är inblandad uppstå.

Sådana situationer skapar inte bara ett behov av förklaring utan också en möjlighet till lärande.

Genom att analysera incidenter systematiskt kan tandkliniker utveckla en bättre förståelse av hur AI påverkar praxis, och använda denna insikt för att förbättra framtida användning av teknologin.