När AI bidrar till fel i kliniken

Ingress

Artificiell intelligens används i ökande grad i system som ingår i klinikers arbete. Tekniken kan bidra till analys av röntgenbilder, förslag till journaltext eller stöd i administrativa processer.

Samtidigt kan AI-system påverka hur information tolkas eller presenteras. I vissa situationer kan detta bidra till att fel uppstår i kliniskt arbete.

Denna artikel förklarar hur AI kan vara inblandad i fel i kliniken, varför sådana situationer kan uppstå och hur verksamheter kan hantera och lära av dem.

Vad menas med AI-användning inom tandvård?

AI inom tandvård inkluderar digitala system som analyserar information eller genererar förslag med hjälp av statistiska modeller eller maskininlärning.

Sådana system kan bland annat användas för:

• analys av röntgenbilder

• förslag till journaltext

• automatiserad patientkommunikation

• stöd för behandlingsplanering

• analys av klinikdata

I praktiken används sådana system ofta som beslutsstöd. De genererar analyser eller förslag som ingår i klinikerns bedömningsunderlag.

Trots att AI kan bidra med analyser eller strukturering av information, ligger den professionella bedömningen och beslutet fortfarande hos behandlaren. 

Var uppstår ansvarsfrågan?

När AI påverkar information eller analyser i kliniken kan det i vissa situationer bidra till att fel uppstår.

Detta kan till exempel vara när:

• ett system markerar fynd i en röntgenbild som inte är närvarande

• systemet förbiser förhållanden som borde ha upptäckts

• AI genererar text som innehåller fel eller missvisande formuleringar

• systemets rekommendationer påverkar prioritering eller bedömning

I sådana situationer kan det vara svårt att avgöra:

• vilken roll tekniken spelade i händelsen

• hur felet uppstod

• hur liknande situationer kan förebyggas

När AI ingår i arbetsprocesser blir det därför viktigt att kunna analysera händelser där teknik kan ha påverkat utfallet.

Vanliga missförstånd

«Om AI är inblandad, är tekniken orsaken till felet»

Fel i kliniskt arbete uppstår ofta som följd av flera faktorer.

AI kan ha påverkat informationen i situationen, men det betyder inte nödvändigtvis att tekniken ensam är orsaken.

«Fel kopplade till AI är annorlunda än andra fel»

Trots att tekniken är ny kan hanteringen av sådana händelser följa många av samma principer som andra kliniska avvikelser.

Det handlar om att förstå vad som hände och hur liknande situationer kan förebyggas.

«Om AI används som stöd, kan den inte bidra till fel»

Även stödverktyg kan påverka hur information presenteras eller uppfattas.

Detta kan i vissa situationer påverka hur bedömningar görs.

«Fel betyder att AI inte bör användas»

Enskilda händelser betyder inte nödvändigtvis att tekniken är olämplig.

Men de kan ge viktig information om hur systemet bör användas eller kontrolleras.

Vad bör vara på plats i praktiken?

När AI kan ha bidragit till ett fel i kliniken, kan vissa principer bidra till en strukturerad uppföljning.

Kartläggning av händelsen

Det första steget är att förstå vad som faktiskt hände.

Detta kan innebära att klargöra:

• vilken roll systemet spelade

• vilken information systemet gav

• hur denna information bedömdes av fackpersoner

Bedömning av teknikens roll

I vissa fall kan AI ha haft direkt betydelse för händelsen.

I andra fall kan tekniken ha varit en mindre faktor i en större situation.

En nyanserad bedömning gör det lättare att förstå händelsen.

Uppföljning av systemet

Om händelsen är kopplad till systemets funktion kan det vara relevant att:

• undersöka om liknande händelser har inträffat tidigare

• klargöra förhållanden med leverantören

• överväga om användningen av systemet bör justeras

Lärande i organisationen

Händelser där AI har varit inblandad kan ge viktig inlärning om hur tekniken påverkar arbete i praktiken.

Detta kan bidra till bättre förståelse av systemets begränsningar.

Dokumentation av händelsen

Kort dokumentation av händelsen och bedömningarna som gjorts kan bidra till bättre översikt över hur systemet fungerar över tid.

Acteras roll i detta

Actera är etablerad för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av AI.

Vi arbetar inte med teknikutveckling eller kliniska beslut, men med styrningsstruktur, ansvarslinjer och dokumentation – så att AI kan användas på ett säkert, förutsägbart och efterprövbart sätt.

Avslutande reflektion

När AI blir en del av klinikens arbete kan tekniken också bli en del av händelser där fel uppstår.

Det viktigaste är inte nödvändigtvis om AI var inblandad, utan hur händelsen förstås och följs upp.

En strukturerad tillnärmning till sådana situationer kan bidra till bättre insikt i hur teknik påverkar klinisk praxis och hur den kan användas mer ansvarsfullt över tid.