Hur man hanterar avvikelser kopplade till KI

Ingress

Artificiell intelligens används i allt större utsträckning i system som ingår i tandkliniker och andra hälsoföretags arbete. Tekniken kan bidra till analys av bilder, förslag till dokumentation eller automatisering av administrativa uppgifter.

Samtidigt kan KI-system ge oväntade eller felaktiga resultat. När detta inträffar uppstår behovet av att hantera avvikelser på ett strukturerat sätt.

Denna artikel förklarar vad avvikelser kopplade till KI kan vara, varför sådana situationer uppstår, och hur tandkliniker praktiskt kan följa upp upptäckta avvikelser.

Vad menas med KI-användning inom tandhälsa?

KI inom tandhälsa omfattar digitala system som analyserar information eller genererar förslag med hjälp av statistiska modeller eller maskininlärning.

Sådana system kan bland annat användas för:

• analys av röntgenbilder

• förslag till journaltext

• automatiserad patientkommunikation

• stöd till behandlingsplanering

• analys av klinikdata

I många fall fungerar KI som ett stödverktyg. Systemet genererar analyser eller förslag, medan den professionella bedömningen fortfarande görs av klinikern.

När sådana system ingår i klinikens arbete kan avvikelser uppstå om tekniken ger resultat som inte överensstämmer med den professionella bedömningen eller förväntad funktion. 

Var uppstår ansvarsfrågan?

Avvikelser kopplade till KI kan uppstå i flera situationer.

Detta kan exempelvis vara när:

• systemet identifierar fynd som inte finns

• systemet missar förhållanden som borde ha upptäckts

• KI genererar vilseledande eller felaktig text

• systemet beter sig annorlunda efter en uppdatering

När sådana situationer uppstår kan det vara svårt att förstå:

• om avvikelsen beror på systemet eller dess användning

• om det är en enskild händelse eller ett mönster

• hur avvikelsen bör följas upp

En strukturerad tillnärming till avvikelser gör det lättare att identifiera orsaker och bedöma konsekvenser.

Vanliga missförstånd

«En avvikelse betyder att KI-systemet är oanvändbart»

Alla teknologiska system kan ge fel eller oväntade resultat.

En enskild avvikelse betyder inte nödvändigtvis att systemet är olämpligt, men det kan vara ett signal att systemets roll bör granskas närmare.

«Avvikelser beror alltid på teknologin»

Vissa avvikelser kan uppstå eftersom systemet används i situationer det inte är utvecklat för.

Det kan därför vara nödvändigt att både bedöma tekniken och hur den används i praktiken.

«Detta är leverantörens ansvar»

Leverantören kan ha ansvar för tekniska fel i systemet.

Men företaget har ansvar för hur systemet används i kliniken och hur avvikelser upptäcks och hanteras.

«Avvikelser bör bara hanteras informellt»

Informell hantering kan göra det svårt att identifiera mönster eller återkommande problem.

En enkel struktur för avvikelsehantering kan ge bättre översikt över hur systemet fungerar i praktiken.

Vad bör vara på plats i praktiken?

Hantering av avvikelser kopplade till KI kan följa många av samma principer som annan kvalitetssäkring i kliniken.

Några element är särskilt relevanta.

Upptäckt av avvikelser

Avvikelser upptäcks ofta av anställda som använder systemet i praktiken.

Därför är det viktigt att användarna känner sig trygga med att ifrågasätta systemets output och rapportera oväntade resultat.

Dokumentation av händelsen

När en avvikelse upptäcks kan det vara användbart att dokumentera:

• vilken situation avvikelsen uppstod i

• vilken typ av resultat systemet gav

• hur resultatet bedömdes av fackperson

Sådan dokumentation gör det enklare att förstå vad som faktiskt hände.

Bedömning av orsaken

En avvikelse kan bero på flera förhållanden, till exempel:

• fel i systemet

• fel användning av systemet

• bristfällig förståelse för systemets begränsningar

En kort bedömning av möjliga orsaker kan bidra till att identifiera behov för åtgärder.

Uppföljning av återkommande händelser

Om liknande avvikelser uppstår flera gånger kan det indikera ett mönster.

I sådana situationer kan det vara relevant att:

• justera hur systemet används

• klargöra förhållanden med leverantören

• bedöma om användningen bör ändras eller begränsas

Klare ansvarslinjer

Det bör vara tydligt vem i verksamheten som följer upp avvikelser kopplade till KI-system.

Detta kan bidra till mer systematisk hantering av händelser.

Acteras roll i detta

Actera är etablerad för att ge tandhälsoföretag struktur kring ansvarsfull användning av KI.

Vi sysslar inte med teknologiutveckling eller kliniska beslut, utan med styrningsstruktur, ansvarslinjer och dokumentation – så att KI kan användas på ett säkert, förutsägbart och verifierbart sätt.

Avslutande betraktelse

Avvikelser kopplade till KI är en naturlig del av användningen av avancerade digitala system.

Det avgörande är inte att sådana händelser aldrig inträffar, utan hur de upptäcks, förstås och följs upp.

När kliniker hanterar avvikelser på ett strukturerat sätt blir det enklare att upprätthålla kontroll över teknologin och säkerställa ansvarsfullt användande i praktiken.