När kliniken bör sluta använda ett KI-verktyg

Ingress

Artificiell intelligens kan bidra till analys, dokumentation och effektivitet i tandkliniker. Samtidigt är KI-verktyg inte statiska system. De kan ändras genom uppdateringar, nya datagrunder eller förändringar i hur de används.

I vissa situationer kan det därför vara nödvändigt att stoppa eller pausa användningen av ett KI-verktyg.

Denna artikel förklarar vilka situationer som kan göra detta aktuellt och hur tandkliniker kan bedöma när teknikanvändning inte längre är försvarlig.

Vad menas med KI-användning i tandvård?

KI-användning i tandvård omfattar digitala system som analyserar information eller genererar förslag med hjälp av statistiska modeller eller maskininlärning.

Sådana system kan bland annat användas till:

• analys av röntgenbilder

• förslag till journaltext

• automatiserad patientkommunikation

• stöd vid behandlingsplanering

• analys av klinikdata

I de flesta fall används KI som ett stödsystem. Systemet genererar analyser eller förslag, men den professionella bedömningen ligger fortfarande hos klinikern.

När sådana verktyg ingår i klinikens arbetsprocesser, blir det viktigt att följa upp hur de fungerar över tid. Om tekniken inte längre fungerar som förväntat kan det vara nödvändigt att ompröva användningen. 

Var uppstår ansvarsfrågan?

Ansvarsfrågor uppstår när ett KI-verktyg påverkar klinikens arbete men samtidigt visar tecken på att fungera annorlunda än förväntat.

Detta kan till exempel hända när:

• systemet ger oväntade eller obegripliga resultat

• uppdateringar förändrar hur systemet fungerar

• anställda inte längre förstår hur resultaten ska tolkas

• systemet används för uppgifter det inte var avsett för

I sådana situationer kan det vara svårt att förklara:

• hur systemets output bör bedömas

• vilken roll tekniken spelar i arbetsprocessen

• hur fel kan upptäckas och korrigeras

När sådana frågor inte kan besvaras på ett tillfredsställande sätt kan det vara ett tecken på att användningen bör stoppas eller omprövas.

Vanliga missförstånd

«Ett KI-verktyg bör stoppas bara om det har tekniska fel»

Tekniska fel är en möjlig orsak till att stoppa ett system, men inte den enda.

Även organisatoriska förhållanden kan göra ett verktyg olämpligt att använda, till exempel bristande förståelse för systemets roll eller otillräcklig kontroll.

«Om leverantören fortfarande erbjuder systemet är det säkert att använda»

Leverantören utvecklar tekniken, men kliniken har ansvar för hur systemet används i praktiken.

Ett verktyg kan därför vara tillgängligt på marknaden men ändå inte lämpligt i en viss klinisk kontext.

«Att stoppa ett system betyder att tekniken har misslyckats»

Att pausa eller stoppa ett verktyg kan också vara en del av normal teknikhantering.

Det kan ge utrymme för att bedöma systemet närmare, klargöra förändringar eller justera användningen.

«Detta gäller bara avancerade KI-system»

Även relativt enkla KI-funktioner kan påverka dokumentation eller arbetsprocesser.

Därför kan också sådana system vara aktuella att stoppa om användningen blir oklar eller svår att kontrollera.

Vad bör vara på plats i praktiken?

När en klinik överväger om användningen av ett KI-verktyg bör stoppas, kan vissa indikatorer vara särskilt relevanta.

Oförklarliga eller oförutsägbara resultat

Om systemets output ändrar sig utan att orsaken är känd kan det bli svårt att bedöma resultaten professionellt.

Detta kan vara ett tecken på att användningen bör pausas tills orsaken är klarlagd.

Bristande förståelse inom organisationen

Om anställda inte längre förstår hur systemet fungerar eller hur resultaten ska tolkas, kan det försvaga den mänskliga kontrollen.

I sådana situationer kan det vara nödvändigt att tillfälligt stoppa användningen.

Förändringar i systemet eller datagrunden

Uppdateringar eller nya funktioner kan ändra hur ett KI-system fungerar.

Om sådana förändringar påverkar arbetsprocesser eller bedömningar kan det vara nödvändigt att utvärdera användningen innan systemet tas vidare i drift.

Upprepade avvikelser eller fel

Om anställda upplever upprepade fel eller oväntade resultat kan det indikera att systemet inte fungerar stabilt i den aktuella kontexten.

Oklar roll i arbetsprocessen

Om det blir oklart hur systemet påverkar beslut eller dokumentation kan det vara svårt att upprätthålla tydligt ansvar.

I sådana situationer kan det vara nödvändigt att begränsa eller stoppa användningen.

Acteras roll i detta

Actera är etablerad för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av KI.

Vi arbetar inte med teknik­utveckling eller kliniska beslut, utan med styrningsstruktur, ansvars­linjer och dokumentation – så att KI kan användas på ett säkert, förutsägbart och spårbart sätt.

Avslutande betraktelse

KI-verktyg kan bidra till effektivitet och stöd i kliniskt arbete, men tekniken måste också kunna kontrolleras och förstås i praktiken.

Om ett system inte längre fungerar som verksamheten förväntar eller när kontrollen över användningen blir otydlig kan det vara rätt att stoppa eller pausa användningen.

Detta är inte nödvändigtvis ett tecken på att tekniken misslyckas – men på att verksamheten tar ansvar för hur den används.