När AI-verktyg uppdateras: Vem har ansvaret?

Ingress

Artificiell intelligens ingår idag i många av systemen som används inom tandvården. Det kan röra sig om analys av röntgenbilder, förslag till journaltext eller automatiserade administrativa funktioner.

Sådana system uppdateras regelbundet av leverantörer. Uppdateringar kan ändra hur systemet fungerar, vilka analyser det gör eller hur resultat presenteras.

Denna artikel förklarar vad som händer när AI-verktyg uppdateras, vilka ansvarsfrågor som kan uppstå och hur tandkliniker kan förhålla sig till sådana förändringar.

Vad menas med AI-användning inom tandvård?

AI inom tandvård omfattar system som analyserar data eller genererar förslag med hjälp av statistiska modeller eller maskininlärning.

Exempel kan vara:

• analys av röntgenbilder

• förslag till journaltext

• automatiserad patientkommunikation

• stöd för behandlingsplanering

• analys av klinikdata

I många fall är sådana funktioner integrerade i befintliga journalsystem eller klinikprogramvara. AI är således inte nödvändigtvis ett separat verktyg, utan en del av de system som används i dagligt arbete.

När sådana system uppdateras kan också AI-funktioner förändras. Detta gör uppföljning av uppdateringar relevant för verksamhetens styrning av teknologin.

Var uppstår ansvarsfrågan?

Ansvarsfrågor uppstår eftersom AI-system ofta utvecklas och uppdateras av leverantörer, medan de används operativt i kliniken.

När en uppdatering sker kan det till exempel innebära att:

• algoritmen analyserar data på ett nytt sätt

• systemet presenterar nya typer av förslag

• nya funktioner introduceras

• befintliga funktioner ändras

I sådana situationer kan det bli oklart vem som har ansvar för att förstå och följa upp förändringen.

I praktiken delas ansvaret:

• Leverantören har ansvar för utveckling och teknisk uppdatering av systemet.

• Kliniken har ansvar för hur systemet används i verksamheten.

Detta innebär att uppdateringar inte bara är tekniska händelser, utan även organisatoriska.

Vanliga missförstånd

«Uppdateringar är leverantörens ansvar enbart»

Leverantören uppdaterar systemet, men verksamheten måste fortfarande förstå hur förändringen påverkar egen användning.

Detta är särskilt viktigt om systemet påverkar arbetsprocesser eller beslutsunderlag.

«Uppdateringar är bara tekniska förbättringar»

Vissa uppdateringar kan vara små och tekniska, men andra kan ändra hur systemet analyserar information eller presenterar resultat.

Sådana ändringar kan påverka hur anställda använder systemet.

«Om systemet uppdateras automatiskt, behöver vi inte följa med»

Automatiska uppdateringar kan göra förändringar mindre synliga.

Därför kan det vara viktigt att verksamheten fortfarande har översikt över vad som förändras.

«Detta gäller bara avancerade AI-system»

Även relativt enkla AI-funktioner kan förändras genom uppdateringar.

Till exempel kan system som föreslår journaltext eller analyserar data få nya modeller eller funktioner.

Vad bör vara på plats i praktiken?

När AI-verktyg uppdateras handlar uppföljning främst om att förstå hur förändringen påverkar verksamheten.

Vissa organisatoriska principer kan bidra till bättre kontroll.

Översikt över systemuppdateringar

Verksamheten bör vara medveten om när system uppdateras och vad uppdateringen innebär.

Detta kan till exempel vara information från leverantören om nya funktioner eller ändringar.

Bedömning av påverkan på arbetsprocesser

Om uppdateringen påverkar hur systemet används på kliniken kan det vara relevant att bedöma hur detta påverkar arbetsprocesser.

Uppföljning av erfarenheter från användning

Anställda kan ofta upptäcka förändringar i systemets beteende först.

Därför kan erfarenheter från daglig användning ge viktig information om hur uppdateringen påverkar arbetet.

Klart definierade ansvarslinjer

Det kan vara nyttigt att ha definierat vem i verksamheten som följer upp systemuppdateringar.

Detta kan inkludera ansvar för:

• översikt över AI-system

• uppföljning av förändringar

• bedömning av konsekvenser för praktik

Dialog med leverantör

Vid större förändringar kan det också vara relevant att klara frågor med leverantören om hur systemet fungerar efter uppdateringen.

Acteras roll i detta

Actera har etablerats för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av AI.

Vi arbetar inte med teknikutveckling eller kliniska beslut, men med styrstruktur, ansvarslinjer och dokumentation – så att AI kan användas på ett säkert, förutsägbart och spårbart sätt.

Avslutande tankar

AI-system är inte statiska teknologier. De utvecklas genom uppdateringar, nya datagrunder och förändringar i användning.

För tandkliniker innebär detta att ansvaret för teknikanvändning inte slutar vid implementeringen. Det innebär också att förstå och följa hur systemen utvecklas över tid.

Sådan uppföljning bidrar till bättre kontroll, tydligare ansvar och mer stabil användning av AI i klinisk drift.