Ansvarig AI på tandkliniken: vilka roller måste vara tydliga?

AI-funktioner blir allt mer tillgängliga på tandkliniker – ofta som stöd i text, arbetsflöde, planering och patientkommunikation, och ibland i mer kliniknära bedömningsprocesser. I många fall är AI "inbyggt" i verktyg som kliniken redan använder och upplevs därför inte som en separat introduktion.

Det är just denna gradvisa införandet som gör rollfördelningar kritiska. När AI påverkar hur arbete utförs, blir det nödvändigt att veta vem som äger användningen, vem som kan godkänna användningsområden och vem som ska följa upp avvikelser och ändringar.

Denna artikel beskriver vilka roller som typiskt bör vara tydliga för att använda AI ansvarsfullt på en tandklinik – och hur rolloklarhet ofta uppstår, även i annars välskötta verksamheter.

Vad menas med ansvarsfull AI och roller på en tandklinik?

"Ansvarsfull AI" inom tandvård handlar inte om att vara för eller emot teknologin. Det handlar om att kunna förklara och kontrollera hur AI används, på ett sätt som upprätthåller professionell kvalitet, patientsäkerhet, personuppgifter och verksamhetens styrning.

I praktiken betyder det att kliniken har kontroll över:

• vad AI används till (användningsområden och begränsningar)

• vem som har beslutsmyndighet (vem kan införa och ändra användningen)

• hur mänsklig kontroll faktiskt utövas (inte bara förutsätts)

• hur fel och avvikelser fångas upp och hanteras

• vad som dokumenteras, så att praxis kan verifieras i eftertid

"Roller" i detta sammanhang är inte främst befattningstitlar, utan tydliga funktioner: vem gör vad, och på vilket mandat. En liten klinik kan samla flera roller hos få personer, men rollerna måste ändå vara explicita – annars blir ansvaret personberoende och situationsstyrt.

Var uppstår ansvarighetsfrågan?

Ansvarighetsfrågor uppstår ofta inte vid första användningen av ett AI-verktyg, utan när AI blir en del av "så gör vi det hos oss". Då blir det oklart vad som är beslutat, vad som är en vana och vad som är leverantörens standardinställningar.

Typiska ställen där rolloklarhet uppstår:

• När AI används utan beslutspunkt
  En funktion aktiveras i ett system eller någon börjar använda AI för att skriva utkast. Det kan vara effektivt, men utan en tydlig "vem godkänner detta"-mekanism blir användningen informell.

• När professionellt ansvar och systemansvar blandas
  Den som är professionellt ansvarig för innehållet (t.ex. patientinformation eller journaltext) är inte nödvändigtvis den som äger systemet eller kan ändra inställningar. Om detta inte klargörs blir kontroll och uppföljning fragmenterad.

• När "mänsklig kontroll" blir en förutsättning
  Kliniken kan förutsätta att "tandläkaren alltid läser över". I praktiken kan tidspress och förtroende för systemets förslag göra kontrollen mindre aktiv. Utan tydliga kontrollpunkter och ansvar för kvalitetssäkring blir det svårt att återkontrollera.

• När avvikelser saknar en tydlig mottagare
  Om anställda upptäcker fel, partiskheter eller olyckliga formuleringar: Vem ska underrättas? Vem bedömer allvaret? Vem kan stoppa användningen eller ändra rutiner? Utan detta löses ofta avvikelser "i stunden", utan lärdomar.

• När leverantörsstyrningen blir för svag
  AI förändras genom uppdateringar, nya funktioner och ändrat användargränssnitt. Om ingen har ansvar för ändringskontroll kan kliniken i praktiken få ny funktionalitet utan att ha bedömt konsekvenserna.

Vanliga missförstånd

"Detta är ett IT-ansvar"

IT (internt eller externt) kan äga drift och tillgång, men AI-användning påverkar fack, patientkontakt, dokumentation och arbetsprocesser. Det betyder att ansvaret måste förankras i ledning och linje – med IT som stödjefunktion där det är relevant.

"Om leverantören har skapat det, har leverantören ansvaret"

Leverantören kan ha ansvar för produkt och funktionalitet, men kliniken har ansvar för hur verktyget används i praktiken: vilka användningsområden som är tillåtna, hur anställda arbetar med utkast och förslag, vilka kontrollpunkter som gäller och hur avvikelser hanteras.

"Vi är för små för att ha roller – vi bara gör det"

Små kliniker behöver ofta tydligare rollbeskrivningar, inte färre. När få personer täcker många uppgifter ökar risken för att kritiska uppgifter "faller mellan stolarna" eller löses olika från gång till gång.

"Det räcker med en policy om försiktig användning"

Generella riktlinjer ger sällan styrning i en hektisk vardag. Ansvarsfull AI kräver operationalisering: beslutspunkter, minikrav på kontroll, krav på dokumentation och en praktisk avvikelseprocess.

"Roller handlar om att hitta någon att skylla på"

Rolloklarhet handlar primärt om förutsägbarhet: vem som har mandat att besluta, plikt att följa upp och ansvar för att dokumentera. Det gör avvikelsehantering mindre personinriktad och mer systemorienterad.

Vad bör finnas på plats i praktiken?

Nedan finns en uppsättning roller/funktioner som ofta bör vara tydliga på en tandklinik som använder AI. De kan kombineras, men bör beskrivas explicit.

• 1) AI-ägare (verksamhetsansvar/klinikledning)
  Har övergripande ansvar för att AI-användning är i linje med klinikens praxis, risknivå och interna krav. Beslutar vilka användningsområden som är tillåtna och prioriterar resurser till kontroll och uppföljning.

• 2) Professionellt ansvarig för innehåll och praxis
  Äger professionella kvalitetskrav där AI påverkar bedömningar, journaltext, patientinformation eller arbetsflöde som kan få professionella konsekvenser. Definierar vad som alltid måste bedömas manuellt och vad som är minimikontroll.

• 3) Systemägare/applikationsansvarig
  Har ansvar för systemkonfiguration, åtkomstkontroll, konfiguration och för att förstå vilka AI-funktioner som faktiskt är aktiva. Säkerställer att ändringar och uppdateringar upptäcks och bedöms, inte bara "rullas ut".

• 4) Ansvarig för informationssäkerhet och personlig integritet (funktion, ej titel)
  Säkerställer att AI-användning inte skapar oönskad datadelning, fel mottagare, bristande åtkomstkontroll eller svag loggning. Bedömer var data behandlas, hur de lagras och om det finns interna begränsningar för vad AI kan användas på.

• 5) Data- och kvalitetsansvarig (för datagrund och dokumentationskvalitet)
  Vid AI som använder eller påverkar data (t.ex. mallar, journaltext, strukturerade fält), bör någon ha ansvar för datakvalitet, begreppsbruk och "hygien": vad som är tillförlitligt, vad som är ofullständigt och hur fel rättas på ett spårbart sätt.

• 6) Utbildningsansvarig/superanvändarfunktion
  Ansvarig för att anställda förstår hur AI används lokalt: begränsningar, typiska fel, vad som ska dubbelkollas och när man ska stoppa eller eskalera. Detta är ofta avgörande för att "mänsklig kontroll" blir verklig.

• 7) Avviks- och förändringsansvarig (kan vara samma som AI-ägare)
  Definierar vad som betraktas som avvikelser vid AI-användning, hur det rapporteras, hur allvaret bedöms och vem som kan vidta åtgärder (stoppa funktion, ändra rutin, kontakta leverantör, uppdatera mallar).

Utöver bör kliniken etablera ett enkelt styrningsgrepp som gör rollerna operativa:

• Ett användningsregister: vilka AI-användningsområden som är godkända, begränsningar, ansvariga roller och kontrollpunkter.

• RACI för de viktigaste processerna: vem är Responsible, Accountable, Consulted, Informed för införande, ändring, daglig användning och avvikelser.

• Minimikrav på dokumentation: vad som måste kunna förklaras i efterhand (användningsområde, ansvar, kontroll, händelseförlopp vid avvikelser).

Detta behöver inte vara omfattande, men det måste vara konsekvent och genomförbart.

Acteras roll i detta

Actera är etablerat för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av AI.

Vi arbetar inte med teknologiutveckling eller kliniska beslut, utan med styrningsstruktur, ansvarslinjer och dokumentation – så att AI kan användas på ett säkert, förutsägbart och verifierbart sätt.

Avslutande reflektion

När AI blir en del av vardagen, är det rolloklarhet – inte teknologin i sig – som ofta skapar risk. Utan tydliga funktioner för beslut, kontroll och uppföljning blir AI-användning lätt informell, personberoende och svår att kontrollera i efterhand.

Tydliga roller gör det enklare att använda AI på ett sätt som kan förklaras i efterhand: vad som är tillåtet, vem som har bedömt användningen, hur kvalitet säkerställs och hur kliniken lär sig när något inte fungerar som förväntat.