Mänsklig kontroll vid användning av KI: vad betyder det i kliniskt arbete?
KI-funktioner blir snabbt en del av kliniskt arbete inom tandvården – ofta som stöd i text, arbetsflöde, prioritering och kommunikation, och ibland som beslutsnära stöd.
När sådana funktioner upplevs som ”inbyggda” och friktionsfria, är det lätt att anta att mänsklig kontroll redan är säkerställd – eftersom en yrkesperson oavsett är involverad.
Denna artikel förklarar vad mänsklig kontroll vid användning av KI faktiskt innebär i praktiken, var ansvar och risk typiskt uppstår, och vilka styrningsprinciper som bör finnas för att göra kontrollen verifierbar.
Vad menas med användning av KI inom tandvården?
Inom tandvården innebär användning av KI ofta att system föreslår, sammanfattar, strukturerar eller rangordnar information – utan att det nödvändigtvis framstår som ett ”KI-verktyg”. Exempel kan vara:
Textnära stöd: utkast till journalanteckning, sammanställningar, standardformuleringar eller förslag till patientinformation.
Arbetsflöde och prioritering: sortering av förfrågningar, förslag till uppgiftsprioritering, eller automatiska ”nästa steg” i processen.
Kvalitets- och avvikelsesignaler: varningar om brister, avvikelsemönster eller inkonsekvens i data.
Det avgörande för “mänsklig kontroll” är inte om KI används, utan hur KI påverkar handling: Vad föreslås som standard? Vad utelämnas? Var frestas man att godkänna snabbt? Och var blir det i praktiken svårt att åsidosätta?
Var uppstår ansvarsfrågan?
Ansvarsfrågan uppstår typiskt när mänsklig kontroll är en avsikt, men inte en definierad mekanism. Då blir det oklart vem som ska kontrollera vad, när, och med vilket mandat.
Några återkommande situationer i kliniskt arbete är:
När KI-innehåll “ser rätt ut”
KI-genererad text eller förslag kan vara språkligt övertygande, men sakligt felaktiga eller för generella. Risken blir särskilt hög när tidspress gör att snar genomgång ersätter faktisk bedömning.När kontrolrollen inte är explicit tilldelad
Effektiv mänsklig kontroll förutsätter att det faktiskt är utpekat vem som har ansvar för att utöva den, och att denna har kompetens, myndighet och stöd. Detta är också en tydlig förväntan i EU:s AI-lag för distribuerare av högrisk-KI.När KI flyttar uppmärksamhet, inte bara tid
I praktiken handlar kontroll ofta om uppmärksamhet: KI kan “styra blicken” mot vissa fynd och bort från andra, eller föreslå en standardiserad process som följs utan att ifrågasättas.När det inte finns reella stoppunkter eller överstyrningsmöjlighet
Om arbetsflödet inte har tydliga punkter där man ska stanna, dubbelkontrollera, eller dokumentera avvikelser från KI-förslag, blir kontrollen i praktiken valfri och personberoende.När spårbarhet saknas vid avvikelse eller klagomål
Vid händelser är det ofta nödvändigt att kunna förklara: Vad föreslogs av systemet? Vad gjorde yrkespersonen? Vad ändrades? NIST:s AI RMF pekar på att processer för mänsklig kontroll bör vara definierade, utvärderade och dokumenterade – just för att göra styrning verifierbar.
Vanliga missuppfattningar
«Mänsklig kontroll betyder att en tandläkare är involverad»
Att en yrkesperson finns med i processen är inte detsamma som att kontroll faktiskt utövas. Kontroll måste vara operationaliserad: vad ska bedömas, vilka tecken ska trigga stopp, och vad gör man när man är oenig med systemets förslag.
«Detta gäller bara kliniska KI-system»
Kontrollbehov uppstår också vid ”administrativ” och kommunikativ KI. Textförslag i journal och patientkommunikation kan påverka precision, dokumentationskvalitet och patientens förståelse – även om KI inte gör en klinisk bedömning i snäv bemärkelse.
«Om leverantören byggt in kontroll, är vi täckta»
Leverantörer kan stödja med funktioner, men verksamheten måste definiera användningsområde, roller, utbildning och uppföljning i egen kontext. EU:s AI-lag skiljer mellan leverantör- och distribueraransvar, och pekar bland annat på att distribuerare måste säkerställa kompetent mänsklig kontroll i användningen.
«Mänsklig kontroll är en policy, inte en praxis»
En mening i en intern riktlinje (“det ska alltid göras en professionell bedömning”) ger lite styrning om den inte är kopplad till konkreta kontrollpunkter, dokumentation och avvikelserutiner.
«Kontroll innebär att KI inte kan användas effektivt»
Mänsklig kontroll handlar inte om att ta bort fördelar, utan om att säkerställa att effektivisering inte sker på bekostnad av verifierbarhet och saklig precision. I praktiken är målet att definiera var kontrollen är nödvändig, och göra den enkel att utföra konsekvent.
Vad bör vara på plats i praktiken?
För tandkliniker är ett bra mål att etablera en kontrollmodell som är lätt att följa i vardagen och som tål att granskas i efterhand.
Kartläggning av faktisk KI-användning i verksamheten
Översikt över var KI påverkar kliniskt arbete (journal, patientinfo, prioritering, uppföljning), och vad som i praktiken är ”automatik” kontra professionell bedömning.Tydliga roller, ansvar och beslutsmandat
Utse vem som har kontrollansvar i de viktigaste användningsområdena, och säkerställ att rollen har mandat till att stoppa/ändra praxis vid behov. Hälsodirektoratet pekar också på att drift och förvaltning av KI kan kräva tydliga roller och ansvar, och att styrsystem kan utökas för att hantera KI-kvalitet över tid.Mänsklig kontroll och möjlighet till åsidosättande
Gör kontroll konkret:vilka element måste alltid verifieras (fakta, kliniska bedömningar, riskinformation, mottagare),
vilka situationer kräver dubbelkontroll,
vad är stoppkriterier,
hur dokumenteras oenighet eller korrigering.
För distribuerare av högrisk KI är förväntningen om kompetent human oversight explicit, och knuten till kompetens, utbildning, myndighet och stöd.
Dokumentation och spårbarhet
En minimum bör vara att kliniken kan förklara:vilket användningsområde som var i bruk,
vem som utövade kontroll,
vad som bedömdes/justerades,
och hur avvikelser hanteras.
EU:s AI-lag beskriver också loggkrav för distribuerare av högrisk KI (minimum lagring), som illustrerar riktningen mot mer verifierbar drift.
Förklarbarhet gentemot patienter och tillsynsmyndigheter
Kliniken bör kunna beskriva på en praktisk nivå vad KI används till, vad den inte används till, och vilka kontrollmekanismer som finns. Detta handlar om förutsägbarhet, inte tekniska detaljer.
Acteras roll i detta
Actera är etablerat för att ge tandvårdsverksamheter struktur kring ansvarsfull användning av KI.
Vi arbetar inte med teknikutveckling eller kliniska beslut, men med styrningsstruktur, ansvarslinjer och dokumentation – så att KI kan användas på ett säkert, förutsägbart och verifierbart sätt.
Avslutande betraktelse
Mänsklig kontroll vid användning av KI är inte ett princip som “uppstår av sig själv” för att en yrkesperson är involverad. Det är en praxis som måste vara tydligt definierad, tilldelad och stödd – och som måste kunna förklaras i efterhand.
När kontrollen operationaliseras genom roller, stoppunkter och spårbarhet, blir användning av KI enklare att styra över tid. Det minskar personberoende och gör det möjligt att kombinera effektivitet med verifierbar klinisk praxis.
