AI i tandkliniken: vad tillsynen förväntar sig av dokumentation

Inledning

Artificiell intelligens blir en del av allt fler digitala system inom tandvården. Tekniken kan stödja kliniska bedömningar, analysera data eller automatisera administrativa uppgifter.

När AI används i hälsoverksamheter uppstår även frågan om hur tekniken dokumenteras och kontrolleras. Myndigheter och tillsynsorgan är inte främst intresserade av tekniken i sig, utan hur verksamheten styr dess användning.

Den här artikeln förklarar vad tillsynen typiskt förväntar sig av dokumentation när AI används i en tandklinik, och vilka typer av information verksamheten bör kunna uppvisa.

Vad menas med AI-användning inom tandvård?

AI-användning inom tandvård omfattar digitala system som analyserar information eller genererar förslag med hjälp av statistiska eller maskininlärningsbaserade metoder.

I praktiken kan detta vara:

• analys av röntgenbilder

• förslag till journaltext

• automatiserad patientkommunikation

• stöd till behandlingsplanering

• analys av klinikdata eller drift

Vissa system är utvecklade specifikt för kliniska uppgifter, medan andra är allmänna AI-verktyg som används i administrativa processer.

Gemensamt för dem är att tekniken kan påverka hur information tolkas eller presenteras. När sådana system ingår i verksamhetens arbete blir dokumentation en viktig del av ansvarsfull användning. 

Var uppstår ansvarsfrågan?

Tillsynsmyndigheter bedömer normalt inte AI-teknik isolerat. De bedömer hur verksamheten använder tekniken i sina processer.

Ansvarsfrågor uppstår därför när:

• AI påverkar kliniska bedömningar

• AI påverkar dokumentation eller beslutsunderlag

• anställda använder AI utan klara ramar

• verksamheten saknar översikt över vilka system som används

I sådana situationer kommer tillsynen typiskt att fråga:

• vilka AI-system verksamheten använder

• hur tekniken påverkar arbetsprocesser

• vilka risker som har bedömts

• vilka kontrollmekanismer som finns

Dokumentation blir därmed en central grund för att visa att tekniken används på ett strukturerat och begripligt sätt.

Vanliga missförstånd

«Tillsynen kontrollerar själva AI-tekniken»

Tillsynsmyndigheter bedömer normalt inte algoritmer eller tekniska modeller direkt.

Deras huvudsakliga fokus är verksamhetens styrning av tekniken. Det vill säga hur ledningen har organiserat ansvar, kontroll och dokumentation kring användningen.

«Detta gäller bara avancerade kliniska system»

Många antar att dokumentationskrav endast gäller för avancerade diagnostiska system.

I praktiken kan även enklare AI-verktyg vara relevanta om de påverkar dokumentation, kommunikation eller beslutsunderlag i kliniken.

«Om AI endast används administrativt är dokumentation onödig»

Även administrativa system kan påverka patientinformation, arbetsprocesser eller prioriteringar.

Därför kan tillsynen fortfarande vara intresserad av hur sådana system används och kontrolleras.

«En allmän AI-policy är tillräcklig»

En övergripande policy kan vara användbar, men tillsynen kommer ofta att vara mer intresserad av konkret dokumentation av hur system används i praktiken.

Det betyder att verksamheten bör kunna visa mer än bara allmänna riktlinjer.

Vad bör vara på plats i praktiken?

Tillsynen förväntar sig normalt inte omfattande tekniska rapporter från en tandklinik. Det viktigaste är att verksamheten kan visa översikt och struktur kring AI-användningen.

Några typer av dokumentation förekommer ofta.

Översikt över AI-system

Verksamheten bör kunna visa vilka system eller funktioner som använder AI.

En sådan översikt kan inkludera:

• systemnamn

• användningsområde

• var i arbetsprocessen systemet används

Detta ger tillsynen en bild av hur tekniken ingår i verksamheten.

Beskrivning av användningsområde

Det bör dokumenteras vad systemet faktiskt används till i kliniken.

Detta kan till exempel vara:

• stöd till dokumentation

• analys av data

• administrativ automatisering

• beslutsstöd

Syftet med användningen är ofta en central fråga vid tillsyn.

Roller och ansvar

Tillsynen är ofta intresserad av vem som har ansvar för teknikanvändningen.

Det kan därför vara användbart att dokumentera:

• vem som godkänner användning av AI-verktyg

• vem som följer upp systemen

• vem som hanterar avvikelser eller fel

Tydliga ansvarslinjer är en viktig del av god styrning.

Enkel riskbedömning

Verksamheten bör ha gjort en bedömning av hur tekniken kan påverka arbete, beslut eller patientinformation.

Detta behöver inte vara en omfattande analys, men bör visa att risker har bedömts.

Dokumentation av mänsklig kontroll

När AI används i arbetsprocesser kommer tillsynen ofta att vara intresserad av hur yrkespersoner fortfarande bedömer och kontrollerar systemets output.

Därför kan det vara relevant att beskriva hur anställda använder professionellt omdöme tillsammans med tekniken.

Acteras roll i detta

Actera är etablerat för att ge tandhälsoverksamheter struktur kring ansvarsfull användning av AI.

Vi arbetar inte med teknikutveckling eller kliniska beslut, men med styrningsstruktur, ansvarslinjer och dokumentation – så att AI kan användas på ett säkert, förutsägbart och efterprövbart sätt.

Avslutande betraktelse

Användning av AI i hälsa handlar inte bara om teknik, utan också om styrning och ansvar.

För tillsynsmyndigheter är frågan därför sällan om AI finns i verksamheten, men hur den används och kontrolleras.

När kliniker har översikt över system, roller och risker blir det enklare att dokumentera att tekniken används på ett ansvarsfullt och genomtänkt sätt.