KI i tandklinik: hvad tilsyn forventer af dokumentation

Indledning

Kunstig intelligens bliver en del af stadig flere digitale systemer i tandplejen. Teknologien kan støtte kliniske vurderinger, analysere data eller automatisere administrative opgaver.

Når KI anvendes i sundhedsfirmaer, opstår også et spørgsmål om, hvordan teknologien dokumenteres og kontrolleres. Myndigheder og tilsynsorganer er ikke først og fremmest optaget af teknologien i sig selv, men af hvordan organisationen styrer brugen af den.

Denne artikel forklarer, hvad tilsyn typisk forventer af dokumentation, når KI anvendes i en tandklinik, og hvilke typer information virksomheden bør kunne fremvise.

Hvad menes med KI-brug i tandpleje?

KI-brug i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske eller maskinlæringsbaserede metoder.

I praksis kan dette være:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata eller drift

Nogle systemer er udviklet specifikt til kliniske opgaver, mens andre er generelle KI-værktøjer, der bruges i administrative processer.

Fælles for dem er, at teknologien kan påvirke, hvordan information tolkes eller præsenteres. Når sådanne systemer indgår i organisationens arbejde, bliver dokumentation en vigtig del af ansvarlig brug. 

Hvor opstår spørgsmålet om ansvar?

Tilsynsmyndigheder vurderer normalt ikke KI isoleret som teknologi. De vurderer, hvordan organisationen bruger teknologien i deres processer.

Ansvarsspørgsmålet opstår derfor, når:

• KI påvirker kliniske vurderinger

• KI påvirker dokumentation eller beslutningsgrundlag

• medarbejdere bruger KI uden klare rammer

• organisationen mangler overblik over, hvilke systemer der bruges

I sådanne situationer vil tilsyn typisk spørge:

• hvilke KI-systemer organisationen bruger

• hvordan teknologien påvirker arbejdsprocesser

• hvilke risici der er vurderet

• hvilke kontrolmekanismer der findes

Dokumentation bliver dermed et centralt grundlag for at vise, at teknologien bruges på en struktureret og forståeligt måde.

Almindelige misforståelser

«Tilsyn kontrollerer selve KI-teknologien»

Tilsynsmyndigheder vurderer normalt ikke algoritmer eller tekniske modeller direkte.

Deres hovedfokus er organisationens styring af teknologien. Det vil sige, hvordan ledelsen har organiseret ansvar, kontrol og dokumentation omkring brugen.

«Dette gælder kun avancerede kliniske systemer»

Mange antager, at dokumentationskrav kun gælder for avancerede diagnostiske systemer.

I praksis kan også enklere KI-værktøjer være relevante, hvis de påvirker dokumentation, kommunikation eller beslutningsgrundlag i klinikken.

«Hvis KI kun bruges administrativt, er dokumentation unødvendig»

Selv administrative systemer kan påvirke patientinformation, arbejdsprocesser eller prioriteringer.

Derfor kan tilsyn stadig være optaget af, hvordan sådanne systemer bruges og kontrolleres.

«En generel KI-politik er tilstrækkelig»

En overordnet politik kan være nyttig, men tilsyn vil ofte være mere optaget af konkret dokumentation af, hvordan systemer bruges i praksis.

Det betyder, at organisationen bør kunne vise mere end bare generelle retningslinjer.

Hvad bør være på plads i praksis?

Tilsyn forventer normalt ikke omfattende tekniske rapporter fra en tandklinik. Det vigtigste er, at organisationen kan vise overblik og struktur omkring KI-brugen.

Nogle typer dokumentation går ofte igen.

Overblik over KI-systemer

Organisationen bør kunne vise, hvilke systemer eller funktioner der bruger KI.

En sådan oversigt kan inkludere:

• systemnavn

• anvendelsesområde

• hvor i arbejdsprocessen systemet bruges

Dette giver tilsynet et billede af, hvordan teknologien indgår i organisationen.

Beskrivelse af anvendelsesområde

Det bør være dokumenteret, hvad systemet faktisk bruges til i klinikken.

Dette kan for eksempel være:

• støtte til dokumentation

• analyse af data

• administrativ automatisering

• beslutningsstøtte

Formålet med brugen er ofte et centralt spørgsmål i tilsyn.

Roller og ansvar

Tilsyn vil ofte være optaget af, hvem der har ansvar for teknologibrugen.

Det kan derfor være nyttigt at dokumentere:

• hvem der godkender brug af KI-værktøjer

• hvem der følger op på systemerne

• hvem der håndterer afvigelser eller fejl

Klare ansvarslinjer er en vigtig del af god styring.

Enkel risikovurdering

Organisationen bør have foretaget en vurdering af, hvordan teknologien kan påvirke arbejde, beslutninger eller patientinformation.

Dette behøver ikke være en omfattende analyse, men bør vise, at risici er vurderet.

Dokumentation af menneskelig kontrol

Når KI bruges i arbejdsprocesser, vil tilsyn ofte være optaget af, hvordan fagpersoner stadig vurderer og kontrollerer systemets output.

Derfor kan det være relevant at beskrive, hvordan medarbejdere bruger fagligt skøn sammen med teknologien.

Acteras rolle i dette

Actera er etableret for at give tandplejeorganisationer struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så KI kan bruges på en sikker, forudsigelig og efterprøvelig måde.

Afsluttende betragtning

Brugen af KI i sundhed handler ikke bare om teknologi, men også om styring og ansvar.

For tilsynsmyndigheder er spørgsmålet derfor sjældent om KI findes i organisationen, men hvordan den bruges og kontrolleres.

Når klinikker har overblik over systemer, roller og risici, bliver det lettere at dokumentere, at teknologien bruges på en ansvarlig og gennemtænkt måde.