KI i klinikkens interne kontrolsystem

Kunstig intelligens bruges i stigende grad i flere dele af tandplejen. Teknologien kan analysere røntgenbilleder, bidrage til dokumentation i journalen, automatisere administrative opgaver og støtte patientkommunikation.

Når sådanne systemer bliver en del af klinikkens arbejde, opstår ofte et spørgsmål bagefter: Hvordan indgår KI i virksomhedens interne kontrol?

Intern kontrol handler om, hvordan virksomheden sikrer forsvarlig drift, tydelige ansvarsområder og gennemskuelig praksis. Når teknologi påvirker arbejdsprocesser eller beslutningsgrundlag, er det naturligt at inkludere teknologien i denne struktur.

Denne artikel forklarer, hvordan brugen af kunstig intelligens kan integreres i klinikkens interne kontrolsystem, og hvilke styringsprincipper der normalt er relevante i praksis.

Hvad menes med KI-brug i tandpleje?

KI-brug i tandpleje omfatter systemer, der analyserer information, genererer forslag eller automatiserer opgaver baseret på statistiske modeller og maskinlæring.

I en klinik kan dette blandt andet omfatte:

• analyse af røntgenbilleder eller diagnostiske data

• støtte til journalføring eller dokumentation

• automatiseret patientkommunikation

• analyse af kliniske eller administrative data

• automatisering af interne arbejdsprocesser

Disse systemer fungerer ofte som beslutningsstøtte eller automatiserede værktøjer. De producerer analyser eller forslag baseret på data, som derefter vurderes af mennesker.

Selv om faglige beslutninger stadig tages af klinikere, kan KI påvirke, hvordan information præsenteres og tolkes i dagligdagen.

Dermed bliver teknologien en del af virksomhedens operative struktur.

Hvor opstår ansvars spørgsmålet?

Spørgsmålet om intern kontrol opstår især, når KI integreres i klinikkens rutiner.

Tre situationer er typiske.

Når teknologi påvirker dokumentation

Systemer, der genererer eller foreslår journaltekst, kan påvirke, hvordan information registreres i patientjournalen.

Når KI påvirker analyse eller vurderinger

Analyseværktøjer kan bidrage med forslag eller vurderinger, der indgår i faglige beslutningsprocesser.

Når nye værktøjer tages i brug uden formel struktur

I mange virksomheder kan KI-værktøjer tages i brug af enkeltpersoner uden, at brugen er forankret i virksomhedens styringssystem.

Når sådanne forhold opstår, er det nødvendigt at afklare, hvordan teknologien indgår i den interne kontrol.

Almindelige misforståelser

«Intern kontrol gælder kun klinisk arbejde»

Intern kontrol forbindes ofte først og fremmest med faglig behandling og patientsikkerhed.

Når teknologi påvirker dokumentation, analyse eller kommunikation, bliver den også en del af virksomhedens kontrolstruktur.

«Teknologi regulerer sig selv»

Digitale systemer opfattes nogle gange som stabile og selvstyrende.

I praksis kan systemer opdateres, ændre funktionalitet eller få nye brugsområder over tid. Dette gør opfølgning nødvendig.

«Intern kontrol betyder detaljeret teknisk kontrol»

Intern kontrol handler normalt ikke om teknisk evaluering af algoritmer eller modeller.

Det handler snarere om overblik, ansvar og organisering af, hvordan teknologien bruges i virksomheden.

«Dette er kun relevant ved tilsyn»

Spørgsmål om intern kontrol omkring teknologi opstår ofte først ved tilsyn eller revision.

I praksis er strukturen også et værktøj for virksomheden selv, fordi den giver overblik over, hvordan teknologi påvirker drift og arbejdsprocesser.

Hvad bør være på plads i praksis?

Når KI indgår i klinikkens arbejde, kan den også indgå i intern kontrolsystemet gennem nogle grundlæggende strukturer.

Overblik over KI-systemer

Virksomheden bør have et samlet overblik over, hvilke KI-systemer der bruges i klinikken, hvad de bruges til, og hvilke processer de påvirker.

Dette kan fungere som et enkelt KI-register.

Tydelige ansvarslinjer

Intern kontrollen bør vise, hvem der har ansvar for:

• beslutning om brug af teknologi

• implementering og opfølgning

• faglig vurdering af brugen

Retningslinjer for brug

Virksomheden bør have en kort beskrivelse af, hvordan KI kan bruges i klinikken, og hvilke opgaver der altid kræver menneskelig vurdering.

Opfølgning af systemer

Intern kontrollen bør også beskrive, hvordan brugen af KI følges op over tid, for eksempel gennem:

• periodiske gennemgange

• vurdering af afvigelser eller fejl

• opdatering af interne rutiner

Dokumentation

Virksomheden bør kunne dokumentere, hvilke systemer der bruges, hvad formålet er, og hvordan brugen er organiseret.

Sådanne strukturer stemmer også overens med udviklingen i europæisk regulering af kunstig intelligens, hvor virksomheder forventes at have overblik over og kontrol med, hvordan KI bruges i praksis. 

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så KI kan bruges på en sikker, forudsigelig og gennemskuelig måde.

Dette indebærer blandt andet at bidrage til etableringen af KI-register, styringsmodeller og dokumentation, der gør teknologien lettere at integrere i virksomhedens interne kontrolsystem. 

Afsluttende betragtning

Kunstig intelligens vil sandsynligvis blive en stadig mere integreret del af tandplejens arbejde.

Når teknologi påvirker arbejdsprocesser, dokumentation eller analyse, bliver det også naturligt at inkludere den i virksomhedens interne kontrol.

Intern kontrol omkring KI handler ikke først og fremmest om teknologi, men om struktur: overblik, ansvar og gennemskuelig praksis. Når disse elementer er på plads, kan teknologien indgå i klinikkens arbejde på en mere forudsigelig måde.