Brug af generativ sprogmodeller i tandklinik: Hvilke forudsætninger skal være afklaret?

1. Kontekstualiserende indledning

Generative sprogmodeller som ChatGPT og tilsvarende værktøjer bruges i stigende grad i professionelle sammenhænge. I tandpleje kan sådanne modeller anvendes til administrative opgaver, tekstproduktion, patientkommunikation, journalstøtte eller interne notater.

Teknologien er let tilgængelig. Brug kan derfor opstå uformelt – uden ledelsesforankring og uden eksplicitte retningslinjer.

For tandklinikker indebærer dette et styringsspørgsmål: Ikke om teknologien findes, men under hvilke rammer den eventuelt kan anvendes.

Generative sprogmodeller skal vurderes som en del af virksomhedens samlede brug af kunstig intelligens – ikke som et privat arbejdsredskab uden organisatorisk betydning.

2. Operationel implikation

Brug af generative sprogmodeller kan berøre:

• Patientinformation.

• Journalføring.

• Intern beslutningsstøtte.

• Kommunikation udadtil.

• Dokumentproduktion.

Afhængigt af anvendelsesområde kan risikoen variere betydeligt.

For ledelsen indebærer dette, at følgende skal være afklaret før brug:

• Hvilke formål er tilladt?

• Hvilken type information kan behandles?

• Hvem har ansvar?

• Hvordan sikres menneskelig kontrol?

• Hvordan dokumenteres brugen?

Fravær af struktur kan føre til uformel praksis, der er vanskelig at efterprøve.

3. Analytiske hovedpunkter

3.1 Administrativ versus klinisk brug

Det er afgørende at skelne mellem:

• Administrativ støtte (f.eks. udkast til interne procedurer).

• Klinisk støtte (f.eks. formulering af journalnotater eller vurderinger).

Administrativ brug kan indebære lavere risiko, hvis følsomme oplysninger ikke behandles.

Klinisk brug, især hvis modellen påvirker dokumentation eller beslutninger, kræver langt strengere vurdering og kontrol.

Anvendelsesområdet skal være eksplicit defineret.

3.2 Følsomme oplysninger og databeskyttelse

Generative sprogmodeller kan indebære overførsel af data til eksterne systemer.

Følgende skal være afklaret:

• Behandles personoplysninger?

• Behandles sundhedsoplysninger?

• Hvor lagres data?

• Hvilke aftaler regulerer behandlingen?

• Er brugen i overensstemmelse med persondatalovgivningen?

Uformel brug med patientoplysninger repræsenterer en betydelig risiko.

Ledelsen kan ikke forvente, at ansatte selv vurderer disse forhold.

3.3 Intern godkendelse og rolleafklaring

Hvis generative sprogmodeller skal bruges i virksomheden, bør der foreligge:

• En eksplicit godkendelse fra ledelsen.

• Defineret ansvarsplacering.

• Retningslinjer for tilladt og ikke-tilladt brug.

• Uddannelse i begrænsninger og risici.

Brug, der opstår uden organisatorisk forankring, kan vanskeligt forsvares i efterkant.

3.4 Risiko ved uformel og fragmenteret brug

Generative sprogmodeller er tilgængelige via private konti og åbne nettjenester.

Dette kan føre til:

• Uens praksis blandt ansatte.

• Manglende overblik over brug.

• Uklar ansvarsplacering.

• Uforudsigelig databehandling.

Når teknologien er nem at tage i brug, øger det behovet for struktur.

3.5 Princippet om «system før værktøj»

Før et konkret værktøj tages i brug, bør virksomheden have:

• Kortlagt eksisterende brug af kunstig intelligens.

• Afklaret deployer-rolle, hvor relevant.

• Defineret menneskelig overvågning.

• Etableret dokumentationsstruktur.

Værktøjsvalg uden overordnet styringsstruktur fører ofte til ad hoc-praksis.

Teknologisk tilgængelighed fritager ikke fra organisatorisk ansvar.

4. Intern afklaringsmatrix

Følgende spørgsmål bør være eksplicit besvaret før brug af generative sprogmodeller:

1. Hvilke formål er tilladt?

2. Er klinisk brug tilladt, og under hvilke rammer?

3. Kan patientoplysninger behandles?

4. Hvem har godkendt brugen?

5. Hvem har overordnet ansvar?

6. Hvordan sikres menneskelig kontrol?

7. Hvordan dokumenteres brugen?

8. Hvordan håndteres fejl, vildledende indhold eller hallucinationer?

Hvis disse forhold ikke er defineret, bør brugen vurderes som ustruktureret.

5. Afsluttende syntese

Generative sprogmodeller repræsenterer ikke i sig selv en regulatorisk undtagelsessituation.

Når sådanne værktøjer bruges i tandklinikvirksomhedens funktioner, indgår de i den samlede KI-struktur og skal håndteres derefter.

Spørgsmålet er ikke om teknologien er tilgængelig.
Spørgsmålet er om brugen er styret.

En klinik, der har defineret formål, ansvar, datarammer og menneskelig kontrol før brug, reducerer risiko for ansvarsforskydning og utilsigtet praksis.

Struktur skal komme før værktøj.