Bruk av generative språkmodeller i tannklinikk: Hvilke forutsetninger må være avklart?

1. Kontekstualiserende innledning

Generative språkmodeller som ChatGPT og tilsvarende verktøy brukes i økende grad i profesjonelle sammenhenger. I tannhelse kan slike modeller benyttes til administrative oppgaver, tekstproduksjon, pasientkommunikasjon, journalstøtte eller interne notater.

Teknologien er lett tilgjengelig. Bruken kan derfor oppstå uformelt – uten ledelsesforankring og uten eksplisitte retningslinjer.

For tannklinikker innebærer dette et styringsspørsmål: Ikke om teknologien finnes, men under hvilke rammer den eventuelt kan brukes.

Generative språkmodeller må vurderes som en del av virksomhetens samlede KI-bruk – ikke som et privat arbeidsverktøy uten organisatorisk betydning.

2. Operasjonell implikasjon

Bruk av generative språkmodeller kan berøre:

• Pasientinformasjon.

• Journalføring.

• Intern beslutningsstøtte.

• Kommunikasjon utad.

• Dokumentproduksjon.

Avhengig av bruksområde kan risikoen variere betydelig.

For ledelsen innebærer dette at følgende må avklares før bruk:

• Hvilke formål er tillatt?

• Hvilken type informasjon kan behandles?

• Hvem har ansvar?

• Hvordan sikres menneskelig kontroll?

• Hvordan dokumenteres bruken?

Fravær av struktur kan føre til uformell praksis som er vanskelig å etterprøve.

3. Analytiske hovedpunkter

3.1 Administrativ versus klinisk bruk

Det er avgjørende å skille mellom:

• Administrativ støtte (f.eks. utkast til interne rutiner).

• Klinisk støtte (f.eks. formulering av journalnotater eller vurderinger).

Administrativ bruk kan innebære lavere risiko dersom sensitiv informasjon ikke behandles.

Klinisk bruk, særlig dersom modellen påvirker dokumentasjon eller beslutninger, krever langt strengere vurdering og kontroll.

Bruksområde må være eksplisitt definert.

3.2 Sensitiv informasjon og databeskyttelse

Generative språkmodeller kan innebære overføring av data til eksterne systemer.

Følgende må være avklart:

• Behandles personopplysninger?

• Behandles helseopplysninger?

• Hvor lagres data?

• Hvilke avtaler regulerer behandlingen?

• Er bruken i samsvar med personvernregelverket?

Uformell bruk med pasientopplysninger representerer en betydelig risiko.

Ledelsen kan ikke forutsette at ansatte selv vurderer disse forholdene.

3.3 Intern godkjenning og rolleavklaring

Dersom generative språkmodeller skal brukes i virksomheten, bør det foreligge:

• En eksplisitt godkjenning fra ledelsen.

• Definert ansvarsplassering.

• Retningslinjer for tillatt og ikke-tillatt bruk.

• Opplæring i begrensninger og risiko.

Bruk som oppstår uten organisatorisk forankring, kan vanskelig forsvares i etterkant.

3.4 Risiko ved uformell og fragmentert bruk

Generative språkmodeller er tilgjengelige via private kontoer og åpne nettjenester.

Dette kan føre til:

• Ulik praksis mellom ansatte.

• Manglende oversikt over bruk.

• Uklar ansvarsplassering.

• Uforutsigbar databehandling.

Når teknologien er enkel å ta i bruk, øker behovet for struktur.

3.5 Prinsippet om «system før verktøy»

Før et konkret verktøy tas i bruk, bør virksomheten ha:

• Kartlagt eksisterende KI-bruk.

• Avklart deployer-rolle der relevant.

• Definert human oversight.

• Etablert dokumentasjonsstruktur.

Verktøyvalg uten overordnet styringsstruktur fører ofte til ad hoc-praksis.

Teknologisk tilgjengelighet fritar ikke fra organisatorisk ansvar.

4. Intern avklaringsmatrise

Følgende spørsmål bør være eksplisitt besvart før bruk av generative språkmodeller:

1. Hvilke formål er tillatt?

2. Er klinisk bruk tillatt, og under hvilke rammer?

3. Kan pasientopplysninger behandles?

4. Hvem har godkjent bruken?

5. Hvem har overordnet ansvar?

6. Hvordan sikres menneskelig kontroll?

7. Hvordan dokumenteres bruken?

8. Hvordan håndteres feil, misvisende innhold eller hallusinasjoner?

Dersom disse forholdene ikke er definert, bør bruken vurderes som ustrukturert.

5. Avsluttende syntese

Generative språkmodeller representerer ikke i seg selv en regulatorisk unntakssone.

Når slike verktøy brukes i tannklinikkens virksomhet, inngår de i den samlede KI-strukturen og må håndteres deretter.

Spørsmålet er ikke om teknologien er tilgjengelig.
Spørsmålet er om bruken er styrt.

En klinikk som har definert formål, ansvar, datarammer og menneskelig kontroll før bruk, reduserer risiko for ansvarsglidning og utilsiktet praksis.

Struktur må komme før verktøy.