Användning av generativa språkteknologier i tandkliniker: Vilka förutsättningar måste klargöras?

1. Kontextualiserande inledning

Generativa språkteknologier som ChatGPT och liknande verktyg används alltmer i professionella sammanhang. Inom tandvården kan sådana modeller användas för administrativa uppgifter, textproduktion, patientkommunikation, journalstöd eller interna anteckningar.

Teknologin är lättillgänglig. Användningen kan därför uppstå informellt – utan ledningens förankring och utan explicita riktlinjer.

För tandkliniker innebär detta ett styrningsfråga: Frågan är inte om teknologin finns, utan under vilka ramar den eventuellt kan användas.

Generativa språkteknologier måste bedömas som en del av verksamhetens samlade AI-användning – inte som ett privat arbetsverktyg utan organisatorisk betydelse.

2. Operativa implikationer

Användningen av generativa språkteknologier kan påverka:

• Patientinformation.

• Journalföring.

• Interna beslutsstöd.

• Extern kommunikation.

• Dokumentproduktion.

Beroende på användningsområde kan risken variera avsevärt.

För ledningen innebär detta att följande måste klargöras innan användning:

• Vilka syften är tillåtna?

• Vilken typ av information kan behandlas?

• Vem har ansvar?

• Hur säkerställs mänsklig kontroll?

• Hur dokumenteras användningen?

Avsaknad av struktur kan leda till informell praxis som är svår att kontrollera.

3. Analytiska huvudpunkter

3.1 Administrativ kontra klinisk användning

Det är avgörande att skilja mellan:

• Administrativt stöd (t.ex. utkast till interna rutiner).

• Kliniskt stöd (t.ex. formulering av journalanteckningar eller utvärderingar).

Administrativ användning kan innebära lägre risk om känslig information inte behandlas.

Klinisk användning, särskilt om modellen påverkar dokumentation eller beslut, kräver mycket strängare bedömning och kontroll.

Användningsområdet måste vara explicit definierat.

3.2 Känslig information och dataskydd

Generativa språkteknologier kan innebära överföring av data till externa system.

Följande måste vara klarlagt:

• Behandlas personuppgifter?

• Behandlas hälsouppgifter?

• Var lagras data?

• Vilka avtal reglerar behandlingen?

• Är användningen i enlighet med dataskyddslagstiftningen?

Informell användning av patientuppgifter representerar en betydande risk.

Ledningen kan inte förutsätta att anställda själva bedömer dessa frågor.

3.3 Intern godkännande och rollavklaring

Om generativa språkteknologier ska användas i verksamheten, bör det finnas:

• Ett explicit godkännande från ledningen.

• Definierade ansvarsfördelningar.

• Riktlinjer för tillåten och icke-tillåten användning.

• Utbildning i begränsningar och risker.

Användning som uppstår utan organisatorisk förankring kan vara svårt att försvara i efterhand.

3.4 Risker vid informell och fragmenterad användning

Generativa språkteknologier är tillgängliga via privata konton och öppna nättjänster.

Detta kan leda till:

• Olika praxis bland anställda.

• Brist på översikt över användning.

• Oklar ansvarsfördelning.

• Oförutsägbar databehandling.

När teknologin är enkel att använda ökar behovet av struktur.

3.5 Principen om "system före verktyg"

Innan ett konkret verktyg tas i bruk bör verksamheten ha:

• Kartlagt befintlig AI-användning.

• Klargjort deployer-roll där relevant.

• Definierat mänsklig översyn.

• Etablerat dokumentationsstruktur.

Verktygsval utan övergripande styrningsstruktur leder ofta till ad hoc-praktik.

Teknologisk tillgänglighet befriar inte från organisatoriskt ansvar.

4. Intern avklaringsmatris

Följande frågor bör vara explicit besvarade innan användning av generativa språkteknologier:

1. Vilka syften är tillåtna?

2. Är klinisk användning tillåten, och under vilka ramar?

3. Kan patientuppgifter behandlas?

4. Vem har godkänt användningen?

5. Vem har övergripande ansvar?

6. Hur säkerställs mänsklig kontroll?

7. Hur dokumenteras användningen?

8. Hur hanteras fel, missvisande innehåll eller hallucinationer?

Om dessa frågor inte är definierade bör användningen betraktas som ostrukturerad.

5. Avslutande syntes

Generativa språkteknologier utgör inte i sig en regulatorisk undantagszon.

När sådana verktyg används inom tandklinikens verksamhet ingår de i den samlade AI-strukturen och måste hanteras därefter.

Frågan är inte om teknologin är tillgänglig.
Frågan är om användningen är styrd.

En klinik som har definierat syften, ansvar, dataramar och mänsklig kontroll innan användning minskar risken för ansvarsglidning och oavsiktlig praxis.

Struktur måste komma före verktyg.