Forklarbarhed overfor patient: Hvordan kommunikeres brug af KI uden teknologisk retorik?

1. Kontekstualiserende indledning

Brugen af kunstig intelligens i tandpleje rejser ikke kun spørgsmål om ansvar og dokumentation, men også om kommunikation.

Patienter kan stille spørgsmål som:

• Bruger I KI i behandlingen?

• Tager en maskine beslutninger om mig?

• Hvordan sikres menneskelig kontrol?

EU AI Act forudsætter gennemsigtighed i brugen af KI-systemer. Samtidig reguleres tandklinikker af sundheds- og persondatalovgivning, der allerede stiller krav til information og efterprøvbarhed.

Forklarbarhed skal derfor forstås som en del af virksomhedens samlede patientkommunikation – ikke som teknologisk markedsføring.

2. Operationel implikation

Hvis KI anvendes i klinikken, skal ledelsen have afklaret:

• Om og hvornår patienter skal informeres.

• Hvordan brugen beskrives.

• Hvilket sprog der anvendes.

• Hvordan menneskelig kontrol fremhæves.

• Hvem der svarer på spørgsmål.

Forklarbarhed indebærer ikke at forklare algoritmer i detalje. Det indebærer at kunne redegøre for rolle, ansvar og kontrol.

Uden defineret kommunikation kan svar blive personafhængige og inkonsistente.

3. Analytiske hovedpunkter

3.1 Informationspligt og forventningsafklaring

Når KI indgår i diagnostik, beslutningsstøtte eller journalføring, kan det være relevant at informere om dette.

Informationen bør:

• Være nøgtern.

• Være præcis.

• Klare op, at KI er et støtteværktøj.

• Præcisere, at beslutninger træffes af autoriseret sundhedspersonale.

Målet er forventningsafklaring, ikke teknologisk præsentation.

3.2 KI som støtteværktøj – ikke beslutningstager

Patientkommunikationen bør tydeliggøre, at:

• KI kan bistå i analyse eller dokumentation.

• Den endelige vurdering altid udføres af tandlægen.

• Menneskelig skøn har forrang.

• Ansvar ligger hos klinikken.

Dette reducerer risikoen for misforståelser om automatiserede beslutninger.

3.3 Standardiserede formuleringer

For at sikre konsistens kan det være hensigtsmæssigt at etablere standardformuleringer for:

• Hjemmeside.

• Informationsmateriale.

• Samtykketekster, hvor relevant.

• Mundtlige svar i klinikken.

Standardisering reducerer risikoen for afvigende budskaber og uheldig sprogbrug.

Sproget bør være forklarende – ikke promovere teknologien.

3.4 Skriftlig versus mundtlig information

Ikke al brug af KI kræver eksplicit skriftlig information til patienten.

Ledelsen bør vurdere:

• Hvilke anvendelser der er relevante for patienten.

• Om information bør gives generelt eller situationsspecifikt.

• Hvordan information dokumenteres.

Overkommunikation kan skabe unødig usikkerhed. Underkommunikation kan skabe tillidsbrud.

Balancen skal være bevidst.

3.5 Sammenhængen mellem forklarbarhed og tillid

Forklarbarhed handler ikke primært om teknologi. Den handler om tillid.

En klinik der kan forklare:

• Hvorfor KI bruges.

• Hvordan kontrol udøves.

• Hvem der har ansvar.

• Hvordan patientsikkerhed varetages.

er bedre rustet, hvis der opstår spørgsmål fra patient, medier eller tilsyn.

Tavshed eller uklare svar kan skabe unødig mistillid.

4. Intern afklaringsmatrice

Følgende forhold bør være eksplicit defineret:

1. Anvendes KI i klinisk sammenhæng?

2. Hvilken information er relevant for patienten?

3. Hvordan beskrives KI som støtteværktøj?

4. Hvordan fremhæves menneskelig kontrol?

5. Hvem er ansvarlig for patientinformation?

6. Findes der standardiserede formuleringer?

7. Hvordan håndteres spørgsmål fra patient eller medier?

8. Hvordan dokumenteres kommunikation ved behov?

Hvis disse forhold ikke er afklaret, afhænger forklarbarheden af personen.

5. Afrundende syntese

Forklarbarhed er ikke teknisk gennemsigtighed. Det er organisatorisk tydelighed.

Når KI bruges i tandpleje, skal klinikken kunne forklare:

• Hvad teknologien gør.

• Hvad den ikke gør.

• Hvem der har ansvar.

• Hvordan menneskelig kontrol udøves.

En struktureret kommunikation reducerer risikoen for misforståelser og styrker tilliden mellem klinik og patient.

Teknologi kan være kompleks.
Forklaringen bør være enkel.