Forklarbarhet overfor pasient: Hvordan kommunisere bruk av KI uten teknologisk retorikk?

1. Kontekstualiserende innledning

Bruk av kunstig intelligens i tannhelse reiser ikke bare spørsmål om ansvar og dokumentasjon, men også om kommunikasjon.

Pasienter kan stille spørsmål som:

• Bruker dere KI i behandlingen?

• Tar en maskin beslutninger om meg?

• Hvordan sikres menneskelig kontroll?

EU AI Act forutsetter transparens i bruken av KI-systemer. Samtidig reguleres tannklinikker av helse- og personvernlovgivning som allerede stiller krav til informasjon og etterprøvbarhet.

Forklarbarhet må derfor forstås som en del av virksomhetens samlede pasientkommunikasjon – ikke som teknologisk markedsføring.

2. Operasjonell implikasjon

Dersom KI brukes i klinikken, må ledelsen ha avklart:

• Om og når pasienter skal informeres.

• Hvordan bruken beskrives.

• Hvilket språk som brukes.

• Hvordan menneskelig kontroll fremheves.

• Hvem som svarer på spørsmål.

Forklarbarhet innebærer ikke å forklare algoritmer i detalj. Det innebærer å kunne redegjøre for rolle, ansvar og kontroll.

Uten definert kommunikasjon kan svar bli personavhengige og inkonsistente.

3. Analytiske hovedpunkter

3.1 Informasjonsplikt og forventningsavklaring

Når KI inngår i diagnostikk, beslutningsstøtte eller journalføring, kan det være relevant å informere om dette.

Informasjonen bør:

• Være nøktern.

• Være presis.

• Klargjøre at KI er et støtteverktøy.

• Presisere at beslutninger tas av autorisert helsepersonell.

Formålet er forventningsavklaring, ikke teknologisk presentasjon.

3.2 KI som støtteverktøy – ikke beslutningstaker

Pasientkommunikasjon bør tydeliggjøre at:

• KI kan bistå i analyse eller dokumentasjon.

• Endelig vurdering alltid gjøres av tannlege.

• Menneskelig skjønn har forrang.

• Ansvar ligger hos klinikken.

Dette reduserer risiko for misforståelser om automatiserte beslutninger.

3.3 Standardiserte formuleringer

For å sikre konsistens kan det være hensiktsmessig å etablere standardformuleringer for:

• Nettside.

• Informasjonsmateriell.

• Samtykketekster der relevant.

• Muntlige svar i klinikken.

Standardisering reduserer risiko for avvikende budskap og uheldig språkbruk.

Språket bør være forklarende – ikke promotere teknologien.

3.4 Skriftlig versus muntlig informasjon

Ikke all KI-bruk krever eksplisitt skriftlig informasjon til pasient.

Ledelsen bør vurdere:

• Hvilke bruksområder som er relevante for pasient.

• Om informasjon bør gis generelt eller situasjonsspesifikt.

• Hvordan informasjon dokumenteres.

Overkommunikasjon kan skape unødig usikkerhet. Underkommunikasjon kan skape tillitsbrudd.

Balansen må være bevisst.

3.5 Sammenhengen mellom forklarbarhet og tillit

Forklarbarhet handler ikke primært om teknologi. Den handler om tillit.

En klinikk som kan forklare:

• Hvorfor KI brukes.

• Hvordan kontroll utøves.

• Hvem som har ansvar.

• Hvordan pasientsikkerhet ivaretas.

står bedre rustet dersom spørsmål oppstår fra pasient, media eller tilsyn.

Taushet eller uklare svar kan skape unødig mistillit.

4. Intern avklaringsmatrise

Følgende forhold bør være eksplisitt definert:

1. Brukes KI i klinisk sammenheng?

2. Hvilken informasjon er relevant for pasient?

3. Hvordan beskrives KI som støtteverktøy?

4. Hvordan fremheves menneskelig kontroll?

5. Hvem er ansvarlig for pasientinformasjon?

6. Finnes standardiserte formuleringer?

7. Hvordan håndteres spørsmål fra pasient eller media?

8. Hvordan dokumenteres kommunikasjon ved behov?

Dersom disse forholdene ikke er avklart, er forklarbarheten personavhengig.

5. Avsluttende syntese

Forklarbarhet er ikke teknisk transparens. Det er organisatorisk tydelighet.

Når KI brukes i tannhelse, må klinikken kunne forklare:

• Hva teknologien gjør.

• Hva den ikke gjør.

• Hvem som har ansvar.

• Hvordan menneskelig kontroll utøves.

En strukturert kommunikasjon reduserer risiko for misforståelser og styrker tilliten mellom klinikk og pasient.

Teknologi kan være kompleks.
Forklaringen bør være enkel.