Ansvarsplacering ved KI-relaterede fejl: Hvem har ansvar på tandklinikken?

1. Kontekstualiserende indledning

Brug af kunstig intelligens i tandpleje rejser ikke kun spørgsmål om effektivitet og nytte, men også om ansvar.

Når et KI-system indgår i diagnostik, journalføring eller anden klinisk praksis, opstår en interaktion mellem menneskelig vurdering og teknologisk støtte. Hvis der opstår en fejl, kan ansvarsfordelingen fremstå uklar.

EU AI Act tydeliggør aktørroller, men reguleringen erstatter ikke eksisterende sundheds- og ledelsesansvar. For tandklinikker betyder det, at ansvar skal være struktureret før en hændelse opstår – ikke rekonstrueres efterfølgende.

Denne mini-guide klarlægger, hvordan ansvar bør forstås og placeres på tre niveauer: klinisk, organisatorisk og systemisk.

2. Operationel implikation

KI-relaterede fejl kan opstå på forskellige niveauer:

• Fejl i systemets analyse eller forslag.

• Forkert brug af systemet.

• Manglende overstyring.

• Uklare interne retningslinjer.

• Utilstrækkelig oplæring.

Hvis ansvar ikke er eksplicit placeret på forhånd, kan der opstå ansvarspulverisering mellem:

• Behandlende tandlæge

• Klinikledelse

• Leverandør

• Teknisk drift

For ledelsen betyder dette, at ansvarsarkitekturen skal være tydeligt defineret som en del af virksomhedens KI-governance.

3. Analytiske hovedpunkter

3.1 Klinisk beslutningsansvar

Uanset teknologisk støtte ligger det kliniske beslutningsansvar hos behandlende tandlæge.

Dette indebærer:

• KI-systemets forslag erstatter ikke faglig skøn.

• Endelig beslutning tages af autoriseret sundhedspersonale.

• Overstyring skal ske, når klinisk vurdering tilsiger det.

• Journalføring reflekterer menneskelig beslutning.

KI kan påvirke beslutningsgrundlaget, men ikke overtage beslutningsmyndigheden.

Dette princip skal være eksplicit forankret.

3.2 Organisatorisk styringsansvar

Ledelsen har ansvar for rammerne omkring KI-brugen.

Dette omfatter:

• Valg og godkendelse af systemer.

• Definition af anvendelsesområde.

• Etablering af menneskelig tilsyn.

• Oplæring af medarbejdere.

• Dokumentation og intern kontrol.

Hvis fejl skyldes manglende struktur, manglende retningslinjer eller utilstrækkelig oplæring, er dette et organisatorisk ansvar.

Ledelsesansvar kan ikke individualiseres væk til enkelte behandlere.

3.3 Leverandørens systemansvar

Leverandøren har ansvar for:

• Udvikling og design af systemet.

• Overholdelse af regulatoriske krav.

• Teknisk dokumentation.

• Kendte begrænsninger og risikoinformation.

Hvis en fejl skyldes teknisk svigt, fejlagtig modellering eller mangelfuld dokumentation, kan ansvaret ligge på systemniveau.

Dette fritager dog ikke klinikken for ansvar for at have valgt, implementeret og brugt systemet inden for forsvarlige rammer.

3.4 Menneskelig overstyring som strukturelt princip

Mange ansvarskonflikter opstår, når det er uklart om og hvordan KI skal overstyres.

Derfor bør følgende være afklaret:

• Når skal KI-resultater vurderes kritisk?

• Hvilke situationer kræver særlig opmærksomhed?

• Hvordan dokumenteres afvigelser mellem KI-forslag og klinisk beslutning?

• Hvordan håndteres systematiske fejl?

Human oversight er ikke kun et regulatorisk krav. Det er et forebyggende ansvarsinitiativ.

3.5 Forhåndsafklaringer før implementering

Ansvarsplacering skal være defineret, før systemet tages i brug.

Dette indebærer:

• Tydelig rolleafklaring mellem klinisk og organisatorisk niveau.

• Dokumenteret beslutningsproces ved anskaffelse.

• Intern forankring i ledelsen.

• Definerede rutiner for hændelseshåndtering.

Når ansvar først diskuteres efter en hændelse, er strukturen utilstrækkelig.

4. Intern afklaringsmatrice

Følgende spørgsmål bør være eksplicit besvaret internt:

1. Hvem har klinisk beslutningsansvar ved brug af KI?

2. Hvem har overordnet organisatorisk ansvar?

3. Hvordan er leverandørens ansvar afklaret kontraktuelt?

4. Når og hvordan skal KI overstyres?

5. Hvordan dokumenteres afvigelser mellem KI og klinisk vurdering?

6. Hvordan håndteres fejl eller næsten-fejl?

7. Hvordan evalueres systemets ydeevne over tid?

8. Hvem rapporterer til ledelsen ved hændelser?

Hvis disse forhold ikke er tydeligt defineret, foreligger der risiko for ansvarspulverisering.

5. Afsluttende syntese

KI introducerer ikke et nyt ansvar. Den synliggør eksisterende ansvar på flere niveauer samtidig.

Klinisk ansvar forbliver hos behandlende tandlæge.
Organisatorisk ansvar forbliver hos ledelsen.
Systemansvar ligger hos leverandør.

Udfordringen opstår, når grænserne mellem disse niveauer er uklare.

En tandklinik, der har etableret en eksplicit ansvarsarkitektur før fejl opstår, styrker både patientsikkerhed og organisatorisk robusthed.

Ansvar skal defineres, før det prøves.