Ansvarsplassering ved KI-relaterte feil: Hvem har ansvar i tannklinikken?

1. Kontekstualiserende innledning

Bruk av kunstig intelligens i tannhelse reiser ikke bare spørsmål om effekt og nytte, men om ansvar.

Når et KI-system inngår i diagnostikk, journalføring eller annen klinisk praksis, oppstår et samspill mellom menneskelig vurdering og teknologisk støtte. Dersom en feil oppstår, kan ansvarsbildet fremstå uklart.

EU AI Act tydeliggjør aktørroller, men reguleringen erstatter ikke eksisterende helse- og ledelsesansvar. For tannklinikker innebærer dette at ansvar må være strukturert før en hendelse oppstår – ikke rekonstrueres i etterkant.

Denne mini-guiden avklarer hvordan ansvar bør forstås og plasseres på tre nivåer: klinisk, organisatorisk og systemisk.

2. Operasjonell implikasjon

KI-relaterte feil kan oppstå på ulike nivåer:

• Feil i systemets analyse eller forslag.

• Feil bruk av systemet.

• Manglende overstyring.

• Uklare interne retningslinjer.

• Utilstrekkelig opplæring.

Dersom ansvar ikke er eksplisitt plassert på forhånd, kan det oppstå ansvarspulverisering mellom:

• Behandlende tannlege

• Klinikkledelse

• Leverandør

• Teknisk drift

For ledelsen innebærer dette at ansvarsarkitekturen må være tydelig definert som en del av virksomhetens KI-governance.

3. Analytiske hovedpunkter

3.1 Klinisk beslutningsansvar

Uavhengig av teknologisk støtte ligger det kliniske beslutningsansvaret hos behandlende tannlege.

Dette innebærer at:

• KI-systemets forslag ikke erstatter faglig skjønn.

• Endelig beslutning tas av autorisert helsepersonell.

• Overstyring skal skje når klinisk vurdering tilsier det.

• Journalføring reflekterer menneskelig beslutning.

KI kan påvirke beslutningsgrunnlaget, men ikke overta beslutningsmyndigheten.

Dette prinsippet må være eksplisitt forankret.

3.2 Organisatorisk styringsansvar

Ledelsen har ansvar for rammene rundt KI-bruken.

Dette omfatter:

• Valg og godkjenning av systemer.

• Definering av bruksområde.

• Etablering av menneskelig tilsyn.

• Opplæring av ansatte.

• Dokumentasjon og intern kontroll.

Dersom feil skyldes manglende struktur, manglende retningslinjer eller utilstrekkelig opplæring, er dette et organisatorisk ansvar.

Ledelsesansvar kan ikke individualiseres bort til enkeltbehandler.

3.3 Leverandørens systemansvar

Leverandøren har ansvar for:

• Utvikling og design av systemet.

• Samsvar med regulatoriske krav.

• Teknisk dokumentasjon.

• Kjente begrensninger og risikoinformasjon.

Dersom en feil skyldes teknisk svikt, uriktig modelltrening eller mangelfull dokumentasjon, kan ansvaret ligge på systemnivå.

Dette fritar likevel ikke klinikken fra ansvar for å ha valgt, implementert og brukt systemet innenfor forsvarlige rammer.

3.4 Menneskelig overstyring som strukturelt prinsipp

Mange ansvarskonflikter oppstår når det er uklart om og hvordan KI skal overstyres.

Derfor bør følgende være avklart:

• Når skal KI-resultater vurderes kritisk?

• Hvilke situasjoner krever særlig oppmerksomhet?

• Hvordan dokumenteres avvik mellom KI-forslag og klinisk beslutning?

• Hvordan håndteres systematiske feil?

Human oversight er ikke bare et regulatorisk krav. Det er et forebyggende ansvarsgrep.

3.5 Forhåndsavklaringer før implementering

Ansvarsplassering må være definert før systemet tas i bruk.

Dette innebærer:

• Tydelig rolleavklaring mellom klinisk og organisatorisk nivå.

• Dokumentert beslutningsprosess ved anskaffelse.

• Intern forankring i ledelsen.

• Definerte rutiner for hendelseshåndtering.

Når ansvar først diskuteres etter en hendelse, er strukturen utilstrekkelig.

4. Intern avklaringsmatrise

Følgende spørsmål bør være eksplisitt besvart internt:

1. Hvem har klinisk beslutningsansvar ved bruk av KI?

2. Hvem har overordnet organisatorisk ansvar?

3. Hvordan er leverandørens ansvar avklart kontraktuelt?

4. Når og hvordan skal KI overstyres?

5. Hvordan dokumenteres avvik mellom KI og klinisk vurdering?

6. Hvordan håndteres feil eller nesten-feil?

7. Hvordan evalueres systemets ytelse over tid?

8. Hvem rapporterer til ledelsen ved hendelser?

Dersom disse forholdene ikke er tydelig definert, foreligger risiko for ansvarspulverisering.

5. Avsluttende syntese

KI introduserer ikke et nytt ansvar. Den synliggjør eksisterende ansvar på flere nivåer samtidig.

Klinisk ansvar forblir hos behandlende tannlege.
Organisatorisk ansvar forblir hos ledelsen.
Systemansvar ligger hos leverandør.

Utfordringen oppstår når grensene mellom disse nivåene er uklare.

En tannklinikk som har etablert en eksplisitt ansvarsarkitektur før feil oppstår, styrker både pasientsikkerhet og organisatorisk robusthet.

Ansvar må defineres før det prøves.