Hva bør kunne forklares i ettertid hvis det oppstår spørsmål?

Når KI brukes i klinikken, kan det oppstå spørsmål i ettertid – fra pasienter, ledelse eller tilsyn. Da er det avgjørende hva man faktisk kan forklare.

Kort svar

Klinikken bør kunne forklare hva som ble gjort, hvordan KI ble brukt, og hvilke vurderinger som ble gjort av mennesker. Det handler ikke om tekniske detaljer, men om å gjøre bruken forståelig og etterprøvbar.

Hva dette betyr i praksis

• Hva KI ble brukt til i den konkrete situasjonen

• Hvordan KI påvirket informasjon, vurdering eller beslutning

• Hvilken rolle behandleren hadde i vurderingen

• Hvilke vurderinger som ble gjort før resultatet ble brukt

• Om bruken var i tråd med klinikkens praksis

Hva dette betyr for ansvar

Å kunne forklare i ettertid er en del av ansvar. Hvis klinikken ikke kan redegjøre for hva som er gjort, blir det vanskelig å stå inne for beslutningene. Forklarbarhet handler derfor ikke om teknologi, men om kontroll og bevisst bruk.

Når dette blir viktig å strukturere

Dette blir særlig viktig når KI brukes i pasientnære prosesser eller påvirker vurderinger. Da bør klinikken ikke bare kunne forklare enkeltstående tilfeller, men ha en praksis som gjør slike forklaringer konsistente og enkle å gi.