Hvad betyder det, at KI-brug skal kunne forklares og dokumenteres?

Et centralt krav ved brug af KI er, at anvendelsen ikke blot skal være nyttig – den skal også kunne forklares og dokumenteres. Mange oplever, at dette er uklart i praksis.

Kort svar

At kunne forklare og dokumentere KI-brug betyder, at klinikken skal forstå, hvordan KI anvendes, hvad det påvirker, og kunne vise dette efterfølgende. Det handler ikke om tekniske detaljer, men om at gøre brugen forståelig og efterprøvelig.

Hvad dette betyder i praksis

• Du skal kunne forklare, hvad KI anvendes til i klinikken

• Du skal vide, hvordan KI påvirker vurderinger eller arbejdsprocesser

• Det skal være klart, hvem der bruger KI og i hvilke situationer

• Brugen bør være beskrevet i en enkel, fælles praksis

• Det skal være muligt at redegøre for brugen efterfølgende

Hvad dette betyder for ansvar

Forklarbarhed og dokumentation er en del af ansvar. Hvis der rejses spørgsmål – fra patient, ledelse eller myndigheder – skal klinikken kunne vise, hvad der er gjort og hvorfor. Uden dette bliver ansvaret vanskeligt at efterprøve, selv om intentionen har været god.

Hvornår dette bliver vigtigt at strukturere

Dette bliver særligt vigtigt, når KI anvendes regelmæssigt, af flere ansatte, eller i patientnære processer. Da er det ikke nok, at enkeltpersoner “ved, hvad de gør”. Brugen skal være fælles forstået, beskrevet og forklaret på en konsistent måde.