Vad betyder det att KI-användning måste kunna förklaras och dokumenteras?

Ett centralt krav vid användning av KI är att användningen inte bara ska vara nyttig – den ska också kunna förklaras och dokumenteras. För många upplevs detta som oklart i praktiken.

Kort svar

Att kunna förklara och dokumentera KI-användning innebär att kliniken måste förstå hur KI används, vad det påverkar, och kunna visa detta i efterhand. Det handlar inte om tekniska detaljer, utan om att göra användningen begriplig och möjlig att granska.

Vad detta betyder i praktiken

• Du måste kunna förklara vad KI används till i kliniken

• Du måste veta hur KI påverkar bedömningar eller arbetsprocesser

• Det måste vara klart vem som använder KI och i vilka situationer

• Användningen bör vara beskriven i en enkel, gemensam praxis

• Det måste vara möjligt att redogöra för användningen i efterhand

Vad detta betyder för ansvar

Förklarbarhet och dokumentation är en del av ansvar. Om något ifrågasätts – från patient, ledning eller myndigheter – måste kliniken kunna visa vad som har gjorts och varför. Utan detta blir ansvaret svårt att granska, även om avsikten har varit god.

När detta blir viktigt att strukturera

Detta blir särskilt viktigt när KI används regelbundet, av flera anställda, eller i patientnära processer. Då räcker det inte att enskilda personer ”vet vad de gör”. Användningen måste vara gemensamt förstådd, beskriven och möjlig att förklara på ett konsekvent sätt.