Vad betyder förklarbarhet?

När AI används i praktiken räcker det inte bara att få ett svar. Det uppstår också ett behov av att förstå hur svaret har blivit till.

Kort svar

Förklarbarhet innebär att det är möjligt att förstå och förklara hur ett AI-system har kommit fram till ett resultat. Det handlar inte om att förstå all teknologi i detalj, utan om att kunna göra bedömningarna bakom resultatet begripliga.

Vad detta innebär i praktiken

• Det bör vara möjligt att förklara varför AI föreslår något

• Användaren måste kunna bedöma om resultatet är rimligt

• Det måste vara möjligt att ifrågasätta AI:s resultat

• “Svar utan förklaring” bör behandlas med försiktighet

• Förklaringarna måste vara begripliga för människor, inte bara tekniska

Vad detta innebär för ansvar

Förklarbarhet är en förutsättning för ansvar. Om man inte kan förklara varför något har gjorts, blir det svårt att stå för beslutet. Med förklarbarhet blir det möjligt att bedöma, korrigera och ta ägarskap för användningen av AI.

När detta blir viktigt att strukturera

När AI används i situationer som påverkar professionella bedömningar eller patientvård, blir förklarbarhet kritiskt. Då måste det vara tydligt vad som kan förklaras, vad som inte kan förklaras fullt ut, och hur detta hanteras i praktiken.