Hvad betyder forklarbarhed?

Når KI anvendes i praksis, er det ikke nok blot at få et svar. Der opstår også et behov for at forstå, hvordan svaret er blevet til.

Kort svar

Forklarbarhed betyder, at det er muligt at forstå og forklare, hvordan et KI-system er kommet frem til et resultat. Det handler ikke om at forstå al teknologi i detaljer, men om at kunne gøre vurderingerne bag resultatet forståelige.

Hvad dette betyder i praksis

• Det bør være muligt at forklare, hvorfor KI foreslår noget

• Brugeren skal kunne vurdere, om resultatet giver mening

• Det skal være muligt at stille spørgsmål ved output fra KI

• "Svar uden forklaring" bør håndteres med forsigtighed

• Forklaringer skal være forståelige for mennesker, ikke kun tekniske

Hvad dette betyder for ansvar

Forklarbarhed er en forudsætning for ansvar. Hvis man ikke kan forklare, hvorfor noget er gjort, bliver det vanskeligt at stå inde for beslutningen. Med forklarbarhed bliver det muligt at vurdere, korrigere og tage ejerskab til brugen af KI.

Når dette bliver vigtigt at strukturere

Når KI anvendes i situationer, som påvirker faglige vurderinger eller patientbehandling, bliver forklarbarhed kritisk. Da skal det være tydeligt, hvad der kan forklares, hvad der ikke kan forklares fuldt ud, og hvordan dette håndteres i praksis.