Hva betyr forklarbarhet?

Når KI brukes i praksis, holder det ikke bare å få et svar. Det oppstår også et behov for å forstå hvordan svaret har blitt til.

Kort svar

Forklarbarhet betyr at det er mulig å forstå og forklare hvordan et KI-system har kommet frem til et resultat. Det handler ikke om å forstå all teknologi i detalj, men om å kunne gjøre vurderingene bak resultatet forståelige.

Hva dette betyr i praksis

• Det bør være mulig å forklare hvorfor KI foreslår noe

• Brukeren må kunne vurdere om resultatet gir mening

• Det må være mulig å stille spørsmål ved output fra KI

• “Svar uten forklaring” bør behandles med varsomhet

• Forklaringer må være forståelige for mennesker, ikke bare tekniske

Hva dette betyr for ansvar

Forklarbarhet er en forutsetning for ansvar. Hvis man ikke kan forklare hvorfor noe er gjort, blir det vanskelig å stå inne for beslutningen. Med forklarbarhet blir det mulig å vurdere, korrigere og ta eierskap til bruken av KI.

Når dette blir viktig å strukturere

Når KI brukes i situasjoner som påvirker faglige vurderinger eller pasientbehandling, blir forklarbarhet kritisk. Da må det være tydelig hva som kan forklares, hva som ikke kan forklares fullt ut, og hvordan dette håndteres i praksis.