Hva betyr menneskelig kontroll?

Mange bruker KI som støtte i arbeidshverdagen. Da oppstår spørsmålet: Hvor går grensen mellom støtte og faktisk kontroll?

Kort svar

Menneskelig kontroll betyr at et menneske forstår, vurderer og tar ansvar for det KI-systemet foreslår eller produserer. KI kan gi innspill, men det er alltid mennesket som skal godkjenne, justere eller avvise resultatet.

Hva dette betyr i praksis

• KI kan gi forslag, men ikke ta beslutninger alene

• Resultater må vurderes før de brukes

• Brukeren må forstå hva KI-en gjør og ikke gjør

• Det må være mulig å stoppe eller overstyre KI

• Bruken må kunne forklares i ettertid

Hva dette betyr for ansvar

Menneskelig kontroll er det som gjør det mulig å beholde tydelig ansvar når KI tas i bruk. Uten reell kontroll blir ansvaret uklart. Med kontroll er det fortsatt klart at det er mennesket – ikke teknologien – som står bak vurderingene.

Når dette blir viktig å strukturere

Når KI brukes jevnlig eller i flere deler av klinikken, holder det ikke at hver enkelt vurderer selv. Da må det være en felles forståelse av hva “kontroll” faktisk betyr i praksis, og hvordan den sikres i arbeidshverdagen.