Hva betyr menneskelig kontroll i praksis?

Når KI brukes i tannhelse, snakkes det ofte om at det må være “menneskelig kontroll”. Det kan høres abstrakt ut, men handler om noe ganske konkret i arbeidshverdagen.

Kort svar

Menneskelig kontroll betyr at det alltid er et menneske som forstår, vurderer og står ansvarlig for resultatet. KI kan gi forslag, men det er mennesker som tar beslutninger og har kontroll over hva som faktisk brukes.

Hva dette betyr i praksis

• KI-resultater må alltid vurderes før de brukes

• Tannlegen må forstå hva som legges til grunn for resultatet

• Det er mennesket som tar den endelige beslutningen

• KI skal ikke brukes “automatisk” uten gjennomgang

• Det må være mulig å stoppe eller overstyre KI

• Bruken må kunne forklares i ettertid

Hva dette betyr for ansvar

Menneskelig kontroll er det som gjør at ansvaret forblir hos tannlegen og klinikken. Uten reell kontroll blir det uklart hvem som står bak vurderingene. Med kontroll blir det tydelig at KI er et verktøy – ikke en beslutningstaker.

Når dette blir viktig å strukturere

Dette blir særlig viktig når KI brukes i vurderinger, journalføring eller pasientkommunikasjon. Da bør det være tydelige forventninger til hvordan resultater kontrolleres, og hva som kreves før noe tas i bruk.