Hva betyr menneskelig tilsyn i praksis?

“Menneskelig tilsyn” er et sentralt prinsipp ved bruk av KI. Likevel kan det være uklart hva det faktisk betyr i en travel klinisk hverdag.

Kort svar

Menneskelig tilsyn betyr at et menneske forstår, vurderer og har kontroll over det KI gjør. KI kan støtte arbeidet, men det er alltid en person som må ta stilling til resultatet før det brukes.

Hva dette betyr i praksis

• KI-resultater skal alltid vurderes før de brukes

• Tannlegen må kunne oppdage feil eller misvisende forslag

• KI skal ikke brukes som en automatisk beslutningstaker

• Det må være mulig å overstyre eller ignorere KI-output

• Bruken må være bevisst, ikke automatisk

Hva dette betyr for ansvar

Menneskelig tilsyn er det som holder ansvaret hos behandleren. Uten aktiv vurdering kan KI i praksis styre beslutninger, selv om det ikke er intensjonen. Tilsyn handler derfor om å sikre at menneskelig vurdering alltid er det avgjørende leddet.

Når dette blir viktig å strukturere

Dette blir særlig viktig når KI brukes ofte eller i pasientnære vurderinger. Da bør det være en felles forståelse av hva tilsyn innebærer i praksis – ikke bare som prinsipp, men som konkret arbeidsmåte.