Hva betyr høy risiko i KI-sammenheng?

Begrepet “høy risiko” brukes særlig i forbindelse med regulering av kunstig intelligens. For klinikker handler det om når bruk av KI får større konsekvenser og dermed strengere krav.

Kort svar

Høy risiko i KI-sammenheng betyr at et KI-system kan påvirke helse, sikkerhet eller rettigheter på en måte som krever strengere kontroll og dokumentasjon. Jo større konsekvensene kan være, desto høyere regnes risikoen.

Hva dette betyr i praksis

• KI som påvirker diagnostikk eller behandling kan være høy risiko

• Krav til dokumentasjon og kontroll øker

• Det stilles høyere krav til forståelse av hvordan systemet fungerer

• Bruken må være tydelig definert og begrunnet

• Det kan stilles krav fra myndigheter og tilsyn

Hva dette betyr for ansvar

Når KI regnes som høy risiko, blir det tydeligere at ansvar ikke kan være uformelt. Klinikken må kunne vise hvordan bruken styres, hvem som har ansvar, og hvordan feil håndteres. Risiko handler ikke bare om teknologi – men om konsekvenser og kontroll.

Når dette blir viktig å strukturere

Dette blir særlig viktig når KI går fra administrativ støtte til å påvirke faglige vurderinger. Da er det ikke lenger tilstrekkelig med enkel bruk – det må være klare rammer, dokumentasjon og oppfølging.