Hvad betyder høj risiko i KI-sammenhæng?

Begrebet “høj risiko” bruges særligt i forbindelse med regulering af kunstig intelligens. For klinikker handler det om, hvornår brugen af KI får større konsekvenser og dermed strengere krav.

Kort svar

Høj risiko i KI-sammenhæng betyder, at et KI-system kan påvirke sundhed, sikkerhed eller rettigheder på en måde, der kræver strengere kontrol og dokumentation. Jo større konsekvenserne kan være, desto højere regnes risikoen.

Hvad dette betyder i praksis

• KI som påvirker diagnostik eller behandling kan være høj risiko

• Krav til dokumentation og kontrol øges

• Der stilles højere krav til forståelse af, hvordan systemet fungerer

• Brugen skal være tydeligt defineret og begrundet

• Der kan stilles krav fra myndigheder og tilsyn

Hvad dette betyder for ansvar

Når KI regnes som høj risiko, bliver det tydeligere, at ansvar ikke kan være uformelt. Klinikken skal kunne vise, hvordan brugen styres, hvem der har ansvar, og hvordan fejl håndteres. Risiko handler ikke kun om teknologi – men om konsekvenser og kontrol.

Hvornår dette bliver vigtigt at strukturere

Dette bliver særlig vigtigt, når KI går fra administrativ støtte til at påvirke faglige vurderinger. Da er det ikke længere tilstr