Vad betyder hög risk i KI-sammanhang?

Begreppet “hög risk” används särskilt i samband med reglering av artificiell intelligens. För kliniker handlar det om när användningen av KI får större konsekvenser och därmed strängare krav.

Kort svar

Hög risk i KI-sammanhang betyder att ett KI-system kan påverka hälsa, säkerhet eller rättigheter på ett sätt som kräver striktare kontroll och dokumentation. Ju större konsekvenserna kan vara, desto högre anses risken vara.

Vad detta betyder i praktiken

• KI som påverkar diagnostik eller behandling kan vara hög risk

• Krav på dokumentation och kontroll ökar

• Det ställs högre krav på förståelse för hur systemet fungerar

• Användningen måste vara tydligt definierad och motiverad

• Det kan ställas krav från myndigheter och tillsynsorgan

Vad detta betyder för ansvar

När KI betraktas som hög risk, blir det tydligare att ansvar inte kan vara informellt. Kliniken måste kunna visa hur användningen styrs, vem som har ansvar och hur fel hanteras. Risk handlar inte bara om teknologi – utan om konsekvenser och kontroll.

När detta blir viktigt att strukturera

Detta blir särskilt viktigt när KI går från administrativt stöd till att påverka vetenskapliga bedömningar. Då är det inte längre tillräckligt med enkel användning – det måste finnas tydliga ramar, dokumentation och uppföljning.