Beslutningsstøtte er ikke nøytral: hvordan KI påvirker kliniske valg

Ingress

KI-baserte beslutningsstøtter omtales ofte som nøytrale hjelpemidler – verktøy som skal støtte, men ikke styre, kliniske vurderinger. I praksis inngår de likevel i beslutningssituasjoner der menneskelig skjønn, tidspress og organisatoriske rammer allerede er til stede.

Når KI presenterer analyser, forslag eller prioriteringer, påvirker det hvordan informasjon tolkes og hvilke alternativer som fremstår som mest relevante. Denne påvirkningen er sjelden eksplisitt, men likevel reell.

Denne artikkelen forklarer hvorfor beslutningsstøtte ikke er nøytral, hvordan KI påvirker kliniske valg på kognitive og organisatoriske nivåer, og hvorfor dette gjør bruken styringsrelevant – også når KI formelt sett «bare støtter».

Hva menes med KI-basert beslutningsstøtte?

Beslutningsstøtte med KI omfatter systemer som analyserer data og presenterer innsikt, anbefalinger eller prioriteringer til mennesker som tar beslutninger. I klinisk sammenheng kan dette være støtte til:

– vurdering av risiko eller sannsynlighet
– prioritering av pasienter, oppgaver eller ressurser
– fremheving av mønstre i journal- eller aktivitetsdata
– strukturering eller sammenstilling av informasjonsgrunnlag

Felles for disse løsningene er at de ikke fatter beslutninger på vegne av klinikeren. De gir input til vurderingen. Nettopp derfor omtales de ofte som ufarlige eller nøytrale.

Hvor oppstår påvirkningen?

Påvirkningen oppstår ikke fordi KI «bestemmer», men fordi den former beslutningssituasjonen. Det skjer på flere nivåer samtidig.

For det første påvirkes oppmerksomhet. Det som løftes frem av systemet, oppleves ofte som mer relevant enn det som ikke vises. Kliniske vurderinger starter sjelden fra blanke ark.

For det andre påvirkes tolkning. Tall, risikoscorer eller anbefalinger gir en ramme for hvordan informasjon forstås, selv når klinikeren er uenig eller kritisk.

For det tredje påvirkes handlingsrommet. Når enkelte alternativer fremstår som mer «datastøttede» enn andre, kan terskelen for å velge dem bli lavere – særlig i situasjoner med tidspress eller høy kompleksitet.

Denne typen påvirkning er ikke individuell eller tilfeldig. Den er systematisk og gjentas hver gang verktøyet brukes.

Vanlige misforståelser

«Støtte påvirker ikke faglig skjønn»

Faglig skjønn utøves alltid i en kontekst. Beslutningsstøtte endrer denne konteksten ved å strukturere informasjon og foreslå tolkningsrammer. Skjønnet forsvinner ikke, men det formes.

«Så lenge mennesket tar beslutningen, er ansvaret uendret»

Formelt er dette riktig. I praksis er beslutninger ofte et resultat av samspill mellom menneske, system og organisasjon. Når KI påvirker hva som vurderes og hvordan, blir ansvaret også et spørsmål om styring av denne påvirkningen.

«Erfarne klinikere lar seg ikke påvirke»

Erfaring reduserer ikke nødvendigvis påvirkning. Studier og praksis viser at også erfarne fagpersoner tilpasser vurderinger til tilgjengelig informasjon, spesielt når den presenteres som systematisk eller datadrevet.

«Dette er et individuelt kompetansespørsmål»

Påvirkningen er i stor grad strukturell. Den handler om hvordan systemer er designet, integrert og brukt i arbeidshverdagen – ikke bare om enkeltpersoners ferdigheter.

Hva bør være på plass i praksis?

Når beslutningsstøtte forstås som påvirkningsfaktor, ikke bare hjelpemiddel, endres også kravene til styring.

Det bør blant annet være på plass:

– Bevissthet om påvirkning
Organisasjonen bør erkjenne at beslutningsstøtte former valg, og behandle dette som en del av styringsansvaret.

– Klare rammer for bruk
Det bør være tydelig i hvilke situasjoner KI-støtte er relevant, og hvor den ikke skal brukes som beslutningsgrunnlag.

– Opplæring som inkluderer kognitiv påvirkning
Brukere bør forstå hvordan systemet kan påvirke vurderinger, ikke bare hvordan det teknisk fungerer.

– Mulighet for refleksjon og overstyring
Arbeidsprosesser bør gi rom for å stille spørsmål ved KI-output, også når den fremstår plausibel.

– Dokumentasjon av beslutningskontekst
Når KI inngår i beslutningsgrunnlaget, bør dette være kjent og etterprøvbart, særlig i ettertid.

Dette bidrar til å gjøre påvirkningen synlig og håndterbar, uten å redusere nytteverdien av støtten.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Beslutningsstøtte med KI er aldri helt nøytral. Den påvirker hva som oppfattes som relevant, sannsynlig og forsvarlig – ofte uten at dette er eksplisitt.

Å anerkjenne denne påvirkningen er ikke et argument mot bruk av KI, men et nødvendig utgangspunkt for god styring. Når påvirkningen forstås og håndteres, kan beslutningsstøtte bidra til bedre kliniske valg uten å undergrave faglig autonomi.