Når KI påvirker kliniske beslutninger indirekte

Ingress

Kunstig intelligens brukes i økende grad i systemer som inngår i tannklinikkers daglige arbeid. Teknologien kan analysere bilder, foreslå journaltekst eller bidra til strukturering av klinisk informasjon.

I mange tilfeller fungerer KI som et støtteverktøy og tar ikke beslutninger direkte. Likevel kan systemet påvirke hvordan informasjon presenteres, og dermed indirekte påvirke kliniske vurderinger.

Denne artikkelen forklarer hvordan slik indirekte påvirkning kan oppstå, og hvorfor det er viktig at tannklinikker forstår hvordan KI påvirker kliniske beslutningsprosesser.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Eksempler på bruk kan være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

Slike systemer presenterer ofte analyser eller forslag som klinikeren kan bruke som del av vurderingsgrunnlaget.

Selv om KI ikke fatter beslutninger selv, kan systemets analyser eller presentasjon av informasjon påvirke hvordan situasjoner vurderes i praksis. 

Hvor oppstår ansvarsspørsmålet?

Indirekte påvirkning kan oppstå når systemets output påvirker hvordan klinikeren oppfatter eller tolker informasjon.

Dette kan for eksempel skje når:

• et system markerer bestemte områder i et røntgenbilde

• analyser fremhever enkelte funn fremfor andre

• KI foreslår formuleringer i journalen

• systemet presenterer prioriterte alternativer i en analyse

I slike situasjoner kan systemet påvirke oppmerksomheten til brukeren.

Selv om beslutningen fortsatt tas av klinikeren, kan teknologien bidra til å forme hvordan informasjon forstås.

Dette gjør det relevant å forstå hvordan KI påvirker kliniske beslutningsprosesser – også når påvirkningen er indirekte.

Vanlige misforståelser

«Hvis KI ikke tar beslutninger, påvirker den heller ikke beslutninger»

Selv støtteverktøy kan påvirke hvordan informasjon presenteres og tolkes.

Dette kan indirekte påvirke hvordan vurderinger gjøres.

«Indirekte påvirkning er uproblematisk»

Indirekte påvirkning er ikke nødvendigvis problematisk, men den bør forstås.

Når klinikker vet hvordan systemer påvirker arbeidsprosesser, blir det lettere å bruke dem bevisst.

«Dette gjelder bare avansert diagnostisk KI»

Også enkle KI-funksjoner kan påvirke hvordan informasjon presenteres.

For eksempel kan automatisert journaltekst eller prioriterte forslag påvirke hvordan informasjon tolkes.

«Leverandøren kontrollerer dette»

Leverandøren utvikler systemet, men virksomheten må forstå hvordan teknologien påvirker arbeid i praksis.

Dette gjelder spesielt hvordan ansatte bruker og tolker systemets output.

Hva bør være på plass i praksis?

Når KI kan påvirke kliniske vurderinger indirekte, kan noen organisatoriske prinsipper bidra til bedre kontroll.

Bevissthet om teknologiens rolle

Ansatte bør være klar over at systemet presenterer analyser eller forslag – ikke endelige konklusjoner.

Dette kan bidra til mer bevisst bruk av teknologien.

Tydelig faglig ansvar

Det bør være klart at kliniske beslutninger tas av fagpersoner.

KI kan bidra med analyse, men ansvaret for vurderingen ligger hos behandleren.

Oppfølging av hvordan systemet brukes

Virksomheten kan følge med på hvordan systemet brukes i praksis og hvordan ansatte tolker resultatene.

Dette kan bidra til å identifisere situasjoner hvor systemet påvirker vurderinger mer enn forventet.

Opplæring i systemets begrensninger

Brukere bør forstå hvilke situasjoner systemet fungerer godt i, og hvor det kan være mindre pålitelig.

Dette kan bidra til mer kritisk vurdering av systemets output.

Dokumentasjon av KI-bruk

Oversikt over hvilke KI-systemer som brukes i klinikken gjør det lettere å forstå hvordan teknologi påvirker arbeidsprosesser.

Dette kan også bidra til bedre styring av teknologibruken.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI-systemer trenger ikke ta beslutninger direkte for å påvirke kliniske vurderinger.

Måten informasjon presenteres på kan påvirke hvordan fagpersoner oppfatter og tolker situasjoner.

Når tannklinikker er bevisste på slike mekanismer, blir det lettere å bruke teknologien som støtte uten at den utilsiktet påvirker faglige vurderinger.