Når AI indirekte påvirker kliniske beslutninger

Indledning

Kunstig intelligens bruges i stigende grad i systemer, der indgår i tandklinikkers daglige arbejde. Teknologien kan analysere billeder, foreslå journaltekst eller bidrage til strukturering af klinisk information.

I mange tilfælde fungerer AI som et støtteværktøj og tager ikke beslutninger direkte. Alligevel kan systemet påvirke, hvordan information præsenteres, og dermed indirekte påvirke kliniske vurderinger.

Denne artikel forklarer, hvordan sådan indirekte påvirkning kan opstå, og hvorfor det er vigtigt, at tandklinikker forstår, hvordan AI påvirker kliniske beslutningsprocesser.

Hvad menes med AI-brug inden for tandpleje?

AI inden for tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Eksempler på brug kan være:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

Sådanne systemer præsenterer ofte analyser eller forslag, som klinikeren kan bruge som del af vurderingsgrundlaget.

Selvom AI ikke selv træffer beslutninger, kan systemets analyser eller præsentation af information påvirke, hvordan situationer vurderes i praksis. 

Hvor opstår ansvarsproblemet?

Indirekte påvirkning kan opstå, når systemets output påvirker, hvordan klinikeren opfatter eller tolker information.

Dette kan for eksempel ske når:

• et system markerer bestemte områder i et røntgenbillede

• analyser fremhæver enkelte fund frem for andre

• AI foreslår formuleringer i journalen

• systemet præsenterer prioriterede alternativer i en analyse

I sådanne situationer kan systemet påvirke brugerens opmærksomhed.

Selvom beslutningen stadig tages af klinikeren, kan teknologien bidrage til at forme, hvordan information forstås.

Dette gør det relevant at forstå, hvordan AI påvirker kliniske beslutningsprocesser – også når påvirkningen er indirekte.

Almindelige misforståelser

«Hvis AI ikke træffer beslutninger, påvirker den heller ikke beslutninger»

Selv støtteværktøjer kan påvirke, hvordan information præsenteres og tolkes.

Dette kan indirekte påvirke, hvordan vurderinger foretages.

«Indirekte påvirkning er uproblematisk»

Indirekte påvirkning er ikke nødvendigvis problematisk, men den bør forstås.

Når klinikker ved, hvordan systemer påvirker arbejdsprocesser, bliver det lettere at bruge dem bevidst.

«Dette gælder kun avanceret diagnostisk AI»

Også enkle AI-funktioner kan påvirke, hvordan information præsenteres.

For eksempel kan automatiseret journaltekst eller prioriterede forslag påvirke, hvordan information tolkes.

«Leverandøren kontrollerer dette»

Leverandøren udvikler systemet, men virksomheden må forstå, hvordan teknologien påvirker arbejde i praksis.

Dette gælder især hvordan ansatte bruger og tolker systemets output.

Hvad bør være på plads i praksis?

Når AI kan påvirke kliniske vurderinger indirekte, kan nogle organisatoriske principper bidrage til bedre kontrol.

Bevidsthed om teknologiens rolle

Ansatte bør være klar over, at systemet præsenterer analyser eller forslag – ikke endelige konklusioner.

Dette kan bidrage til mere bevidst brug af teknologien.

Tydeligt fagligt ansvar

Det bør være klart, at kliniske beslutninger tages af fagpersoner.

AI kan bidrage med analyse, men ansvaret for vurderingen ligger hos behandleren.

Opfølgning på hvordan systemet bruges

Virksomheden kan overvåge, hvordan systemet bruges i praksis og hvordan ansatte tolker resultaterne.

Dette kan bidrage til at identificere situationer, hvor systemet påvirker vurderingerne mere end forventet.

Uddannelse i systemets begrænsninger

Brugere bør forstå, hvilke situationer systemet fungerer godt i, og hvor det kan være mindre pålideligt.

Dette kan bidrage til mere kritisk vurdering af systemets output.

Dokumentation af AI-brug

Oversigt over hvilke AI-systemer der bruges i klinikken, gør det lettere at forstå, hvordan teknologi påvirker arbejdsprocesser.

Dette kan også bidrage til bedre styring af teknologibrugen.

Acteras rolle i dette

Actera er etableret for at give tandhelsevirksomheder struktur omkring ansvarlig brug af AI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så AI kan bruges på en sikker, forudsigelig og efterprøvelig måde.

Afsluttende bemærkning

AI-systemer behøver ikke tage beslutninger direkte for at påvirke kliniske vurderinger.

Måden information præsenteres på kan påvirke, hvordan fagpersoner opfatter og tolker situationer.

Når tandklinikker er bevidste om sådanne mekanismer, bliver det lettere at bruge teknologien som støtte uden at den utilsigtet påvirker faglige vurderinger.