Hvordan undersøke hendelser der KI er involvert

Ingress

Kunstig intelligens inngår i stadig flere systemer i tannhelsetjenesten. Teknologien kan bidra til analyse av røntgenbilder, generere forslag til journaltekst eller støtte administrative prosesser.

Når en uønsket hendelse oppstår i klinikken, kan KI i enkelte tilfeller ha vært en del av situasjonen. Det kan da være nødvendig å undersøke hvilken rolle teknologien faktisk spilte.

Denne artikkelen forklarer hvordan tannklinikker kan undersøke hendelser der KI er involvert, og hvordan slike analyser kan bidra til bedre forståelse og kontroll av teknologien.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Eksempler på bruk kan være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I mange tilfeller fungerer slike systemer som støtteverktøy. De genererer analyser eller forslag som inngår i klinikerens vurderingsgrunnlag.

Når teknologien inngår i arbeidsprosesser på denne måten, kan den også bli en del av hendelser der noe ikke fungerer som forventet. 

Hvor oppstår ansvarsspørsmålet?

Når en hendelse undersøkes i en klinikk, kan det være nødvendig å avklare hvilken rolle ulike faktorer spilte.

Hvis KI var involvert, kan spørsmål oppstå som:

• hva systemet faktisk gjorde i situasjonen

• hvordan resultatet fra systemet ble presentert

• hvordan ansatte tolket eller brukte systemets output

Uten en strukturert undersøkelse kan det være vanskelig å forstå om teknologien:

• påvirket beslutningsgrunnlaget

• bidro til misforståelser

• eller bare var en del av konteksten uten direkte betydning

Undersøkelsen handler derfor først og fremst om å rekonstruere hendelsesforløpet.

Vanlige misforståelser

«Hvis KI var involvert, er teknologien årsaken»

Hendelser i klinisk arbeid har ofte flere årsaker.

KI kan ha vært én faktor i situasjonen, men det betyr ikke nødvendigvis at teknologien alene forklarer hendelsen.

«Undersøkelsen må være teknisk»

I mange tilfeller handler undersøkelsen mer om arbeidsprosesser enn om algoritmer.

Det viktigste er å forstå hvordan systemet ble brukt i situasjonen.

«Dette gjelder bare avansert diagnostisk KI»

Også enklere KI-funksjoner kan påvirke hvordan informasjon presenteres eller tolkes.

Derfor kan slike systemer også være relevante i hendelsesanalyser.

«En hendelse betyr at systemet bør fjernes»

Undersøkelsen bør først avklare hva som skjedde.

Deretter kan virksomheten vurdere om bruken av systemet bør endres, begrenses eller videreføres.

Hva bør være på plass i praksis?

Når en hendelse der KI kan være involvert undersøkes, kan noen trinn bidra til en mer strukturert analyse.

Kartlegg hendelsesforløpet

Det første steget er å rekonstruere hva som skjedde.

Dette kan innebære å avklare:

• hvilken oppgave som ble utført

• hvilke systemer som ble brukt

• hvilke vurderinger som ble gjort av fagpersoner

Avklar teknologiens rolle

Deretter kan det vurderes hvordan KI-systemet inngikk i situasjonen.

Dette kan inkludere:

• hvilken analyse eller anbefaling systemet ga

• hvordan informasjonen ble presentert

• hvordan resultatet ble brukt i arbeidet

Vurder hvordan resultatet ble tolket

Det kan være relevant å forstå hvordan ansatte oppfattet systemets output.

For eksempel:

• ble resultatet oppfattet som et forslag

• ble det oppfattet som en bekreftelse

• eller skapte det usikkerhet i vurderingen

Undersøk om lignende hendelser finnes

Hvis lignende hendelser har oppstått tidligere, kan dette indikere et mønster.

Det kan da være relevant å se nærmere på hvordan systemet brukes i praksis.

Dokumenter læringspunkter

Formålet med undersøkelsen er ikke bare å forklare en enkelt hendelse, men også å identifisere læring.

Dette kan bidra til:

• bedre forståelse av teknologiens begrensninger

• justering av arbeidsprosesser

• tydeligere kontroll av KI-bruken

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Når KI blir en del av klinikkens arbeid, kan teknologien også bli en del av hendelser som oppstår i praksis.

En strukturert undersøkelse av slike hendelser gjør det mulig å forstå teknologiens rolle og identifisere hvordan systemet bør brukes fremover.

Dette bidrar til bedre kontroll, mer læring og mer ansvarlig bruk av kunstig intelligens i klinisk arbeid.