Risikoanalyse før KI tas i bruk i tannklinikk

Ingress

Kunstig intelligens blir stadig mer tilgjengelig i systemer som brukes i tannhelsetjenesten. Teknologien kan bidra til analyse av bilder, støtte dokumentasjon eller automatisere administrative oppgaver.

Før slike systemer tas i bruk i en klinikk, oppstår et sentralt spørsmål: hvilke risikoer kan teknologien introdusere i virksomhetens arbeid.

Denne artikkelen forklarer hva en risikoanalyse av KI innebærer, hvorfor den er viktig før implementering, og hvilke forhold tannklinikker typisk bør vurdere før et KI-verktøy tas i bruk.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Slike systemer kan blant annet brukes til:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I mange tilfeller opptrer KI som en del av eksisterende klinikkprogramvare. Teknologien kan dermed påvirke hvordan informasjon presenteres, hvordan vurderinger gjøres og hvordan arbeidsprosesser organiseres.

Når KI inngår i slike prosesser, kan det oppstå nye typer risiko knyttet til både teknologi, arbeidsflyt og ansvar. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår særlig når KI påvirker beslutningsgrunnlag, dokumentasjon eller arbeidsprosesser i klinikken.

Dette kan for eksempel skje når:

• et system analyserer røntgenbilder og markerer funn

• KI genererer forslag til journaltekst

• automatiserte analyser påvirker planlegging eller prioritering

• systemet brukes i kommunikasjon med pasienter

Hvis slike funksjoner tas i bruk uten en forutgående vurdering av risiko, kan det bli uklart:

• hvordan systemets output skal vurderes

• hvilke situasjoner systemet fungerer dårlig i

• hvordan feil kan oppdages

• hvem som har ansvar for oppfølging

En risikoanalyse før implementering gjør det mulig å avklare slike spørsmål før systemet blir en del av klinikkens daglige arbeid.

Vanlige misforståelser

«Risikoanalyse er bare relevant for avansert diagnostisk KI»

Selv relativt enkle KI-funksjoner kan påvirke arbeidsprosesser eller dokumentasjon.

Derfor kan også slike systemer være relevante å vurdere før de tas i bruk.

«Leverandøren har allerede gjort risikoanalysen»

Leverandøren kan ha vurdert teknologiske risikoer i systemet.

Men virksomheten må også vurdere hvordan systemet påvirker egen praksis, arbeidsflyt og ansvar.

«Dette er først relevant etter at systemet tas i bruk»

Risikoanalyse er mest nyttig før implementering.

Når systemet først er integrert i arbeidsprosesser, kan det være vanskeligere å endre hvordan det brukes.

«Risikoanalyse betyr omfattende tekniske vurderinger»

I klinisk praksis handler risikoanalyse ofte mer om organisasjon enn teknologi.

Det viktigste er å forstå hvordan systemet brukes og hvilke konsekvenser det kan få i arbeidshverdagen.

Hva bør være på plass i praksis?

En risikoanalyse før implementering av KI trenger ikke være omfattende. Formålet er først og fremst å identifisere forhold som kan påvirke klinikkens arbeid.

Noen spørsmål er særlig relevante.

Hva skal systemet brukes til?

Klinikken bør tydelig definere formålet med bruken.

Er systemet ment å støtte analyse, dokumentasjon, administrasjon eller beslutningsprosesser?

Hvilke arbeidsprosesser påvirkes?

Det bør vurderes hvordan systemet inngår i klinikkens arbeidsflyt.

Dette kan bidra til å identifisere situasjoner hvor teknologien kan påvirke vurderinger eller prioriteringer.

Hvilke feil kan oppstå?

Alle KI-systemer kan gjøre feil.

Risikoanalysen bør derfor identifisere situasjoner hvor systemet kan gi misvisende eller ufullstendige resultater.

Hvordan oppdages feil?

Klinikken bør vurdere hvordan ansatte kan oppdage når systemets output ikke er korrekt eller relevant.

Dette henger tett sammen med menneskelig kontroll.

Hvem har ansvar for oppfølging?

Det bør være tydelig hvem i virksomheten som har ansvar for oppfølging av systemet etter implementering.

Dette kan inkludere ansvar for:

• oppfølging av erfaringer fra bruk

• håndtering av avvik

• oppfølging av oppdateringer

Hvordan dokumenteres vurderingen?

Risikoanalysen bør dokumenteres kort og forståelig.

Dette gjør det mulig å forklare hvorfor systemet ble tatt i bruk, og hvilke vurderinger som ble gjort.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Når KI tas i bruk i tannklinikker, blir teknologi en del av klinikkens faglige og organisatoriske praksis.

En enkel risikoanalyse før implementering kan bidra til å identifisere utfordringer tidlig og skape bedre forståelse av hvordan systemet bør brukes.

Dette gir virksomheten et bedre grunnlag for ansvarlig og kontrollert bruk av kunstig intelligens i klinisk arbeid.