Skjult KI i programvare: hva klinikken bør vite

Kunstig intelligens blir ofte omtalt som en egen teknologi – noe som installeres, implementeres eller tas i bruk gjennom et nytt system. I praksis opptrer KI i stadig større grad som en integrert del av eksisterende programvare.

I tannhelsetjenesten kan KI derfor være til stede i systemer klinikken allerede bruker daglig, uten at det nødvendigvis oppfattes som kunstig intelligens.

Dette kan gjelde funksjoner i journalsystemer, røntgenanalyse, tekstgenerering eller administrative analyseverktøy.

Når KI er integrert i programvare på denne måten, kan teknologien påvirke arbeidsprosesser uten at virksomheten har tatt en tydelig beslutning om bruken.

Denne artikkelen forklarer hva skjult KI i programvare betyr i praksis, hvor slike funksjoner typisk finnes, og hvorfor det er relevant for klinikker å ha oversikt over dette.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter systemer som analyserer data, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I klinisk praksis kan dette blant annet innebære:

• analyse av røntgenbilder

• støtte til journalføring eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Tradisjonelt har slike systemer vært egne løsninger som installeres eller integreres i klinikkens IT-systemer.

I dag leveres imidlertid mange KI-funksjoner direkte som en del av eksisterende programvare.

Dermed kan teknologien være til stede uten at den fremstår som et eget system.

Hvor oppstår ansvarsspørsmålet?

Skjult KI i programvare skaper ofte uklarhet rundt bruken av teknologien.

Dette kan oppstå i flere situasjoner.

Når KI leveres som en funksjon i eksisterende systemer

Programvareleverandører kan legge til KI-baserte funksjoner gjennom oppdateringer eller nye moduler.

Eksempler kan være:

• analyse av røntgenbilder

• automatiske forslag til journaltekst

• analyse av pasientdata

Når KI oppfattes som en vanlig funksjon

Ansatte kan bruke slike funksjoner uten å oppfatte dem som kunstig intelligens.

Dermed kan teknologien inngå i arbeidshverdagen uten at virksomheten har vurdert bruken.

Når funksjonalitet endres over tid

Programvare oppdateres kontinuerlig. Nye KI-funksjoner kan bli tilgjengelige uten at klinikken aktivt har etterspurt dem.

Dette kan gjøre det vanskelig å ha oversikt over hvordan teknologien faktisk brukes.

Vanlige misforståelser

«Vi bruker ikke KI»

Mange virksomheter antar at de ikke bruker kunstig intelligens.

I praksis kan KI allerede være en del av funksjonaliteten i systemer klinikken bruker daglig.

«Dette er bare programvare»

Når KI er integrert i eksisterende systemer, kan den oppfattes som en vanlig funksjon.

Samtidig kan slike funksjoner analysere data eller generere forslag som påvirker hvordan informasjon tolkes.

«Leverandøren håndterer alt»

Selv om teknologi utvikles av programvareleverandører, er det virksomheten som bestemmer hvordan systemet brukes i praksis.

Dermed ligger ansvaret for operativ bruk hos klinikken.

«Små funksjoner spiller liten rolle»

Selv mindre KI-funksjoner kan påvirke arbeidsprosesser dersom de brukes i dokumentasjon, analyse eller kommunikasjon.

Hva bør være på plass i praksis?

For klinikker handler håndtering av skjult KI først og fremst om å skape oversikt over hvor teknologien finnes.

Flere tiltak kan være relevante.

Kartlegging av programvare

Virksomheten bør identifisere hvilke systemer som brukes i klinikken, for eksempel:

• journalsystemer

• røntgensystemer

• administrative systemer

• kommunikasjonsverktøy

Dette gir et utgangspunkt for å vurdere hvor KI-funksjoner kan være til stede.

Undersøke hvilke funksjoner som bruker KI

Neste steg er å identifisere hvilke funksjoner i systemene som baserer seg på kunstig intelligens.

Dette kan innebære:

• analysefunksjoner

• automatisert tekstgenerering

• automatiske forslag eller anbefalinger

Dokumentere hvordan funksjonene brukes

Når slike funksjoner identifiseres, kan virksomheten dokumentere:

• hvilken funksjon som brukes

• hva formålet er

• hvilke arbeidsprosesser som påvirkes

Dette kan inngå i et enkelt KI-register.

Vurdere organisatorisk betydning

Virksomheten bør også vurdere hvordan funksjonene påvirker:

• kliniske vurderinger

• dokumentasjon

• pasientkommunikasjon

• administrative prosesser

Dette gir grunnlag for videre styring av teknologien.

Slike kartlegginger samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å vite hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutningsprosesser. 

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Kartlegging av skjult KI i programvare er ofte en viktig del av dette arbeidet, fordi mange virksomheter først oppdager omfanget av teknologien når systemene analyseres systematisk. 

Avsluttende betraktning

Kunstig intelligens er i økende grad innebygget i programvare som allerede brukes i helsetjenesten.

Dette gjør at teknologien kan være til stede i klinikken uten at den fremstår som et eget system.

For virksomheter handler derfor ansvarlig KI-bruk ofte om å forstå hvor teknologien faktisk finnes – ikke bare hvilke systemer som er implementert.

Når denne oversikten er på plass, blir det lettere å etablere struktur rundt hvordan teknologien brukes og følges opp.