Skjult KI i klinikkprogramvare: ansvar og risiko

Ingress

Kunstig intelligens er i ferd med å bli en integrert del av mange kliniske og administrative systemer i tannhelsetjenesten. Ofte skjer dette gjennom oppdateringer eller nye funksjoner i eksisterende programvare, uten at teknologien nødvendigvis presenteres tydelig som KI.

Når slike funksjoner påvirker arbeidsflyt, dokumentasjon eller vurderinger i klinikken, kan det oppstå situasjoner hvor teknologiens rolle er uklar – både for ansatte og for ledelsen.

Denne artikkelen forklarer hvilke typer skjulte KI-funksjoner som kan finnes i klinikkens programvare, hvilke ansvarsspørsmål dette kan skape, og hvilke styringsprinsipper som bør være på plass.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse handler ikke bare om avanserte diagnostiske systemer eller analyse av røntgenbilder. I praksis kan kunstig intelligens være integrert i en rekke funksjoner i klinikkens daglige programvare.

Eksempler kan være:

• automatiske forslag til journaltekst

• prioritering eller sortering av pasienthenvendelser

• beslutningsstøtte i behandlingsplanlegging

• automatisert kommunikasjon med pasienter

• analyse av klinikkdata for rapportering eller planlegging

I mange tilfeller opptrer disse funksjonene ikke som egne systemer, men som små komponenter inne i større journalsystemer, administrasjonssystemer eller kommunikasjonstjenester.

Det betyr at KI kan påvirke arbeidsprosesser uten at brukerne nødvendigvis oppfatter det som kunstig intelligens.

Dette gjør begrepet skjult KI relevant. Det handler ikke om hemmelige systemer, men om funksjoner hvor KI-logikken ligger innebygget i programvaren uten tydelig merking eller organisatorisk forankring.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår først og fremst når KI påvirker beslutningsgrunnlag, dokumentasjon eller pasientkommunikasjon – uten at virksomheten har en tydelig oversikt over hvordan teknologien brukes.

Tre situasjoner er særlig vanlige.

1. Programvareoppdateringer som introduserer KI-funksjoner

Mange leverandører bygger i dag inn automatiserte analyser, tekstgenerering eller anbefalingssystemer i eksisterende produkter. Disse kan komme gjennom oppdateringer uten at virksomheten aktivt har valgt å ta i bruk KI.

2. Automatiserte forslag som påvirker faglige vurderinger

Systemer som foreslår journaltekst, behandlingsbeskrivelser eller administrative beslutninger kan påvirke hvordan informasjon tolkes eller dokumenteres.

3. Manglende oversikt over systemets funksjonalitet

Hvis ledelsen ikke vet hvilke KI-komponenter som finnes i systemene, blir det vanskelig å vurdere risiko, etablere kontroll eller forklare teknologien overfor pasienter og tilsynsmyndigheter.

I slike situasjoner oppstår det et klassisk governance-problem: Teknologien brukes i praksis, men uten tydelig organisatorisk styring. Dette er en av de mest typiske utfordringene i moderne KI-bruk i helse. 

Vanlige misforståelser

«KI tar beslutningen»

Selv når programvare bruker KI til å analysere data eller foreslå løsninger, ligger det faglige og juridiske ansvaret fortsatt hos virksomheten og helsepersonellet.

KI fungerer i praksis som beslutningsstøtte. Den kan påvirke hvordan informasjon presenteres eller hvilke alternativer som foreslås, men den erstatter ikke klinisk vurdering.

Dette betyr at ansvar ikke flyttes bort fra klinikken selv om teknologien er innebygget i programvaren.

«Hvis KI er innebygd i systemet, er det leverandørens ansvar»

Leverandøren har ansvar for selve teknologien og hvordan den er utviklet. Men når systemet tas i bruk i en klinisk virksomhet, oppstår et eget ansvar for hvordan funksjonen faktisk brukes.

Dette inkluderer blant annet:

• hvilke prosesser KI inngår i

• hvem som bruker funksjonen

• hvordan resultatene vurderes og kontrolleres

Ansvar kan derfor ikke fullt ut outsources til programvareleverandøren.

«Dette gjelder bare avanserte KI-systemer»

En utbredt antakelse er at styring av KI kun er relevant for avanserte diagnostiske systemer eller forskning.

I praksis kan også enkle funksjoner ha betydning. Selv små automatiseringer kan påvirke:

• journalføring

• informasjonsgrunnlag for beslutninger

• pasientkommunikasjon

Når slike funksjoner inngår i klinikkens arbeidsprosesser, bør de forstås og vurderes som en del av virksomhetens KI-bruk.

«Hvis vi ikke vet at KI brukes, har vi heller ikke ansvar»

Manglende oversikt fritar ikke virksomheten fra ansvar. Tvert imot kan ukjent bruk av KI skape større risiko, fordi teknologiens påvirkning på arbeidsprosesser ikke er forstått eller dokumentert.

Dette er en av grunnene til at kartlegging av faktisk KI-bruk blir et sentralt første steg i moderne KI-styring. 

Hva bør være på plass i praksis?

Når KI-funksjoner kan ligge skjult i klinikkens programvare, blir oversikt og struktur særlig viktig.

I praksis vil mange virksomheter ha behov for å etablere noen grunnleggende styringsprinsipper.

Kartlegging av faktisk KI-bruk

Det første steget er å identifisere hvilke systemer og funksjoner som faktisk bruker KI. Dette inkluderer både dedikerte verktøy og funksjoner som er innebygget i eksisterende programvare.

Tydelige roller og ansvar

Ledelsen bør ha definert hvem som har ansvar for vurdering, godkjenning og oppfølging av KI-funksjoner i virksomheten.

Menneskelig kontroll

Ansatte må forstå at automatiske forslag og analyser alltid skal vurderes faglig. Systemet skal støtte arbeidet – ikke erstatte det.

Dokumentasjon og sporbarhet

Virksomheten bør kunne forklare hvilke KI-funksjoner som brukes, hva de gjør, og hvilke prosesser de inngår i.

Forklarbarhet overfor pasienter og tilsyn

Når teknologi påvirker beslutningsgrunnlag eller kommunikasjon, kan det også oppstå behov for å forklare hvordan systemene fungerer på et overordnet nivå.

Slike strukturer handler ikke først og fremst om teknologi, men om organisering og kontroll.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI vil i økende grad bli en del av programvaren klinikker allerede bruker. Ofte skjer dette gradvis, gjennom funksjoner som integreres i eksisterende systemer.

Dette gjør oversikt og forståelse viktigere enn tidligere. Når teknologiens rolle blir mindre synlig, blir behovet for struktur og ansvar enda tydeligere.

For ledelsen i en klinikk handler derfor spørsmålet ikke bare om hvilke KI-verktøy man velger å ta i bruk, men også om hvilke teknologier som allerede påvirker arbeidet – ofte uten at det er åpenbart.