Når leverandører bruker KI uten at klinikken vet det

Kunstig intelligens blir i økende grad en del av programvare og digitale tjenester som brukes i helsetjenesten. I mange tilfeller implementeres slike funksjoner av programvareleverandører som en del av produktutviklingen.

For klinikker kan dette innebære at KI brukes i systemer de allerede benytter – uten at teknologien nødvendigvis er synlig eller tydelig kommunisert som kunstig intelligens.

Dette kan gjelde alt fra analysefunksjoner og automatiserte forslag til generering av tekst eller prioritering av informasjon i brukergrensesnittet.

Når slike funksjoner tas i bruk gjennom oppdateringer eller nye moduler, kan KI bli en del av klinikkens arbeidsprosesser uten at virksomheten har vurdert eller besluttet bruken.

Denne artikkelen forklarer hvordan leverandører kan bruke KI i sine løsninger uten at klinikken nødvendigvis er klar over det, og hvorfor dette er relevant for virksomhetens styring av teknologi.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter systemer som analyserer data, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I klinisk praksis kan dette blant annet innebære:

• analyse av røntgenbilder

• støtte til journalføring eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

I mange tilfeller leveres slike funksjoner direkte som en del av programvare som klinikken allerede bruker.

Dermed kan KI være til stede uten at det fremstår som et eget system.

Hvor oppstår ansvarsspørsmålet?

Spørsmålet oppstår når KI brukes i programvare som klinikken har anskaffet – men hvor selve KI-funksjonaliteten ikke er tydelig identifisert.

Tre situasjoner er vanlige.

Funksjoner introduseres gjennom programvareoppdateringer

Leverandører oppdaterer jevnlig sine systemer. Nye KI-baserte funksjoner kan bli lagt til uten at det gjennomføres en egen implementeringsprosess hos klinikken.

KI brukes i bakgrunnsprosesser

Noen funksjoner kan analysere data eller prioritere informasjon uten at dette er synlig for brukeren.

Eksempler kan være:

• automatisert sortering av informasjon

• analyse av kliniske data

• forslag til tekst eller handlinger

Leverandøren omtaler funksjonen annerledes

KI-funksjoner kan beskrives som:

• automatisering

• smart analyse

• beslutningsstøtte

• intelligente funksjoner

Dermed kan det være uklart at teknologien faktisk er basert på kunstig intelligens.

Vanlige misforståelser

«Hvis vi ikke har kjøpt et KI-system, bruker vi ikke KI»

I praksis kan KI være innebygd i eksisterende systemer.

Teknologien kan derfor være til stede selv om klinikken ikke har anskaffet et spesifikt KI-verktøy.

«Leverandøren har fullt ansvar for teknologien»

Leverandøren utvikler og leverer systemet, men det er virksomheten som bestemmer hvordan systemet brukes i praksis.

Dermed ligger ansvaret for operativ bruk hos klinikken.

«KI er alltid synlig for brukeren»

Noen KI-funksjoner er tydelige, for eksempel analyse av røntgenbilder.

Andre kan operere i bakgrunnen, for eksempel ved å prioritere informasjon eller foreslå handlinger.

«Dette gjelder bare avanserte systemer»

Selv mindre funksjoner kan være basert på KI dersom de analyserer data og genererer forslag.

Hva bør være på plass i praksis?

For klinikker handler håndtering av slike situasjoner først og fremst om å etablere oversikt over teknologi og leverandører.

Flere tiltak kan være relevante.

Gjennomgang av leverandørfunksjoner

Virksomheten kan undersøke hvilke funksjoner som finnes i programvaren som brukes i klinikken.

Dette kan innebære dialog med leverandører om hvilke deler av systemet som baserer seg på kunstig intelligens.

Kartlegging av hvordan systemene brukes

Det er også viktig å forstå hvordan systemene faktisk brukes i arbeidshverdagen.

Dette kan avdekke hvor KI påvirker arbeidsprosesser.

Dokumentasjon av systembruk

Når funksjoner identifiseres, kan virksomheten dokumentere:

• systemnavn

• hvilke KI-funksjoner som finnes

• hvilke oppgaver de brukes til

• hvilke prosesser de påvirker

Dette kan inngå i et enkelt KI-register.

Vurdering av organisatoriske konsekvenser

Virksomheten kan også vurdere hvordan teknologien påvirker:

• dokumentasjon

• kliniske vurderinger

• pasientkommunikasjon

• administrative prosesser

Slike kartlegginger samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å vite hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutninger. 

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Dette inkluderer blant annet kartlegging av teknologi, analyse av leverandørløsninger og etablering av oversikt over hvor KI faktisk inngår i virksomhetens systemer. 

Avsluttende betraktning

Kunstig intelligens er i økende grad innebygget i programvare som allerede brukes i helsetjenesten.

Dermed kan KI være en del av klinikkens arbeid uten at teknologien er tydelig identifisert.

For virksomheter blir derfor oversikt over leverandørløsninger en viktig del av styringen av teknologi.

Når klinikken vet hvor KI faktisk finnes i systemene, blir det også mulig å etablere tydelig ansvar og kontroll rundt bruken.