Hvordan vurdere KI-leverandører i tannhelse

Kunstig intelligens blir stadig mer tilgjengelig gjennom programvare og digitale tjenester som tilbys til helsetjenesten. I tannhelse kan slike løsninger brukes til analyse av røntgenbilder, støtte til journalføring, automatisering av administrative oppgaver eller analyse av kliniske data.

For mange klinikker oppstår KI derfor først og fremst gjennom leverandører. Teknologien leveres som en funksjon i programvare, som en modul i eksisterende systemer eller som en ekstern tjeneste.

Når KI introduseres gjennom leverandører, oppstår et sentralt styringsspørsmål: Hvordan bør virksomheten vurdere slike løsninger før de tas i bruk?

Denne artikkelen forklarer hvilke organisatoriske og styringsmessige forhold tannklinikker normalt bør vurdere når de vurderer KI-leverandører.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter digitale systemer som analyserer informasjon, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I en tannklinikk kan slike løsninger blant annet brukes til:

• analyse av røntgenbilder eller diagnostiske data

• forslag til journaltekst eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Mange av disse funksjonene leveres gjennom programvareleverandører som integrerer teknologien i eksisterende systemer.

Dermed blir vurdering av leverandører også en vurdering av hvordan teknologi påvirker klinikkens arbeidsprosesser.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår ofte når KI oppfattes som en leverandørfunksjon snarere enn en del av virksomhetens egne systemer.

Tre forhold er særlig relevante.

Teknologien utvikles eksternt

KI-løsninger utvikles ofte av eksterne leverandører. Klinikken har derfor begrenset innsikt i hvordan teknologien er utviklet.

Systemet inngår i klinikkens arbeid

Når løsningen tas i bruk i klinikken, påvirker den likevel arbeidsprosesser, dokumentasjon eller analyse.

Leverandøren kontrollerer teknologien

Oppdateringer, endringer i funksjonalitet og utvikling av systemet skjer ofte hos leverandøren.

Dette gjør at virksomheten må forstå hvordan leverandørens teknologi påvirker klinikkens drift.

Vanlige misforståelser

«Leverandøren har ansvaret for teknologien»

Leverandøren utvikler og leverer systemet.

Når teknologien tas i bruk i klinikken, blir det imidlertid virksomheten som har ansvar for hvordan systemet anvendes i praksis.

«Alle KI-løsninger fungerer likt»

KI-løsninger kan være basert på ulike typer data, modeller og analysemetoder.

Dermed kan funksjonalitet og bruksområder variere betydelig mellom leverandører.

«Vurdering gjelder bare tekniske egenskaper»

Teknologiske egenskaper er viktige, men vurdering av KI-leverandører handler også om organisatoriske forhold, som ansvar, dokumentasjon og styring.

«Dette er en vanlig programvareanskaffelse»

KI-løsninger kan påvirke hvordan informasjon analyseres og hvordan forslag genereres i klinikken.

Dermed kan vurderingen også berøre kliniske arbeidsprosesser og dokumentasjon.

Hva bør være på plass i praksis?

Når en tannklinikk vurderer en KI-leverandør, kan flere spørsmål være relevante for å forstå hvordan teknologien vil fungere i virksomheten.

Forstå hva systemet faktisk gjør

Virksomheten bør avklare:

• hvilke oppgaver systemet utfører

• hvilke analyser eller forslag det genererer

• hvilke data som brukes i prosessen

Dette gir en bedre forståelse av hvordan teknologien påvirker arbeidshverdagen.

Vurdere hvilke arbeidsprosesser som påvirkes

KI-systemer kan påvirke ulike deler av klinikkens arbeid.

Eksempler kan være:

• diagnostisk analyse

• journalføring

• administrative oppgaver

• pasientkommunikasjon

En slik vurdering gjør det lettere å forstå hvilken rolle teknologien vil få i virksomheten.

Avklare ansvar for bruk av systemet

Virksomheten bør også vurdere:

• hvem som godkjenner bruk av systemet

• hvem som følger opp leverandøren

• hvem som har ansvar for daglig bruk

Dokumentere bruken i virksomheten

Når systemet tas i bruk, kan det registreres i klinikkens KI-register.

Dette kan inkludere informasjon om:

• leverandør

• system

• formål

• bruksområde

• ansvarlig rolle

Følge opp systemet over tid

KI-systemer kan utvikle seg gjennom oppdateringer og nye funksjoner.

Virksomheten bør derfor følge opp hvordan systemet brukes og hvordan funksjonaliteten utvikler seg.

Slike vurderinger samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å forstå hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutningsprosesser. 

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Dette inkluderer blant annet vurdering av leverandørløsninger, kartlegging av KI-systemer og etablering av dokumentasjon som gir virksomheter bedre oversikt over hvordan teknologien påvirker arbeid og beslutningsprosesser. 

Avsluttende betraktning

For mange tannklinikker vil kunstig intelligens først og fremst bli tilgjengelig gjennom programvareleverandører.

Dermed blir vurdering av leverandører også en vurdering av hvordan teknologien vil inngå i klinikkens arbeid.

Når virksomheten forstår hva systemet gjør, hvilke prosesser det påvirker og hvordan bruken organiseres, blir det mulig å ta i bruk teknologien på en mer strukturert og etterprøvbar måte.