KI-verktøy i klinikken: hvilke spørsmål bør stilles før bruk?

Ingress

Kunstig intelligens blir stadig mer tilgjengelig for tannhelsevirksomheter. Nye verktøy kan analysere data, generere tekst, foreslå beslutninger eller automatisere administrative oppgaver.

Samtidig tas mange løsninger i bruk uten at klinikken nødvendigvis har vurdert hvilke konsekvenser teknologien kan ha for arbeidsprosesser, ansvar eller dokumentasjon.

Denne artikkelen beskriver hvilke spørsmål ledelsen bør stille før et KI-verktøy tas i bruk, og hvorfor slike vurderinger er en viktig del av ansvarlig KI-bruk i helse.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse kan omfatte en bred rekke digitale verktøy og funksjoner som analyserer informasjon eller genererer forslag basert på data.

Dette kan blant annet være:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• planlegging av behandlingsforløp

• administrative analyser eller rapportering

Noen løsninger er utviklet spesielt for klinisk bruk, mens andre er generelle KI-verktøy som også kan brukes i helsevirksomheter.

Felles for dem er at teknologien tolker input og genererer output basert på statistiske eller maskinlæringsbaserte metoder. Slike systemer kan påvirke hvordan informasjon presenteres, hvordan arbeid organiseres og hvilke vurderinger som gjøres i praksis. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår når KI-verktøy begynner å påvirke arbeidsprosesser, beslutningsgrunnlag eller kommunikasjon i klinikken.

Dette kan for eksempel skje når:

• ansatte bruker KI til å generere journaltekst

• KI foreslår behandlingsalternativer

• automatiserte analyser påvirker prioritering av pasienter

• KI brukes i kommunikasjon med pasienter

Når slike verktøy tas i bruk uten en tydelig vurdering på forhånd, kan det bli uklart:

• hva verktøyet faktisk gjør

• hvilke data som behandles

• hvilke risikoer som finnes

• hvem som har ansvar for bruken

I praksis handler dette om styring. KI bør ikke bare vurderes som et nytt digitalt verktøy, men som en teknologi som kan påvirke både faglige vurderinger og organisasjonens ansvar. 

Vanlige misforståelser

«Hvis verktøyet er tilgjengelig, kan det brukes»

At et KI-verktøy er lett tilgjengelig betyr ikke nødvendigvis at det er egnet for bruk i klinisk arbeid.

Noen verktøy er utviklet for generelle formål og kan gi svar eller analyser som ikke er tilpasset medisinsk kontekst.

Derfor bør bruksområdet vurderes før verktøyet tas i bruk i virksomheten.

«Dette er bare et hjelpemiddel»

Selv når KI kun brukes som støtteverktøy, kan den påvirke hvordan informasjon presenteres og hvordan beslutninger tas.

Eksempler kan være:

• hvordan journaltekst formuleres

• hvilke alternativer som foreslås

• hvilke data som fremheves

Små påvirkninger kan over tid endre hvordan arbeid utføres i praksis.

«Ansvar ligger hos leverandøren»

Teknologileverandører har ansvar for hvordan systemet er utviklet, men virksomheten har ansvar for hvordan teknologien brukes i praksis.

Dette gjelder blant annet:

• hvilke oppgaver verktøyet brukes til

• hvem som bruker det

• hvilke prosesser det inngår i

Ansvar for bruk kan derfor ikke fullt ut overføres til leverandøren.

«Dette kan vurderes senere»

Når KI først er integrert i arbeidsprosesser, kan det være vanskeligere å etablere struktur og kontroll i etterkant.

Derfor er det ofte enklere å stille noen grunnleggende spørsmål før verktøyet tas i bruk.

Hva bør være på plass i praksis?

Før et KI-verktøy tas i bruk i klinikken, kan det være nyttig å avklare noen sentrale spørsmål. Disse spørsmålene gir ledelsen et bedre grunnlag for å forstå hvordan teknologien vil påvirke virksomheten.

1. Hva skal verktøyet faktisk brukes til?

Formålet bør være tydelig definert. Skal verktøyet brukes til administrativ støtte, analyse, kommunikasjon eller noe som kan påvirke kliniske vurderinger?

2. Hvilke beslutninger eller prosesser påvirkes?

Jo mer et system påvirker beslutninger, prioriteringer eller dokumentasjon, desto viktigere blir styring og kontroll.

3. Hvilke data behandles?

KI-verktøy kan håndtere ulike typer data, inkludert personopplysninger eller helsedata. Det er derfor viktig å forstå hvilke data som brukes og hvordan de behandles.

4. Hvem skal bruke verktøyet – og hvordan?

Ansatte må forstå hvordan verktøyet fungerer, hvilke begrensninger det har, og når faglig vurdering må overstyre systemet.

5. Hvordan oppdages feil eller avvik?

Alle KI-systemer kan gjøre feil. Klinikken bør derfor vite hvordan slike feil kan identifiseres og håndteres.

6. Hvordan dokumenteres bruken av verktøyet?

Oversikt over hvilke KI-systemer som brukes i virksomheten er en viktig del av moderne KI-styring.

Disse spørsmålene handler ikke om å stoppe teknologibruk, men om å sikre at den skjer på en strukturert og forståelig måte.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI vil i økende grad bli en del av både kliniske og administrative verktøy i tannhelsetjenesten.

Spørsmålet for virksomheter er derfor ikke bare hvilke teknologier som finnes, men hvordan de tas i bruk.

Ved å stille noen grunnleggende spørsmål før et KI-verktøy innføres, kan klinikker skape bedre oversikt, tydeligere ansvar og mer forutsigbar bruk av teknologien.