Leverandørdokumentasjon for KI i tannhelse

Ingress

Kunstig intelligens integreres i økende grad i programvare som brukes i tannhelsetjenesten. Dette kan gjelde både kliniske systemer, journalsystemer og administrative verktøy.

Når slike løsninger tas i bruk, blir leverandørens dokumentasjon en viktig del av virksomhetens forståelse av teknologien. Uten tilstrekkelig informasjon kan det være vanskelig å vurdere hvordan systemet fungerer, hvilke data det bruker, og hvilke begrensninger som finnes.

Denne artikkelen forklarer hva leverandørdokumentasjon for KI innebærer, hvorfor den er viktig, og hvilke typer informasjon virksomheter bør ha tilgang til.

Hva menes med KI-bruk i tannhelse?

KI i tannhelse omfatter digitale systemer som analyserer data, genererer forslag eller støtter beslutninger gjennom statistiske eller maskinlæringsbaserte metoder.

Slike systemer kan brukes i flere deler av virksomheten, for eksempel:

• analyse av røntgenbilder

• forslag til journaltekst eller dokumentasjon

• automatisert pasientkommunikasjon

• planlegging og prioritering av behandling

• analyse av klinikkdata og drift

KI kan være en egen løsning, men den kan også være integrert i større programvaresystemer. I slike tilfeller kan teknologien være en komponent i et journalsystem, et røntgenprogram eller et administrativt verktøy.

Når KI inngår i klinikkens digitale infrastruktur, blir dokumentasjon viktig for å forstå hvordan teknologien fungerer og hvilke begrensninger den har. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår når klinikken bruker teknologi som påvirker beslutningsgrunnlag eller arbeidsprosesser uten at virksomheten har tilstrekkelig innsikt i hvordan systemet fungerer.

Leverandørdokumentasjon er derfor ikke bare teknisk informasjon. Den er en viktig del av virksomhetens evne til å:

• forstå hva systemet gjør

• vurdere hvilke risikoer som kan oppstå

• forklare teknologien overfor ansatte, pasienter eller tilsynsmyndigheter

Dersom dokumentasjonen er mangelfull, kan det bli vanskelig å avklare:

• hvilke data systemet bruker

• hvordan analyser eller anbefalinger genereres

• hvilke begrensninger teknologien har

I praksis kan dette skape usikkerhet rundt både bruk og ansvar.

Vanlige misforståelser

«Leverandøren håndterer alt»

Det er vanlig å anta at teknologileverandøren håndterer alle spørsmål knyttet til KI-systemet.

I praksis har leverandøren ansvar for utviklingen av teknologien, men virksomheten har fortsatt ansvar for hvordan systemet brukes i klinisk arbeid.

For å kunne utøve dette ansvaret trenger klinikken innsikt i systemets egenskaper.

«Teknisk dokumentasjon er bare relevant for utviklere»

Mange KI-systemer leveres med teknisk dokumentasjon som primært er skrevet for ingeniører.

I helsevirksomheter er det imidlertid behov for dokumentasjon som også kan forstås av ledere, fagpersoner og tilsynsmyndigheter.

Dokumentasjonen bør derfor forklare systemets funksjon og begrensninger på et nivå som er relevant for virksomhetens drift.

«Hvis systemet fungerer, trenger vi ikke dokumentasjon»

Selv systemer som fungerer godt i praksis kan ha begrensninger eller risikoområder som ikke er åpenbare for brukerne.

Dokumentasjon gjør det mulig å forstå når teknologien fungerer godt, og når den bør brukes med særlig oppmerksomhet.

«Leverandørens dokumentasjon er tilstrekkelig i seg selv»

Leverandørdokumentasjon er et viktig grunnlag, men den må ofte suppleres med virksomhetens egne vurderinger av hvordan systemet brukes i praksis.

Dette gjelder spesielt når teknologien inngår i kliniske eller administrative beslutningsprosesser.

Hva bør være på plass i praksis?

Når en klinikk vurderer eller bruker KI-baserte systemer, er det noen typer informasjon som ofte er viktige å få fra leverandøren.

Beskrivelse av systemets formål

Dokumentasjonen bør forklare hva systemet er utviklet for å gjøre, og hvilke oppgaver det er ment å støtte.

Oversikt over datagrunnlaget

Det bør være mulig å forstå hvilke typer data systemet er trent på eller analyserer.

Dette er viktig for å vurdere hvor godt systemet kan fungere i klinikkens kontekst.

Informasjon om begrensninger

Alle KI-systemer har begrensninger. Dokumentasjonen bør beskrive situasjoner hvor systemet kan gi mindre pålitelige resultater.

Risiko og kontrollmekanismer

Leverandøren bør kunne forklare hvordan systemet håndterer potensielle feil, og hvilke mekanismer som finnes for kvalitetssikring.

Oppdateringer og endringer

KI-systemer kan endre seg gjennom oppdateringer. Klinikken bør derfor ha tilgang til informasjon om endringer som kan påvirke hvordan systemet fungerer.

Bruksforutsetninger

Dokumentasjonen bør også beskrive hvordan systemet er ment å brukes, og hvilke forutsetninger som må være oppfylt for at det skal fungere som forventet.

Slik informasjon gjør det mulig for virksomheten å vurdere teknologien på en mer strukturert måte.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI vil i økende grad bli en del av systemene som brukes i tannhelsetjenesten.

Når teknologien integreres i klinikkens programvare, blir leverandørdokumentasjon en viktig kilde til innsikt i hvordan systemene fungerer.

For virksomheter handler dette ikke bare om teknologi, men om å ha tilstrekkelig forståelse til å kunne bruke systemene på en trygg og ansvarlig måte.