Ansvar ved kjøp av KI-basert programvare

Kunstig intelligens blir i økende grad tilgjengelig gjennom programvare som tilbys til helsetjenesten. I tannhelse kan slike løsninger brukes til analyse av røntgenbilder, støtte til journalføring, automatisering av administrative oppgaver og analyse av kliniske data.

For mange klinikker skjer introduksjonen av KI derfor gjennom anskaffelse av programvare fra eksterne leverandører. Teknologien inngår i systemer som implementeres i klinikkens daglige arbeid.

Når KI tas i bruk gjennom programvareanskaffelser, oppstår et viktig organisatorisk spørsmål: Hvilket ansvar har virksomheten selv ved kjøp og bruk av slike løsninger?

Denne artikkelen forklarer hvordan ansvar ved anskaffelse av KI-basert programvare kan forstås i en tannklinikk, og hvilke forhold som vanligvis bør vurderes før og etter at systemet tas i bruk.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter systemer som analyserer informasjon, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I en tannklinikk kan dette blant annet innebære:

• analyse av røntgenbilder eller diagnostiske data

• forslag til journaltekst eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Mange av disse funksjonene leveres gjennom programvare fra eksterne leverandører.

Når slike løsninger tas i bruk i klinikken, blir de en del av virksomhetens arbeidsprosesser og dokumentasjonssystemer.

Dermed blir anskaffelsen ikke bare en teknologisk beslutning, men også en organisatorisk og styringsmessig beslutning.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår ofte fordi KI-basert programvare utvikles av leverandører, mens den brukes i klinikkens arbeid.

Tre forhold er særlig relevante.

Teknologien utvikles utenfor virksomheten

Leverandøren utvikler systemet og kontrollerer den tekniske løsningen.

Systemet brukes i klinikkens arbeid

Når programvaren tas i bruk i klinikken, påvirker den arbeidsprosesser, dokumentasjon eller analyse.

Oppdateringer og endringer skjer løpende

KI-systemer kan utvikle seg gjennom oppdateringer eller nye funksjoner etter at programvaren er anskaffet.

Dette gjør at ansvaret ikke bare gjelder selve kjøpet, men også hvordan systemet brukes og følges opp over tid.

Vanlige misforståelser

«Leverandøren har ansvaret»

Leverandøren utvikler og leverer systemet.

Når programvaren brukes i klinikken, blir det likevel virksomheten som har ansvar for hvordan teknologien anvendes i arbeidshverdagen.

«Ansvar gjelder bare ved implementering»

Anskaffelsen av programvare oppfattes noen ganger som en enkelt beslutning.

I praksis oppstår ansvar også etter implementering, fordi systemet brukes i klinikkens daglige arbeid.

«Dette er en vanlig IT-anskaffelse»

KI-systemer kan analysere data og generere forslag som påvirker hvordan informasjon tolkes.

Dermed kan bruken få betydning for både dokumentasjon og kliniske vurderinger.

«Systemet fungerer likt over tid»

KI-baserte systemer kan utvikle seg gjennom oppdateringer eller nye funksjoner.

Dette gjør oppfølging av systemet relevant også etter at det er anskaffet.

Hva bør være på plass i praksis?

Når en tannklinikk anskaffer KI-basert programvare, kan flere organisatoriske forhold være relevante.

Vurdere hva systemet gjør

Før anskaffelse kan virksomheten undersøke:

• hvilke oppgaver systemet utfører

• hvilke analyser eller forslag det genererer

• hvilke data systemet bruker

Dette gir bedre forståelse av hvordan teknologien vil fungere i klinikken.

Vurdere hvilke prosesser som påvirkes

Det kan også være relevant å vurdere hvilke deler av virksomheten som påvirkes av systemet.

Eksempler kan være:

• kliniske vurderinger

• journalføring

• pasientkommunikasjon

• administrative prosesser

Avklare ansvar for oppfølging

Når systemet tas i bruk, bør virksomheten avklare hvem som har ansvar for:

• oppfølging av leverandøren

• teknisk drift

• faglig bruk av systemet

Dokumentere systemet i KI-register

Programvaren kan registreres i klinikkens KI-register, med informasjon om:

• leverandør

• systemnavn

• formål

• bruksområde

• ansvarlig rolle

Følge opp systemet over tid

KI-systemer kan endre funksjonalitet gjennom oppdateringer.

Virksomheten kan derfor følge opp hvordan systemet brukes og hvordan teknologien utvikler seg.

Slike vurderinger samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å forstå hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutninger. 

Acteras rolle i dette

Actera arbeider med styringsstruktur og ansvarlig bruk av kunstig intelligens i tannhelsetjenesten.

Vi utvikler ikke teknologi og gir ikke kliniske anbefalinger. Vår rolle er å bidra til at virksomheter etablerer struktur rundt KI-bruk, gjennom kartlegging av systemer, etablering av KI-register og avklaring av ansvarslinjer.

Dette gjør det mulig for virksomheter å dokumentere hvordan teknologi anskaffes, brukes og følges opp i organisasjonen. 

Avsluttende betraktning

For mange tannklinikker vil KI først bli introdusert gjennom anskaffelse av programvare fra eksterne leverandører.

Selv om teknologien utvikles utenfor virksomheten, blir den en del av klinikkens arbeid når systemet tas i bruk.

Dermed oppstår også et organisatorisk ansvar for hvordan teknologien vurderes, implementeres og følges opp over tid.

Når slike forhold er tydelig strukturert, blir det enklere å bruke KI-baserte systemer på en måte som er forankret i virksomhetens styring og ansvar.