Leverandøransvar vs klinikkansvar ved KI

Kunstig intelligens tas i økende grad i bruk i tannhelsetjenesten gjennom programvare og digitale løsninger levert av eksterne leverandører. Teknologien kan analysere røntgenbilder, generere forslag til journaltekst, automatisere administrative oppgaver eller støtte kliniske vurderinger.

Når KI introduseres gjennom leverandørbaserte systemer, oppstår et spørsmål som ofte skaper uklarhet i virksomheter: Hvem har egentlig ansvaret for teknologien?

Leverandøren utvikler systemet og kontrollerer den tekniske løsningen. Samtidig er det klinikken som bruker teknologien i sitt arbeid, og som integrerer den i arbeidsprosesser, dokumentasjon og beslutningsgrunnlag.

Dette gjør ansvarsforholdet mer sammensatt enn ved tradisjonell programvare.

Denne artikkelen forklarer hvordan ansvar vanligvis fordeles mellom leverandører og klinikker når kunstig intelligens tas i bruk i tannhelsetjenesten.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter digitale systemer som analyserer data, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I en tannklinikk kan dette blant annet inkludere:

• analyse av røntgenbilder eller diagnostiske data

• forslag til journaltekst eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Slike funksjoner leveres ofte gjennom programvare fra eksterne leverandører.

Når systemet tas i bruk i klinikken, blir teknologien en del av virksomhetens daglige arbeid.

Dermed oppstår også spørsmål om hvordan ansvar for teknologi og bruk er fordelt mellom leverandør og virksomhet.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår fordi utvikling og bruk av KI skjer i to ulike organisatoriske kontekster.

Tre forhold er særlig relevante.

Teknologien utvikles av leverandøren

Leverandøren utvikler programvaren og de tekniske modellene som ligger til grunn for systemet.

Systemet brukes i klinikkens arbeid

Når teknologien tas i bruk i klinikken, påvirker den arbeidsprosesser, dokumentasjon eller analyse.

Systemet utvikler seg over tid

KI-systemer kan oppdateres eller få nye funksjoner etter implementering.

Dette gjør ansvarsforholdet mer dynamisk enn ved tradisjonelle IT-systemer.

Vanlige misforståelser

«Leverandøren har alt ansvar»

Leverandøren har ansvar for utvikling og leveranse av systemet.

Når teknologien brukes i klinikken, blir det imidlertid virksomheten som har ansvar for hvordan systemet anvendes i praksis.

«Klinikken har alt ansvar»

Det kan også oppstå en oppfatning av at alt ansvar ligger hos virksomheten.

I praksis er ansvaret delt mellom leverandør og bruker.

«Ansvar gjelder bare ved kjøp av systemet»

Ansvar oppstår ikke bare ved anskaffelse.

Det gjelder også hvordan systemet brukes og følges opp i klinikkens arbeid.

«Teknologien fungerer uavhengig av organisasjonen»

Selv om systemet er teknologisk utviklet av leverandøren, vil bruken alltid være knyttet til hvordan virksomheten organiserer arbeid og beslutninger.

Hva bør være på plass i praksis?

For klinikker som bruker KI-baserte løsninger, handler håndtering av ansvar først og fremst om å forstå hvilke oppgaver som ligger hos leverandøren og hvilke som ligger hos virksomheten.

Leverandørens rolle

Leverandøren har normalt ansvar for:

• utvikling av programvaren

• teknisk funksjonalitet

• systemets tekniske drift og vedlikehold

• oppdateringer og videre utvikling

Leverandøren leverer teknologien som brukes i systemet.

Klinikkens rolle

Virksomheten har normalt ansvar for:

• beslutning om å ta systemet i bruk

• hvordan teknologien brukes i arbeidshverdagen

• hvordan ansatte anvender systemets funksjoner

• hvordan teknologien inngår i arbeidsprosesser

Dette gjelder særlig når teknologien påvirker dokumentasjon, analyse eller beslutningsgrunnlag.

Dokumentasjon av systembruk

Virksomheten kan også dokumentere systemet i sitt KI-register, for eksempel med informasjon om:

• leverandør

• systemnavn

• bruksområde

• ansvarlig rolle

Dette bidrar til oversikt over teknologien i virksomheten.

Oppfølging av systemet

KI-systemer kan utvikle seg gjennom oppdateringer.

Virksomheten bør derfor følge med på hvordan funksjonaliteten endrer seg over tid.

Slike ansvarsforhold samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å forstå hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutningsprosesser. 

Acteras rolle i dette

Actera arbeider med styringsstruktur og ansvarlig bruk av kunstig intelligens i tannhelsetjenesten.

Vi utvikler ikke teknologi og gir ikke kliniske anbefalinger. Vår rolle er å bidra til at virksomheter etablerer struktur rundt KI-bruk gjennom kartlegging av systemer, etablering av KI-register og avklaring av ansvarslinjer.

Dette gir virksomheter bedre oversikt over hvordan teknologi fra leverandører brukes og følges opp i organisasjonen. 

Avsluttende betraktning

Når kunstig intelligens tas i bruk i tannhelsetjenesten, skjer det ofte gjennom løsninger utviklet av eksterne leverandører.

Dette kan skape uklarhet om hvem som har ansvar for teknologien.

I praksis er ansvaret delt: leverandøren utvikler systemet, mens klinikken har ansvar for hvordan teknologien brukes i virksomhetens arbeid.

Når disse rollene er tydelig forstått og dokumentert, blir det lettere å organisere KI-bruk på en måte som er både strukturert og etterprøvbar.