KI i tredjeparts programvare: hva må kontrakten regulere

Kunstig intelligens blir i økende grad levert gjennom programvare fra eksterne leverandører. I tannhelsetjenesten kan slike løsninger inngå i journalsystemer, analyseverktøy, administrative plattformer eller kommunikasjonssystemer.

For mange klinikker innebærer dette at KI ikke implementeres som et eget system, men som en funksjon i tredjeparts programvare som allerede brukes i virksomheten.

Når KI inngår i slike løsninger, blir kontrakten med leverandøren en viktig del av virksomhetens styring av teknologien. Kontrakten er ofte det eneste dokumentet som tydelig beskriver hvilke funksjoner systemet har, hvordan det utvikles og hvilke roller partene har.

Denne artikkelen forklarer hvilke forhold kontrakter normalt bør regulere når tannklinikker bruker KI gjennom tredjeparts programvare.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter systemer som analyserer informasjon, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I klinisk praksis kan dette blant annet inkludere:

• analyse av røntgenbilder eller diagnostiske data

• forslag til journaltekst eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Når slike funksjoner leveres gjennom tredjeparts programvare, kan de inngå i systemer klinikken allerede bruker.

Dermed blir kontrakten med leverandøren en sentral mekanisme for å forstå hvordan teknologien fungerer og utvikles.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår fordi utvikling og bruk av KI skjer i to ulike organisatoriske kontekster.

Tre forhold er særlig relevante.

Teknologien utvikles av leverandøren

Leverandøren utvikler systemet og kontrollerer hvordan KI-funksjonene er implementert.

Systemet brukes i klinikkens arbeid

Når programvaren brukes i klinikken, kan den påvirke dokumentasjon, analyse og arbeidsprosesser.

Funksjonaliteten kan endres over tid

KI-systemer kan utvikles gjennom oppdateringer eller nye funksjoner.

Dette gjør kontrakten viktig for å avklare hvordan slike endringer håndteres.

Vanlige misforståelser

«Standard programvarekontrakter er tilstrekkelige»

Tradisjonelle programvarekontrakter er ofte utformet for systemer som ikke analyserer data eller genererer forslag.

KI-funksjoner kan introdusere nye typer bruk og utvikling av systemet.

«Leverandøren regulerer dette internt»

Leverandører kan ha interne rutiner for utvikling av teknologi.

Kontrakten er likevel det dokumentet som regulerer forholdet mellom leverandør og virksomhet.

«Kontrakten gjelder bare teknisk drift»

KI kan påvirke hvordan informasjon analyseres eller presenteres i systemet.

Dermed kan kontrakten også berøre hvordan funksjonaliteten brukes i praksis.

«Dette gjelder bare avanserte systemer»

Også mindre KI-funksjoner kan være relevante dersom de påvirker arbeidsprosesser eller dokumentasjon.

Hva bør være på plass i praksis?

Når en tannklinikk bruker KI gjennom tredjeparts programvare, kan flere forhold være relevante å regulere i kontrakten.

Beskrivelse av KI-funksjoner

Kontrakten kan beskrive hvilke deler av systemet som bruker kunstig intelligens.

Dette kan inkludere:

• hvilke funksjoner som analyserer data

• hvilke funksjoner som genererer forslag eller automatisering

En slik beskrivelse gir virksomheten bedre oversikt over teknologien.

Bruksområde for teknologien

Det kan også være relevant å beskrive hvilke oppgaver systemet er ment å støtte.

Dette kan bidra til å tydeliggjøre hvordan teknologien er ment å brukes i virksomheten.

Håndtering av oppdateringer

KI-systemer kan utvikles gjennom oppdateringer.

Kontrakten kan derfor regulere:

• hvordan nye funksjoner introduseres

• hvordan endringer kommuniseres til brukeren

Dokumentasjon av systemet

Leverandøren kan også levere dokumentasjon som beskriver systemets funksjon og bruksområder.

Slik dokumentasjon kan inngå i virksomhetens KI-register.

Ansvarsfordeling

Kontrakten kan bidra til å tydeliggjøre hvilke oppgaver som ligger hos leverandøren og hvilke som ligger hos virksomheten.

Dette kan gjøre det enklere å følge opp systemet i praksis.

Slike kontraktsmessige avklaringer samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å forstå hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutningsprosesser. 

Acteras rolle i dette

Actera arbeider med styringsstruktur og ansvarlig bruk av kunstig intelligens i tannhelsetjenesten.

Vi utvikler ikke teknologi og gir ikke kliniske anbefalinger. Vår rolle er å bidra til at virksomheter etablerer struktur rundt KI-bruk gjennom kartlegging av systemer, etablering av KI-register og avklaring av ansvarslinjer.

Dette kan også bidra til at virksomheter får bedre oversikt over hvordan tredjeparts programvare med KI inngår i organisasjonens systemer og avtaler. 

Avsluttende betraktning

Når kunstig intelligens leveres gjennom tredjeparts programvare, blir kontrakten en viktig del av virksomhetens styring av teknologien.

Kontrakten kan bidra til å tydeliggjøre hvordan systemet fungerer, hvordan det utvikles og hvordan ansvar er fordelt mellom leverandør og virksomhet.

Når slike forhold er regulert og dokumentert, blir det lettere for klinikken å forstå og følge opp hvordan KI faktisk brukes i organisasjonen.