Hva klinikker bør kreve av KI-leverandører

Kunstig intelligens tas i bruk i stadig flere digitale løsninger i tannhelsetjenesten. Teknologien kan analysere røntgenbilder, generere forslag til journaltekst, automatisere administrative oppgaver og bidra til analyse av kliniske data.

For mange tannklinikker introduseres KI først gjennom programvareleverandører. Teknologien leveres som en funksjon i journalsystemer, analyseverktøy eller andre digitale plattformer som inngår i klinikkens daglige arbeid.

Når KI anskaffes gjennom slike løsninger, blir det viktig for virksomheten å forstå hva teknologien faktisk gjør og hvordan den påvirker arbeidsprosesser.

Dette gjør vurdering av leverandører til en sentral del av styringen av KI-bruk i klinikken.

Denne artikkelen forklarer hvilke typer informasjon og avklaringer tannklinikker normalt bør be om fra leverandører av KI-baserte løsninger.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter digitale systemer som analyserer informasjon, genererer forslag eller automatiserer oppgaver basert på statistiske modeller og maskinlæring.

I en tannklinikk kan slike systemer blant annet brukes til:

• analyse av røntgenbilder eller diagnostiske data

• forslag til journaltekst eller dokumentasjon

• automatisert pasientkommunikasjon

• analyse av kliniske eller administrative data

• automatisering av interne arbeidsprosesser

Mange av disse funksjonene leveres gjennom programvare fra eksterne leverandører.

Når teknologien tas i bruk i klinikken, blir den en del av virksomhetens arbeidsprosesser og dokumentasjonssystemer.

Dermed blir dialogen med leverandøren en viktig del av virksomhetens styring av teknologien.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmålet oppstår ofte fordi KI-systemer utvikles av leverandører, mens de brukes i klinikkens arbeid.

Tre forhold er særlig relevante.

Teknologien er utviklet utenfor virksomheten

Klinikken har vanligvis begrenset innsikt i hvordan systemet er utviklet eller hvordan modellen fungerer.

Systemet brukes i kliniske eller administrative prosesser

Når løsningen tas i bruk i klinikken, kan den påvirke dokumentasjon, analyse eller arbeidsprosesser.

Teknologien kan endres over tid

KI-systemer kan oppdateres eller få nye funksjoner etter implementering.

Dette gjør det relevant å forstå hvordan leverandøren håndterer utvikling og oppdateringer.

Vanlige misforståelser

«Leverandøren vet best»

Leverandører har kunnskap om teknologien de utvikler.

Samtidig er det virksomheten som bruker systemet i praksis og som må forstå hvordan det påvirker arbeidshverdagen.

«Det holder å forstå funksjonaliteten»

Selv om det er viktig å forstå hva systemet gjør, kan det også være relevant å forstå hvordan teknologien utvikles, oppdateres og følges opp over tid.

«Alle KI-leverandører tilbyr samme informasjon»

Leverandører kan variere betydelig i hvordan de beskriver teknologi, dokumentasjon og funksjonalitet.

«Dette gjelder bare kliniske systemer»

KI kan også brukes i administrative eller kommunikative løsninger.

Dermed kan samme type vurdering være relevant for flere typer systemer.

Hva bør være på plass i praksis?

Når en tannklinikk vurderer eller anskaffer KI-baserte løsninger, kan det være nyttig å avklare flere forhold med leverandøren.

Beskrivelse av KI-funksjonalitet

Virksomheten kan be om en tydelig beskrivelse av:

• hvilke deler av systemet som bruker KI

• hvilke oppgaver systemet utfører

• hvilke analyser eller forslag det genererer

Dette gjør det lettere å forstå hvordan teknologien brukes i praksis.

Beskrivelse av datagrunnlag

Det kan også være relevant å avklare hvilke typer data systemet baserer seg på, for eksempel:

• hvilke data analyseres

• hvordan data brukes i systemet

Dette gir bedre forståelse av hvordan teknologien fungerer.

Informasjon om oppdateringer

KI-systemer kan utvikle seg gjennom oppdateringer.

Virksomheten kan derfor be om informasjon om:

• hvordan oppdateringer håndteres

• hvordan nye funksjoner introduseres

Dokumentasjon av systemet

Leverandører kan også levere dokumentasjon som beskriver systemets funksjon og bruksområder.

Slik dokumentasjon kan inngå i virksomhetens KI-register.

Avklaring av roller

Det kan også være nyttig å avklare:

• hva leverandøren har ansvar for

• hva virksomheten selv har ansvar for

Dette kan bidra til tydeligere forventninger til bruk og oppfølging av systemet.

Slike vurderinger samsvarer også med utviklingen i europeisk regulering av kunstig intelligens, hvor virksomheter forventes å forstå hvilke KI-systemer de bruker og hvordan disse påvirker arbeid og beslutninger. 

Acteras rolle i dette

Actera arbeider med styringsstruktur og ansvarlig bruk av kunstig intelligens i tannhelsetjenesten.

Vi utvikler ikke teknologi og gir ikke kliniske anbefalinger. Vår rolle er å bidra til at virksomheter etablerer struktur rundt KI-bruk gjennom kartlegging av systemer, etablering av KI-register og avklaring av ansvarslinjer.

Dette gjør det mulig for virksomheter å dokumentere hvordan teknologi anskaffes, brukes og følges opp i organisasjonen. 

Avsluttende betraktning

For mange tannklinikker vil kunstig intelligens først bli tilgjengelig gjennom programvareleverandører.

Dermed blir dialogen med leverandører en viktig del av virksomhetens styring av teknologi.

Når klinikken forstår hva systemet gjør, hvordan det utvikles og hvilke prosesser det påvirker, blir det enklere å bruke teknologien på en måte som er strukturert og etterprøvbar.