Når klinikken bør stoppe bruk av et KI-verktøy

Ingress

Kunstig intelligens kan bidra til analyse, dokumentasjon og effektivisering i tannklinikker. Samtidig er KI-verktøy ikke statiske systemer. De kan endre seg gjennom oppdateringer, nye datagrunnlag eller endringer i hvordan de brukes.

I enkelte situasjoner kan det derfor være nødvendig å stoppe eller pause bruken av et KI-verktøy.

Denne artikkelen forklarer hvilke situasjoner som kan gjøre dette aktuelt, og hvordan tannklinikker kan vurdere når teknologibruk ikke lenger er forsvarlig.

Hva menes med KI-bruk i tannhelse?

KI-bruk i tannhelse omfatter digitale systemer som analyserer informasjon eller genererer forslag ved hjelp av statistiske modeller eller maskinlæring.

Slike systemer kan blant annet brukes til:

• analyse av røntgenbilder

• forslag til journaltekst

• automatisert pasientkommunikasjon

• støtte til behandlingsplanlegging

• analyse av klinikkdata

I de fleste tilfeller brukes KI som støtteverktøy. Systemet genererer analyser eller forslag, men den faglige vurderingen ligger fortsatt hos klinikeren.

Når slike verktøy inngår i klinikkens arbeidsprosesser, blir det viktig å følge opp hvordan de fungerer over tid. Dersom teknologien ikke lenger fungerer som forventet, kan det være nødvendig å revurdere bruken. 

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår når et KI-verktøy påvirker klinikkens arbeid, men samtidig viser tegn til å fungere annerledes enn forventet.

Dette kan for eksempel skje når:

• systemet gir uventede eller uforståelige resultater

• oppdateringer endrer hvordan systemet fungerer

• ansatte ikke lenger forstår hvordan resultatene skal tolkes

• systemet brukes til oppgaver det ikke var ment for

I slike situasjoner kan det være vanskelig å forklare:

• hvordan systemets output bør vurderes

• hvilken rolle teknologien spiller i arbeidsprosessen

• hvordan feil kan oppdages og korrigeres

Når slike spørsmål ikke kan besvares på en tilfredsstillende måte, kan det være et signal om at bruken bør stoppes eller vurderes på nytt.

Vanlige misforståelser

«Et KI-verktøy bør stoppes bare hvis det er teknisk feil»

Tekniske feil er én mulig årsak til å stoppe et system, men ikke den eneste.

Også organisatoriske forhold kan gjøre et verktøy uforsvarlig i bruk, for eksempel manglende forståelse av systemets rolle eller utilstrekkelig kontroll.

«Hvis leverandøren fortsatt tilbyr systemet, er det trygt å bruke»

Leverandøren utvikler teknologien, men klinikken har ansvar for hvordan systemet brukes i praksis.

Et verktøy kan derfor være tilgjengelig på markedet, men likevel ikke være egnet i en bestemt klinisk kontekst.

«Å stoppe et system betyr at teknologien har feilet»

Å pause eller stoppe et verktøy kan også være en del av normal styring av teknologi.

Det kan gi rom for å vurdere systemet nærmere, avklare endringer eller justere bruken.

«Dette gjelder bare avanserte KI-systemer»

Selv relativt enkle KI-funksjoner kan påvirke dokumentasjon eller arbeidsprosesser.

Derfor kan også slike systemer være aktuelle å stoppe dersom bruken blir uklar eller vanskelig å kontrollere.

Hva bør være på plass i praksis?

Når en klinikk vurderer om bruken av et KI-verktøy bør stoppes, kan noen indikatorer være særlig relevante.

Uforklarlige eller uforutsigbare resultater

Hvis systemets output endrer seg uten at årsaken er kjent, kan det bli vanskelig å vurdere resultatene faglig.

Dette kan være et signal om at bruken bør pause­s inntil årsaken er avklart.

Manglende forståelse i organisasjonen

Dersom ansatte ikke lenger forstår hvordan systemet fungerer eller hvordan resultatene skal tolkes, kan det svekke menneskelig kontroll.

I slike situasjoner kan det være nødvendig å stoppe bruken midlertidig.

Endringer i systemet eller datagrunnlaget

Oppdateringer eller nye funksjoner kan endre hvordan et KI-system fungerer.

Hvis slike endringer påvirker arbeidsprosesser eller vurderinger, kan det være nødvendig å evaluere bruken før systemet tas videre i drift.

Gjentatte avvik eller feil

Dersom ansatte opplever gjentatte feil eller uventede resultater, kan det indikere at systemet ikke fungerer stabilt i den aktuelle konteksten.

Uklar rolle i arbeidsprosessen

Hvis det blir uklart hvordan systemet påvirker beslutninger eller dokumentasjon, kan det være vanskelig å opprettholde tydelig ansvar.

I slike situasjoner kan det være nødvendig å avgrense eller stoppe bruken.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

KI-verktøy kan bidra til effektivitet og støtte i klinisk arbeid, men teknologien må også kunne kontrolleres og forstås i praksis.

Når et system ikke lenger fungerer slik virksomheten forventer, eller når kontrollen over bruken blir uklar, kan det være riktig å stoppe eller pause bruken.

Dette er ikke nødvendigvis et tegn på at teknologien mislykkes – men på at virksomheten tar ansvar for hvordan den brukes.