Når klinikken bør stoppe brugen af et KI-værktøj

Indledning

Kunstig intelligens kan bidrage til analyse, dokumentation og effektivisering i tandklinikker. Samtidig er KI-værktøjer ikke statiske systemer. De kan ændre sig gennem opdateringer, nye datagrundlag eller ændringer i, hvordan de bruges.

I visse situationer kan det derfor være nødvendigt at stoppe eller pause brugen af et KI-værktøj.

Denne artikel forklarer, hvilke situationer der kan gøre dette aktuelt, og hvordan tandklinikker kan vurdere, hvornår teknologibrug ikke længere er forsvarlig.

Hvad menes med KI-brug i tandpleje?

KI-brug i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Sådanne systemer kan blandt andet bruges til:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I de fleste tilfælde bruges KI som støtteværktøj. Systemet genererer analyser eller forslag, men den faglige vurdering ligger stadig hos klinikeren.

Når sådanne værktøjer indgår i klinikkens arbejdsprocesser, bliver det vigtigt at følge op på, hvordan de fungerer over tid. Hvis teknologien ikke længere fungerer som forventet, kan det være nødvendigt at revurdere brugen. 

Hvor opstår ansvarsproblemet?

Ansvarsproblemer opstår, når et KI-værktøj påvirker klinikkens arbejde, men samtidig viser tegn på at fungere anderledes end forventet.

Dette kan for eksempel ske, når:

• systemet giver uventede eller uforståelige resultater

• opdateringer ændrer, hvordan systemet fungerer

• ansatte ikke længere forstår, hvordan resultaterne skal tolkes

• systemet bruges til opgaver, det ikke var ment til

I sådanne situationer kan det være svært at forklare:

• hvordan systemets output bør vurderes

• hvilken rolle teknologien spiller i arbejdsprocessen

• hvordan fejl kan opdages og korrigeres

Når sådanne spørgsmål ikke kan besvares på en tilfredsstillende måde, kan det være et signal om, at brugen bør stoppes eller vurderes på ny.

Almindelige misforståelser

«Et KI-værktøj bør kun stoppes, hvis der er en teknisk fejl»

Tekniske fejl er én mulig årsag til at stoppe et system, men ikke den eneste.

Også organisatoriske forhold kan gøre et værktøj uforsvarligt i brug, for eksempel manglende forståelse af systemets rolle eller utilstrækkelig kontrol.

«Hvis leverandøren stadig tilbyder systemet, er det sikkert at bruge»

Leverandøren udvikler teknologien, men klinikken har ansvaret for, hvordan systemet bruges i praksis.

Et værktøj kan derfor være tilgængeligt på markedet, men alligevel ikke være egnet i en bestemt klinisk kontekst.

«At stoppe et system betyder, at teknologien har fejlet»

At pause eller stoppe et værktøj kan også være en del af normal styring af teknologi.

Det kan give mulighed for at vurdere systemet nærmere, afklare ændringer eller justere brugen.

«Dette gælder kun avancerede KI-systemer»

Selv relativt enkle KI-funktioner kan påvirke dokumentation eller arbejdsprocesser.

Derfor kan også sådanne systemer være aktuelle at stoppe, hvis brugen bliver uklar eller svær at kontrollere.

Hvad bør være på plads i praksis?

Når en klinik vurderer, om brugen af et KI-værktøj bør stoppes, kan nogle indikatorer være særligt relevante.

Uforklarlige eller uforudsigelige resultater

Hvis systemets output ændrer sig, uden at årsagen er kendt, kan det blive svært at vurdere resultaterne fagligt.

Dette kan være et signal om, at brugen bør pauses, indtil årsagen er afklaret.

Manglende forståelse i organisationen

Hvis ansatte ikke længere forstår, hvordan systemet fungerer, eller hvordan resultaterne skal tolkes, kan det svække menneskelig kontrol.

I sådanne situationer kan det være nødvendigt at stoppe brugen midlertidigt.

Ændringer i systemet eller datagrundlaget

Opdateringer eller nye funktioner kan ændre, hvordan et KI-system fungerer.

Hvis sådanne ændringer påvirker arbejdsprocesser eller vurderinger, kan det være nødvendigt at evaluere brugen, før systemet tages videre i drift.

Gentagne afvigelser eller fejl

Hvis ansatte oplever gentagne fejl eller uventede resultater, kan det indikere, at systemet ikke fungerer stabilt i den aktuelle kontekst.

Uklar rolle i arbejdsprocessen

Hvis det bliver uklart, hvordan systemet påvirker beslutninger eller dokumentation, kan det være svært at opretholde tydeligt ansvar.

I sådanne situationer kan det være nødvendigt at afgrænse eller stoppe brugen.

Acteras rolle i dette

Actera er oprettet for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – således at KI kan bruges på en sikker, forudsigelig og efterprøvbar måde.

Afsluttende overvejelser

KI-værktøjer kan bidrage til effektivitet og støtte i klinisk arbejde, men teknologien skal også kunne kontrolleres og forstås i praksis.

Når et system ikke længere fungerer, som virksomheden forventer, eller når kontrollen over brugen bliver uklar, kan det være rigtigt at stoppe eller pause brugen.

Dette er ikke nødvendigvis et tegn på, at teknologien har fejlet – men på at virksomheden tager ansvar for, hvordan den bruges.