Hvordan håndtere afvigelser relateret til KI

Introduktion

Kunstig intelligens anvendes i stigende grad i systemer, der indgår i tandklinikker og andre sundhedsvirksomheders arbejde. Teknologien kan bidrage til analyse af billeder, forslag til dokumentation eller automatisering af administrative opgaver.

Samtidig kan KI-systemer give uventede eller fejlagtige resultater. Når dette sker, opstår der et behov for at håndtere afvigelser på en struktureret måde.

Denne artikel forklarer, hvad afvigelser relateret til KI kan være, hvorfor sådanne situationer opstår, og hvordan tandklinikker kan følge op på afvigelser, der opdages i praksis.

Hvad menes med KI-brug i tandpleje?

KI i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Sådanne systemer kan blandt andet bruges til:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I mange tilfælde fungerer KI som et støtteværktøj. Systemet genererer analyser eller forslag, mens den faglige vurdering stadig foretages af klinikeren.

Når sådanne systemer indgår i klinikkens arbejde, kan afvigelser opstå, hvis teknologien giver resultater, der ikke stemmer overens med faglig vurdering eller forventet funktion.

Hvor opstår spørgsmål om ansvar?

Afvigelser relateret til KI kan opstå i flere situationer.

Dette kan eksempelvis være når:

• systemet identificerer fund, der ikke er til stede

• systemet overser forhold, der burde være opdaget

• KI genererer misvisende eller fejlagtig tekst

• systemet opfører sig anderledes efter en opdatering

Når sådanne situationer opstår, kan det være svært at forstå:

• om afvigelsen skyldes systemet eller brugen af det

• om der er en enkeltstående begivenhed eller et mønster

• hvordan afvigelsen bør følges op

En struktureret tilgang til afvigelser gør det lettere at identificere årsag og vurdere konsekvenser.

Almindelige misforståelser

«En afvigelse betyder, at KI-systemet er ubrugeligt»

Alle teknologiske systemer kan give fejl eller uventede resultater.

En enkelt afvigelse betyder ikke nødvendigvis, at systemet er uegnet, men det kan være et signal om, at systemets rolle bør vurderes nærmere.

«Afvigelser skyldes altid teknologien»

Nogle afvigelser kan opstå, fordi systemet anvendes i situationer, det ikke er udviklet til.

Derfor kan det være nødvendigt at vurdere både teknologien og hvordan den anvendes i praksis.

«Dette er leverandørens ansvar»

Leverandøren kan have ansvar for tekniske fejl i systemet.

Men virksomheden har ansvar for hvordan systemet anvendes i klinikken og hvordan afvigelser opdages og håndteres.

«Afvigelser bør kun håndteres uformelt»

Uformel håndtering kan gøre det svært at identificere mønstre eller gentagne problemer.

En enkel struktur for afvigelseshåndtering kan give bedre oversigt over hvordan systemet fungerer i praksis.

Hvad bør være på plads i praksis?

Håndtering af afvigelser relateret til KI kan følge mange af de samme principper som anden kvalitetsopfølgning i klinikken.

Nogle elementer er særligt relevante.

Opdagelse af afvigelser

Afvigelser opdages ofte af ansatte, der bruger systemet i praksis.

Derfor er det vigtigt, at brugerne føler sig trygge ved at stille spørgsmål ved systemets output og rapportere uventede resultater.

Dokumentation af hændelsen

Når en afvigelse opdages, kan det være nyttigt at dokumentere:

• i hvilken situation afvigelsen opstod

• hvilken type resultat systemet gav

• hvordan resultatet blev vurderet af en fagperson

Sådan dokumentation gør det lettere at forstå, hvad der faktisk skete.

Vurdering af årsag

En afvigelse kan skyldes flere forhold, for eksempel:

• fejl i systemet

• fejlbrug af systemet

• mangelfuld forståelse af systemets begrænsninger

En kort vurdering af mulige årsager kan bidrage til at identificere behov for tiltag.

Opfølgning på gentagne hændelser

Hvis lignende afvigelser opstår flere gange, kan det indikere et mønster.

I sådanne situationer kan det være relevant at:

• justere hvordan systemet bruges

• afklare forhold med leverandøren

• vurdere om brugen bør ændres eller begrænses

Klare ansvarslinjer

Det bør være tydeligt, hvem i virksomheden der følger op på afvigelser relateret til KI-systemer.

Dette kan bidrage til mere systematisk håndtering af hændelser.

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – sådan at KI kan anvendes på en sikker, forudsigelig og efterprøvbar måde.

Afsluttende betragtning

Afvigelser relateret til KI er en naturlig del af anvendelsen af avancerede digitale systemer.

Det afgørende er ikke, at sådanne hændelser aldrig opstår, men hvordan de opdages, forstås og følges op.

Når klinikker håndterer afvigelser på en struktureret måde, bliver det lettere at opretholde kontrol over teknologien og sikre ansvarlig brug i praksis.