Når KI-værktøjer opdateres: hvem har ansvar?

Introduktion

Kunstig intelligens er i dag en del af mange af de systemer, der bruges i tandlægetjenesten. Dette kan være analyse af røntgenbilleder, forslag til journaltekst eller automatiserede administrative funktioner.

Sådanne systemer opdateres jævnligt af leverandører. Opdateringer kan ændre, hvordan systemet fungerer, hvilke analyser det udfører, eller hvordan resultater præsenteres.

Denne artikel forklarer, hvad der sker, når KI-værktøjer opdateres, hvilke ansvarsspørgsmål der kan opstå, og hvordan tandklinikker kan forholde sig til sådanne ændringer.

Hvad betyder KI-brug i tandpleje?

KI i tandpleje omfatter systemer, der analyserer data eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Eksempler kan omfatte:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I mange tilfælde er sådanne funktioner integreret i eksisterende journalsystemer eller kliniksoftware. KI er dermed ikke nødvendigvis et separat værktøj men en del af de systemer, der bruges i det daglige arbejde.

Når sådanne systemer opdateres, kan også KI-funktionerne ændre sig. Dette gør opfølgning af opdateringer relevant for virksomhedens styring af teknologien.

Hvor opstår ansvarsspørgsmålet?

Ansvarsspørgsmål opstår, fordi KI-systemer ofte udvikles og opdateres af leverandører, mens de bruges operationelt i klinikken.

Når en opdatering sker, kan det f.eks. betyde, at:

• algoritmen analyserer data på en ny måde

• systemet præsenterer nye typer forslag

• nye funktioner introduceres

• eksisterende funktioner ændres

I sådanne situationer kan det blive uklart, hvem der har ansvar for at forstå og følge op på ændringen.

I praksis er ansvaret delt:

• Leverandøren har ansvar for udvikling og teknisk opdatering af systemet.

• Klinikken har ansvar for, hvordan systemet bruges i virksomheden.

Dette betyder, at opdateringer ikke blot er en teknisk begivenhed, men også en organisatorisk.

Almindelige misforståelser

«Opdateringer er leverandørens ansvar alene»

Leverandøren opdaterer systemet, men virksomheden skal stadig forstå, hvordan ændringen påvirker egen brug.

Dette gælder især, hvis systemet påvirker arbejdsprocesser eller beslutningsgrundlag.

«Opdateringer er kun tekniske forbedringer»

Nogle opdateringer kan være små og tekniske, men andre kan ændre, hvordan systemet analyserer information eller præsenterer resultater.

Sådanne ændringer kan påvirke, hvordan medarbejdere bruger systemet.

«Hvis systemet opdateres automatisk, behøver vi ikke følge med»

Automatiske opdateringer kan gøre ændringer mindre synlige.

Derfor kan det være vigtigt, at virksomheden stadig har overblik over, hvad der ændres.

«Dette gælder kun avancerede KI-systemer»

Også relativt simple KI-funktioner kan ændre sig gennem opdateringer.

For eksempel kan systemer, der foreslår journaltekst eller analyserer data, få nye modeller eller funktioner.

Hvad bør være på plads i praksis?

Når KI-værktøjer opdateres, handler opfølgning først og fremmest om at forstå, hvordan ændringen påvirker virksomheden.

Nogle organisatoriske principper kan bidrage til bedre kontrol.

Overblik over systemopdateringer

Virksomheden bør være opmærksom på, hvornår systemer opdateres, og hvad opdateringen indebærer.

Dette kan f.eks. være information fra leverandøren om nye funktioner eller ændringer.

Vurdering af påvirkning på arbejdsprocesser

Hvis opdateringen påvirker, hvordan systemet bruges i klinikken, kan det være relevant at vurdere, hvordan dette påvirker arbejdsprocesser.

Opfølgning på erfaringer fra brug

Medarbejdere kan ofte opdage ændringer i systemets adfærd først.

Derfor kan erfaringer fra daglig brug give vigtig information om, hvordan opdateringen påvirker arbejdet.

Klare ansvarslinjer

Det kan være nyttigt at have defineret, hvem i virksomheden der følger op på systemopdateringer.

Dette kan inkludere ansvar for:

• overblik over KI-systemer

• opfølgning på ændringer

• vurdering af konsekvenser for praksis

Dialog med leverandør

Ved større ændringer kan det også være relevant at afklare spørgsmål med leverandøren om, hvordan systemet fungerer efter opdateringen.

Acteras rolle i dette

Actera er etableret for at give tandlægevirksomheder struktur omkring ansvarsfuld brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation - så KI kan bruges på en sikker, forudsigelig og efterprøvbar måde.

Afsluttende betragtning

KI-systemer er ikke statiske teknologier. De udvikler sig gennem opdateringer, nye datagrundlag og ændringer i brug.

For tandklinikker betyder dette, at ansvaret for teknologibrug ikke stopper ved implementering. Det indebærer også at forstå og følge op på, hvordan systemerne udvikler sig over tid.

Sådan opfølgning bidrager til bedre kontrol, tydeligere ansvar og mere stabil brug af KI i klinisk drift.