Risikioanalyse før AI tages i brug på tandklinik

Indledning

Kunstig intelligens bliver stadig mere tilgængelig i systemer, der anvendes i tandplejen. Teknologien kan bidrage til billedanalyse, støtte dokumentation eller automatisere administrative opgaver.

Før sådanne systemer tages i brug i en klinik, opstår et centralt spørgsmål: hvilke risici kan teknologien introducere i virksomhedens arbejde.

Denne artikel forklarer, hvad en risikioanalyse af AI indebærer, hvorfor den er vigtig før implementering, og hvilke forhold tandklinikker typisk bør overveje før et AI-værktøj tages i brug.

Hvad menes med AI-brug i tandpleje?

AI i tandpleje omfatter digitale systemer, der analyserer information eller genererer forslag ved hjælp af statistiske modeller eller maskinlæring.

Sådanne systemer kan blandt andet bruges til:

• analyse af røntgenbilleder

• forslag til journaltekst

• automatiseret patientkommunikation

• støtte til behandlingsplanlægning

• analyse af klinikdata

I mange tilfælde optræder AI som en del af eksisterende kliniksoftware. Teknologien kan dermed påvirke, hvordan information præsenteres, hvordan vurderinger udføres, og hvordan arbejdsprocesser organiseres.

Når AI indgår i sådanne processer, kan der opstå nye typer risici forbundet med både teknologi, arbejdsgang og ansvar. 

Hvor opstår ansvarsproblemet?

Ansvarsproblemer opstår især, når AI påvirker beslutningsgrundlag, dokumentation eller arbejdsprocesser i klinikken.

Dette kan for eksempel ske, når:

• et system analyserer røntgenbilleder og markerer fund

• AI genererer forslag til journaltekst

• automatiserede analyser påvirker planlægning eller prioritering

• systemet bruges i kommunikation med patienter

Hvis sådanne funktioner tages i brug uden en forudgående vurdering af risiko, kan det blive uklart:

• hvordan systemets output skal vurderes

• hvilke situationer systemet fungerer dårligt i

• hvordan fejl kan opdages

• hvem der har ansvar for opfølgning

En risikioanalyse før implementering muliggør at afklare sådanne spørgsmål, før systemet bliver en del af klinikkens daglige arbejde.

Almindelige misforståelser

«Risikoanalyse er kun relevant for avanceret diagnostisk AI»

Selv relativt simple AI-funktioner kan påvirke arbejdsprocesser eller dokumentation.

Derfor kan sådanne systemer også være relevante at overveje, før de tages i brug.

«Leverandøren har allerede lavet risikoanalysen»

Leverandøren kan have vurderet teknologiske risici i systemet.

Men virksomheden må også vurdere, hvordan systemet påvirker egen praksis, arbejdsgang og ansvar.

«Dette er først relevant efter at systemet tages i brug»

Risikoanalyse er mest nyttig før implementering.

Når systemet først er integreret i arbejdsprocesser, kan det være sværere at ændre, hvordan det anvendes.

«Risikoanalyse betyder omfattende tekniske vurderinger»

I klinisk praksis handler risikoanalyse ofte mere om organisation end teknologi.

Det vigtigste er at forstå, hvordan systemet anvendes, og hvilke konsekvenser det kan få i arbejdsdagligdagen.

Hvad bør være på plads i praksis?

En risikioanalyse før implementering af AI behøver ikke være omfattende. Formålet er først og fremmest at identificere forhold, der kan påvirke klinikkens arbejde.

Nogle spørgsmål er særligt relevante.

Hvad skal systemet bruges til?

Klinikken bør tydeligt definere formålet med brugen.

Er systemet ment til at støtte analyse, dokumentation, administration eller beslutningsprocesser?

Hvilke arbejdsprocesser påvirkes?

Det bør vurderes, hvordan systemet indgår i klinikkens arbejdsgang.

Dette kan hjælpe med at identificere situationer, hvor teknologien kan påvirke vurderinger eller prioriteringer.

Hvilke fejl kan opstå?

Alle AI-systemer kan begå fejl.

Risikoanalysen bør derfor identificere situationer, hvor systemet kan give misvisende eller ufuldstændige resultater.

Hvordan opdages fejl?

Klinikken bør vurdere, hvordan ansatte kan opdage, når systemets output ikke er korrekt eller relevant.

Dette hænger tæt sammen med menneskelig kontrol.

Hvem har ansvar for opfølgning?

Det bør være klart, hvem i virksomheden der har ansvar for opfølgning af systemet efter implementering.

Dette kan inkludere ansvar for:

• opfølgning af erfaringer fra brug

• håndtering af afvigelser

• opfølgning af opdateringer

Hvordan dokumenteres vurderingen?

Risikoanalysen bør dokumenteres kort og forståeligt.

Dette gør det muligt at forklare, hvorfor systemet blev taget i brug, og hvilke vurderinger der blev gjort.

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af AI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarsområder og dokumentation – således at AI kan anvendes på en sikker, forudsigelig og efterprøvbar måde.

Afsluttende betragtning

Når AI tages i brug på tandklinikker, bliver teknologi en del af klinikkens faglige og organisatoriske praksis.

En enkel risikoanalyse før implementering kan bidrage til at identificere udfordringer tidligt og skabe bedre forståelse af, hvordan systemet bør anvendes.

Dette giver virksomheden et bedre grundlag for ansvarlig og kontrolleret anvendelse af kunstig intelligens i klinisk arbejde.