KI og patientinformation: sporbarhed og efterprøvbarhed

KI bruges i stigende grad i patientnær kommunikation på tandklinikker – ofte som tekstforslag, opsummeringer, oversættelser eller automatiserede svar i digitale flader.

Når KI påvirker, hvordan information formuleres, hvad der sendes, eller hvilken vejledning patienten får, opstår et ansvarsspørgsmål, som ikke altid er tydeligt defineret i klinikken.

Denne artikel forklarer, hvor ansvar og risiko typisk opstår ved KI-brug i patientinformation, og hvilke styringsprincipper der bør være på plads for at sikre sporbarhed og efterprøvbarhed i praksis.

Hvad menes med KI-brug i tandpleje?

I patientkommunikation kan KI være både synlig og usynlig. Nogle klinikker bruger KI aktivt til at lave udkast, mens andre får KI-funktioner “indbygget” i værktøjer til tekst, e-mail, chat eller sagsbehandling.

KI-brug i patientinformation kan blandt andet omfatte:

• Udkast og formuleringer: forslag til e-mail, SMS, breve, eller tekst i patientportaler.

• Opsummering: komprimering af lange forklaringer til “kortversioner”, eller omvendt udvidelse af standardtekst.

• Tilpasning: forenkling af sprog, tilpasning til målgruppe (for eksempel børn/forældre) eller situation (efterbehandling).

• Oversættelse: flersproget kommunikation, eller forenkling til mere forståeligt dansk.

• Automatiserede svar: første respons på forespørgsler, sortering af forespørgsler, eller foreslåede svar til medarbejdere.

Fælles for disse anvendelsesområder er, at KI kan påvirke patientens forståelse, forventninger og handlinger. Det gør patientinformation til et område, hvor kvalitet og kontrol ikke kun handler om “gode formuleringer”, men om efterprøvbar praksis.

Hvor opstår ansvarsspørgsmålet?

Ansvarsspørgsmålet opstår typisk i skæringspunktet mellem klinikkens faglige ansvar og kommunikationsflowet, som KI bidrager til. I patientinformation bliver dette særligt tydeligt i fem situationer:

1. Når KI ændrer indholdets præcision uden at det er åbenlyst
   Små sproglige justeringer kan ændre betydning: hvad der er anbefalet, hvad der er valgfrit, hvad der er risikoinformation, eller hvad der er tidskritisk. Risikoen er ikke nødvendigvis dramatiske fejl, men gradvis forskydning af præcision over tid.

2. Når råd og vejledning fremstår autoritative
   KI-tekst kan virke tryg og konsistent. Det kan give en falsk sikkerhed både for ansatte og patient. Særligt ved efterbehandlingsråd, smertelindring, blødning, infektionstegn eller opfølgning kan formuleringer få praktiske konsekvenser.

3. Når det bliver uklart, hvem der har “godkendt” kommunikationen
   Hvis en meddelelse i praksis bliver sendt efter en hurtig gennemlæsning, eller uden klart ansvarlig rolle, kan det være svært at forklare i eftertid, hvem der foretog vurderingen, og på hvilket grundlag.

4. Når patientdata bliver en del af teksten eller arbejdsgangen
   Personoplysninger kan inddrages i udkast, sammenstillinger eller skabeloner. Da opstår behov for kontrol med dataminimering, adgang, og at korrekt information når den rette modtager – også når meget sker hurtigt i en hektisk drift.

5. Når klinikken ikke kan rekonstruere, hvad der faktisk blev sendt
   Sporbarhed handler ikke kun om at “have en kopi”. Klinikken bør kunne svare på: Hvad var oprindeligt tekstgrundlag? Blev KI brugt til at generere eller ændre indhold? Hvem redigerede? Hvornår blev det sendt? Hvis dette ikke kan efterprøves, bliver også ansvarsafklaring i eftertid svag.

Almindelige misforståelser

«Dette er bare sprog – ikke sundhedshjælp»

Patientinformation kan være “praktisk”, men den har ofte direkte betydning for patientens valg og handlinger. Det gælder især information om forberedelser, efterbehandling, egenomsorg, forventet forløb og hvornår patienten skal tage kontakt. Når KI bidrager til denne kommunikation, bliver det relevant at sikre, at indholdet er præcist, konsistent og fagligt forankret.

«Hvis teksten er korrekt én gang, er den sikker at genbruge»

KI-baserede tekster ændrer sig ofte med kontekst: små variationer i prompt, indhold, sprog eller datagrundlag kan give forskellige svar. Det, som “fungerede sidst”, er ikke nødvendigvis stabilt næste gang. Derfor bør kontrol og godkendelse knyttes til anvendelsesområde og proces – ikke til enkelttekster, som tilfældigvis blev gode.

«Sporbarhed betyder kun at gemme den sendte meddelelse»

At gemme en kopi er et minimum, men det løser ikke altid behovet for efterprøvbarhed. Ved KI-brug kan det blive lige så vigtigt at vide hvordan teksten blev til: var det et standardudkast, et KI-udkast, eller en kombination? Blev klinisk information tilføjet eller fjernet? Hvilke ændringer blev foretaget før udsendelse? Uden dette bliver læring og afvighåndtering vanskelig.

«Ansvar følger leverandøren»

Leverandører kan have ansvar for egenskaber ved systemet, men klinikken har ansvar for, hvordan patientkommunikation gennemføres i egen praksis: hvilke anvendelsesområder der tillades, hvilke kontrolpunkter der gælder, og hvem der kan sende hvad. Dette er særlig relevant, når KI er “indbygget” og opleves som en almindelig skriveassistent.

«En intern politik er nok»

Generelle retningslinjer (“brug KI med forsigtighed”) skaber sjældent tilstrækkelig kontrol i patientnær kommunikation. Det, som giver faktisk styring, er konkrete afklaringer: hvilke typer meddelelser KI kan bruges til, hvilke der altid kræver manuel udformning, hvad der skal kontrolleres før udsendelse, og hvordan afvigelser håndteres.

Hvad bør være på plads i praksis?

For patientinformation er målet som regel ikke at “stoppe” KI, men at sikre, at anvendelsen er forståelig, kontrolleret og efterprøvbar. Følgende styringsprincipper er typisk centrale:

• Kortlagt faktisk KI-brug i patientkommunikation
  En praktisk oversigt over hvor KI indgår (e-mail, SMS, portal, chat, interne tekstforslag), hvad den bruges til, og hvilke typer information der påvirkes.

• Tydelige roller, ansvar og beslutningsmyndighed
  Hvem kan tage i brug nye KI-funktioner? Hvem godkender anvendelsesområder og skabeloner? Hvem ejer opfølgning af fejl, klager og afvigelser i patientkommunikation?

• Menneskelig kontrol med tydelige stoppunkter
  Definer hvilke meddelelser, der altid skal fagligt kvalitetssikres før udsendelse, og hvad der er minimumskontrol (faktatjek, tone, risikoinformation, modtager, vedhæftninger/kæder, og at rådene passer patientens situation).

• Dokumentation og sporbarhed i processen
  Sørg for, at det er muligt at se, om KI blev brugt, hvilken version/arbejdsgang der gjaldt, hvem der redigerede og godkendte, og hvad der blev sendt. Dette støtter både intern læring og efterprøvbarhed ved tilsyn eller klagesager.

• Kvalitetsstandarder for patienttekster
  Etabler et sæt med standarder for sprog og indhold: hvad der altid skal med (for eksempel når patienten skal tage kontakt), hvad der ikke skal gives som generelt råd, og hvordan usikkerhed formuleres nøgternt.

• Håndtering af afvigelser og læring over tid
  Hvis der opstår fejlformuleringer, misforståelser eller gentagne spørgsmål fra patienter, bør klinikken have en enkel mekanisme for at justere skabeloner, brugsregler og kontrolpunkter – så forbedring ikke bliver personafhængig.

• Forklarbarhed overfor patienter
  Klinikken bør kunne forklare på et enkelt niveau, hvordan kommunikation udformes, hvilke kontrolmekanismer der findes, og at patienten altid kan få afklaringer fra kvalificeret personale ved behov. Dette handler om tillid og forudsigelighed, ikke tekniske detaljer.

Acteras rolle i dette

Actera er etableret for at give tandplejevirksomheder struktur omkring ansvarlig brug af KI.

Vi arbejder ikke med teknologiudvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentation – så KI kan bruges på en sikker, forudsigelig og efterprøvbar måde. 

Afsluttende betragtning

KI vil i stigende grad blive en del af patientkommunikation på tandklinikker, ofte gennem funktioner, der opleves som “almindelige” skrive- og arbejdsredskaber. Spørgsmålet bliver derfor ikke om KI berører patientinformation, men hvordan klinikken sikrer kontrol, når det sker.

Når roller, kontrolpunkter og sporbarhed er tydeligt defineret, bliver det nemmere at holde kommunikationen præcis, håndtere afvigelser og forklare praksis i eftertid. Det giver bedre forudsigelighed for både klinik, ledelse og patient.