Ansvarlig KI i tannklinikk: hvilke roller må være tydelige?

KI-funksjoner blir stadig mer tilgjengelige i tannklinikker – ofte som støtte i tekst, arbeidsflyt, planlegging og pasientkommunikasjon, og noen ganger i mer klinikknære vurderingsprosesser. I mange tilfeller er KI “innebygget” i verktøy klinikken allerede bruker, og oppleves derfor ikke som en egen innføring.

Det er nettopp denne glidende innføringen som gjør rolleavklaringer kritiske. Når KI påvirker hvordan arbeid utføres, blir det nødvendig å vite hvem som eier bruken, hvem som kan godkjenne bruksområder, og hvem som skal følge opp avvik og endringer.

Denne artikkelen beskriver hvilke roller som typisk må være tydelige for å bruke KI ansvarlig i en tannklinikk – og hvordan rolleuklarhet ofte oppstår, selv i ellers veldrevne virksomheter.

Hva menes med ansvarlig KI og roller i en tannklinikk?

«Ansvarlig KI» i tannhelse handler ikke om å være for eller mot teknologien. Det handler om å kunne forklare og etterprøve hvordan KI brukes, på en måte som ivaretar faglig kvalitet, pasientsikkerhet, personopplysninger og virksomhetens styring.

I praksis betyr det at klinikken har kontroll på:

• hva KI brukes til (bruksområder og avgrensninger)

• hvem som har beslutningsmyndighet (hvem kan innføre og endre bruken)

• hvordan menneskelig kontroll faktisk utøves (ikke bare antas)

• hvordan feil og avvik fanges opp og håndteres

• hva som dokumenteres, slik at praksis kan etterprøves i ettertid

«Roller» i denne sammenhengen er ikke først og fremst stillingstitler, men tydelige funksjoner: hvem som gjør hva, og på hvilket mandat. En liten klinikk kan samle flere roller hos få personer, men rollene må likevel være eksplisitte – ellers blir ansvaret personavhengig og situasjonsstyrt.

Hvor oppstår ansvarsspørsmålet?

Ansvarsspørsmål oppstår ofte ikke ved første bruk av et KI-verktøy, men når KI blir en del av «slik vi gjør det hos oss». Da blir det uklart hva som er besluttet, hva som er en vane, og hva som er leverandørens standardinnstillinger.

Typiske steder rolleuklarhet oppstår:

• Når KI tas i bruk uten beslutningspunkt
  En funksjon aktiveres i et system, eller noen begynner å bruke KI for å skrive utkast. Det kan være effektivt, men uten en tydelig “hvem godkjenner dette”-mekanisme blir bruken uformell.

• Når faglig ansvar og systemansvar blandes
  Den som er faglig ansvarlig for innholdet (for eksempel pasientinformasjon eller journaltekst) er ikke nødvendigvis den som eier systemet eller kan endre innstillinger. Hvis dette ikke avklares, blir kontroll og oppfølging fragmentert.

• Når “menneskelig kontroll” blir en antakelse
  Klinikken kan anta at «tannlegen leser alltid over». I praksis kan tidspress og tillit til systemets forslag gjøre kontrollen mindre aktiv. Uten tydelige kontrollpunkter og ansvar for kvalitetssikring blir det vanskelig å etterprøve.

• Når avvik ikke har en tydelig mottaker
  Hvis ansatte oppdager feil, skjevheter eller uheldige formuleringer: Hvem skal varsles? Hvem vurderer alvorlighetsgrad? Hvem kan stoppe bruken eller endre rutiner? Uten dette blir avvik ofte «løst i øyeblikket», uten læring.

• Når leverandørstyring blir for svak
  KI endrer seg gjennom oppdateringer, nye funksjoner og endret brukergrensesnitt. Hvis ingen har ansvar for endringskontroll, kan klinikken i praksis få ny funksjonalitet uten å ha vurdert konsekvensene.

Vanlige misforståelser

«Dette er et IT-ansvar»

IT (internt eller eksternt) kan eie drift og tilgang, men KI-bruk berører fag, pasientkontakt, dokumentasjon og arbeidsprosesser. Det betyr at ansvaret må forankres i ledelse og linje – med IT som støttefunksjon der det er relevant.

«Hvis leverandøren har laget det, har leverandøren ansvaret»

Leverandøren kan ha ansvar for produkt og funksjonalitet, men klinikken har ansvar for hvordan verktøyet brukes i praksis: hvilke bruksområder som er tillatt, hvordan ansatte jobber med utkast og forslag, hvilke kontrollpunkter som gjelder, og hvordan avvik håndteres.

«Vi er for små til å ha roller – vi bare gjør det»

Små klinikker trenger ofte tydeligere rollebeskrivelser, ikke færre. Når få personer dekker mange oppgaver, øker risikoen for at kritiske oppgaver «faller mellom stoler» eller blir løst ulikt fra gang til gang.

«Det holder med en policy om forsiktig bruk»

Generelle retningslinjer gir sjelden styring i en hektisk hverdag. Ansvarlig KI krever operasjonalisering: beslutningspunkter, minstekrav til kontroll, krav til dokumentasjon og en praktisk avviksprosess.

«Roller handler om å finne noen å skylde på»

Rolleavklaring handler primært om forutsigbarhet: hvem som har mandat til å beslutte, plikt til å følge opp, og ansvar for å dokumentere. Det gjør avvikshåndtering mindre personrettet og mer systemorientert.

Hva bør være på plass i praksis?

Nedenfor er et sett roller/funksjoner som ofte bør være tydelige i en tannklinikk som bruker KI. De kan kombineres, men bør beskrives eksplisitt.

• 1) KI-eier (virksomhetsansvar/klinikkledelse)
  Har overordnet ansvar for at KI-bruk er i tråd med klinikkens praksis, risikonivå og interne krav. Beslutter hvilke bruksområder som er tillatt, og prioriterer ressurser til kontroll og oppfølging.

• 2) Faglig ansvarlig for innhold og praksis
  Eier faglige kvalitetskrav der KI påvirker vurderinger, journaltekst, pasientinformasjon eller arbeidsflyt som kan få faglige konsekvenser. Definerer hva som alltid må vurderes manuelt, og hva som er minimumskontroll.

• 3) Systemeier / applikasjonsansvarlig
  Har ansvar for systemoppsett, tilgangsstyring, konfigurasjon, og for å forstå hvilke KI-funksjoner som faktisk er aktive. Sikrer at endringer og oppdateringer fanges opp og vurderes, ikke bare “rulles ut”.

• 4) Ansvarlig for informasjonssikkerhet og personvern (funksjon, ikke tittel)
  Sikrer at KI-bruk ikke skaper uønsket datadeling, feil mottaker, manglende tilgangskontroll eller svak logging. Vurderer hvor data behandles, hvordan de lagres, og om det finnes interne begrensninger for hva KI kan brukes på.

• 5) Data- og kvalitetsansvarlig (for datagrunnlag og dokumentasjonskvalitet)
  Ved KI som bruker eller påvirker data (for eksempel maler, journaltekst, strukturerte felt), bør noen ha ansvar for datakvalitet, begrepsbruk og “hygiene”: hva som er pålitelig, hva som er ufullstendig, og hvordan feil rettes på en sporbar måte.

• 6) Opplæringsansvarlig / superbrukerfunksjon
  Ansvarlig for at ansatte forstår hvordan KI brukes lokalt: begrensninger, typiske feil, hva som skal dobbeltsjekkes, og når man skal stoppe eller eskalere. Dette er ofte avgjørende for at “menneskelig kontroll” blir reell.

• 7) Avviks- og endringsansvarlig (kan være samme som KI-eier)
  Definerer hva som regnes som avvik ved KI-bruk, hvordan det meldes, hvordan alvorlighetsgrad vurderes, og hvem som kan iverksette tiltak (pause funksjon, endre rutine, kontakte leverandør, oppdatere maler).

I tillegg bør klinikken etablere et enkelt styringsgrep som gjør rollene operative:

• Et bruksområderegister: hvilke KI-bruksområder som er godkjent, avgrensninger, ansvarlige roller og kontrollpunkter.

• RACI for de viktigste prosessene: hvem er Responsible, Accountable, Consulted, Informed for innføring, endring, daglig bruk og avvik.

• Minstekrav til dokumentasjon: hva som må kunne forklares i ettertid (bruksområde, ansvar, kontroll, hendelsesløp ved avvik).

Dette trenger ikke være omfattende, men det må være konsekvent og etterlevbart.

Acteras rolle i dette

Actera er etablert for å gi tannhelsevirksomheter struktur rundt ansvarlig bruk av KI.

Vi jobber ikke med teknologiutvikling eller kliniske beslutninger, men med styringsstruktur, ansvarslinjer og dokumentasjon – slik at KI kan brukes på en trygg, forutsigbar og etterprøvbar måte.

Avsluttende betraktning

Når KI blir en del av hverdagen, er det rolleuklarhet – ikke teknologien i seg selv – som ofte skaper risiko. Uten tydelige funksjoner for beslutning, kontroll og oppfølging blir KI-bruk lett uformell, personavhengig og vanskelig å etterprøve.

Tydelige roller gjør det enklere å ta i bruk KI på en måte som kan forklares i ettertid: hva som er tillatt, hvem som har vurdert bruken, hvordan kvalitet sikres, og hvordan klinikken lærer når noe ikke fungerer som forventet.