KI brukt av ansatte på eget initiativ: hvem har ansvar?

«Shadow AI» er når ansatte tar i bruk KI-verktøy uten at klinikken har besluttet, godkjent eller dokumentert bruken. I tannhelse skjer det ofte i det små: tekstforslag, oppsummeringer, pasientkommunikasjon, bildekommentarer – eller i verste fall som støtte i kliniske vurderinger.

Spørsmålet ledelsen får (ofte litt for sent) er: Hvem har ansvar når bruken ikke er autorisert?
Det korte svaret er: Ansvar forsvinner ikke fordi bruken er uformell. Det flytter seg bare inn i internkontroll, styring og rolleavklaringer.

1) Først: hva menes med “ansvar” i denne sammenhengen?

I praksis overlapper flere ansvarslinjer:

• Arbeidsgiver/klinikk (ledelse) har ansvar for styring, rutiner, opplæring, tilgangsstyring og etterlevelse (inkl. personvern og informasjonssikkerhet).

• Helsepersonell har faglig ansvar for egne vurderinger og dokumentasjon – KI er aldri et “ansvarsfrikort”.

• Leverandør har ansvar for eget produkt, vilkår, og (der det er relevant) regulatorisk status/dokumentasjon.

Shadow AI oppstår nettopp når disse linjene ikke er gjort operasjonelle.

2) Hvorfor er dette et ledelsesspørsmål?

Fordi risikoen typisk ikke ligger i «at noen testet et verktøy», men i at klinikken mister kontroll på:

• pasientopplysninger som kan bli delt inn i tjenester klinikken ikke har databehandleravtale med,

• hva som faktisk påvirker kliniske beslutninger,

• hvilke verktøy som brukes hvor, og

• hva man kan dokumentere overfor pasient, styre eller tilsyn.

Datatilsynet peker på at generative KI-tjenester kan bruke store datamengder, og at det kan være uklart hva brukerinnhold (prompts) brukes til videre, noe som utfordrer personvernet. Datatilsynet har også løftet KI og personvern på arbeidsplassen som et tema arbeidsgivere bør forstå fallgruver ved. 

3) Ansvar ved shadow AI: slik bør det vurderes (praktisk)

A) Hvis ansatte deler pasientopplysninger i et uautorisert KI-verktøy

Da har klinikken et styringsproblem og potensielt et personvern-/sikkerhetsavvik. I personvernretten er virksomheten normalt behandlingsansvarlig for behandling som skjer i arbeidssammenheng, og må kunne vise at den har kontroll på tilgang og behandlingsgrunnlag (og leverandørforhold). EDPB har nylig jobbet med sentrale spørsmål om personopplysninger i AI-modeller og rettslige vurderinger rundt bruk av persondata i AI-kontekst. 

Kjernetest for ledelsen: Hadde klinikken rimelige tiltak på plass for å forhindre dette (policy, opplæring, tekniske sperrer, godkjente verktøy)?

B) Hvis ansatte bruker KI som påvirker klinisk vurdering

Da er det både styring og pasientsikkerhet. Klinikken må kunne vise:

• hva verktøyet brukes til,

• hvordan menneskelig kontroll skjer,

• og hvordan avvik håndteres.

I EU AI Act legges det (for høyrisiko KI) plikter på “deployers” knyttet til å bruke systemet i tråd med instruksjoner, ha menneskelig tilsyn, overvåke drift og informere arbeidstakere der relevant. (Shadow AI er ofte et tegn på at slike mekanismer ikke er etablert – uavhengig av om akkurat det verktøyet formelt er “høyrisiko”.)

C) Hvis ansatte bruker KI til “administrativt” arbeid uten pasientdata

Risikoen kan være lavere, men den er ikke null:

• feilinformasjon kan gå ut i pasientkommunikasjon,

• interne data kan lekke,

• og praksis kan gli over i pasientnære vurderinger uten at noen oppdager det.

4) Typiske shadow AI-situasjoner i tannklinikk (og hva som bør gjøres)

1) Tekstforslag til pasientbrev / e-post
→ Tillatbare rammer kan være mulig, men krev: ingen pasientidentifiserende opplysninger, og en enkel kvalitetssjekk før utsendelse.

2) Oppsummering av journalnotat / diktat
→ Høyere risiko hvis innhold sendes til ekstern tjeneste. Krev godkjent løsning, avtaler, og tydelige regler for hva som kan prosesseres.

3) “Kan du tolke dette røntgenbildet?” i en generell KI-tjeneste
→ Dette er typisk uakseptabelt uten formell vurdering (pasientdata + klinisk beslutningspåvirkning). Må stoppes med policy + opplæring + tekniske tiltak.

5) Minimumstiltak ledelsen bør ha på plass (før man “tar diskusjonen”)

Dette er et nøkternt startnivå som ofte stopper 80 % av shadow AI:

1. Én side KI-policy: hva er lov/ikke lov, spesielt om pasientdata og kliniske vurderinger.

2. Godkjent verktøyliste (og “ikke-godkjent”-liste) med begrunnelse.

3. Enkel opplæring (15–20 min): konkrete eksempler på hva som er avvik.

4. Avviksvei: “hva gjør jeg hvis jeg allerede har limt inn noe?” (lav terskel, ingen skam – men tydelig håndtering).

5. Tilgangsstyring/IT-tiltak der det er mulig (reduser friksjonsfri bruk av uautoriserte tjenester).

6. Eier i ledelsen: hvem følger opp, og hvordan loggføres beslutninger.

NIST AI RMF er tydelig på at organisasjoner trenger styringsmekanismer, roller og ansvar for å håndtere AI-risiko. 

6) “Hvem får skylden?” – en mer nyttig formulering

I stedet for å lete etter én skyldig, er et bedre ledelsesspørsmål:

“Hvilke styringstiltak manglet som gjorde dette mulig – og hvordan gjør vi riktig bruk enkelt, og feil bruk vanskelig?”

Shadow AI er ofte et signal om at:

• ansatte prøver å løse reelle kapasitetsproblemer,

• klinikken mangler godkjente alternativer,

• og forventninger/rammer ikke er tydeliggjort.

Avslutning

Når KI tas i bruk på eget initiativ, er det sjelden “teknologi-problemet” som er hovedsaken. Det er styring, rolleavklaring og dokumentasjon. Klinikken bør ha en praksis som tåler spørsmål fra pasient, ledelse og tilsyn – også når bruken startet uformelt.