Ansvarsplacering vid AI-relaterade fel: Vem har ansvar på tandkliniken?

1. Kontextualiserande inledning

Användning av artificiell intelligens inom tandvård väcker inte bara frågor om effektivitet och nytta, utan även om ansvar.

När ett AI-system används i diagnostik, journalföring eller annan klinisk praxis, uppstår ett samspel mellan mänskligt omdöme och teknologiskt stöd. Om ett fel uppstår kan ansvarsförhållandet framstå som oklart.

EU:s AI-förordning klargör rollfördelningen, men regleringen ersätter inte befintligt hälso- och ledningsansvar. För tandkliniker innebär detta att ansvar måste vara strukturerat innan en händelse inträffar – inte rekonstrueras i efterhand.

Denna mini-guide klargör hur ansvar bör förstås och placeras på tre nivåer: kliniskt, organisatoriskt och systemiskt.

2. Operativ implikation

AI-relaterade fel kan uppstå på olika nivåer:

• Fel i systemets analys eller förslag.

• Felanvändning av systemet.

• Bristande överstyrning.

• Otydliga interna riktlinjer.

• Otillräcklig utbildning.

Om ansvar inte är tydligt placerat i förväg, kan det leda till ansvarsspill mellan:

• Behandlande tandläkare

• Klinikledning

• Leverantör

• Teknisk drift

För ledningen innebär detta att ansvarsarkitekturen måste vara tydligt definierad som en del av verksamhetens AI-styrning.

3. Analytiska huvudpunkter

3.1 Kliniskt beslutsansvar

Oavsett teknologiskt stöd ligger det kliniska beslutsansvaret hos behandlande tandläkare.

Detta innebär att:

• AI-systemets förslag ersätter inte professionellt omdöme.

• Slutligt beslut fattas av auktoriserad vårdpersonal.

• Överstyrning ska ske när kliniskt omdöme kräver det.

• Journalföring reflekterar mänskligt beslut.

AI kan påverka beslutsunderlaget, men inte övertaga beslutsmyndigheten.

Denna princip måste vara tydligt förankrad.

3.2 Organisatoriskt styrningsansvar

Ledningen har ansvar för ramarna kring AI-användningen.

Detta omfattar:

• Val och godkännande av system.

• Definition av användningsområde.

• Etablering av mänsklig tillsyn.

• Utbildning av anställda.

• Dokumentation och intern kontroll.

Om fel beror på bristande struktur, otydliga riktlinjer eller otillräcklig utbildning, är detta ett organisatoriskt ansvar.

Ledningsansvar kan inte individualiseras bort till enskild behandlare.

3.3 Leverantörens systemansvar

Leverantören har ansvar för:

• Utveckling och design av systemet.

• Överensstämmande med regleringskrav.

• Teknisk dokumentation.

• Kända begränsningar och riskinformation.

Om ett fel beror på tekniskt misslyckande, felaktig modellträning eller bristfällig dokumentation, kan ansvaret ligga på systemnivå.

Detta befriar dock inte kliniken från ansvar för att ha valt, implementerat och använt systemet inom rimliga ramar.

3.4 Mänsklig överstyrning som strukturellt princip

Många ansvarskonflikter uppstår när det är oklart om och hur AI ska överstyras.

Därför bör följande vara klargjort:

• När ska AI-resultat bedömas kritiskt?

• Vilka situationer kräver särskild uppmärksamhet?

• Hur dokumenteras avvikelser mellan AI-förslag och kliniskt beslut?

• Hur hanteras systematiska fel?

Mänsklig tillsyn är inte bara ett regleringskrav. Det är ett förebyggande ansvarsdrag.

3.5 Förhandsavklaringar före implementering

Ansvarsplacering måste vara definierad innan systemet tas i bruk.

Detta innebär:

• Tydlig rollförklaring mellan klinisk och organisatorisk nivå.

• Dokumenterad beslutsprocess vid anskaffning.

• Intern förankring i ledningen.

• Definierade rutiner för incidenthantering.

När ansvar först diskuteras efter en incident är strukturen otillräcklig.

4. Intern klarmatrix

Följande frågor bör vara tydligt besvarade internt:

1. Vem har kliniskt beslutsansvar vid användning av AI?

2. Vem har övergripande organisatoriskt ansvar?

3. Hur är leverantörens ansvar klargjort kontraktuellt?

4. När och hur ska AI överstyras?

5. Hur dokumenteras avvikelser mellan AI och klinisk bedömning?

6. Hur hanteras fel eller nästan-fel?

7. Hur utvärderas systemets prestanda över tid?

8. Vem rapporterar till ledningen vid incidenter?

Om dessa förhållanden inte är tydligt definierade, finns det risk för ansvarsspill.

5. Avslutande syntes

AI introducerar inte ett nytt ansvar. Det synliggör befintligt ansvar på flera nivåer samtidigt.

Kliniskt ansvar förblir hos behandlande tandläkare.
Organisatoriskt ansvar förblir hos ledningen.
Systemansvar ligger hos leverantör.

Utmaningen uppstår när gränserna mellan dessa nivåer är oklara.

En tandklinik som har etablerat en tydlig ansvarsarkitektur innan fel uppstår, stärker både patientsäkerhet och organisatorisk robusthet.

Ansvar måste definieras innan det prövas.