Hvordan vurderes et nyt KI-værktøj, før det tages i brug?

Nye KI-værktøjer dukker op hurtigt, og mange virker nyttige ved første øjekast. Spørgsmålet er ikke blot hvad værktøjet kan gøre, men om det bør bruges – og på hvilke betingelser.

Kort svar

Et KI-værktøj bør vurderes ud fra hvad det bruges til, hvilke data det håndterer, og hvilke konsekvenser det kan have. Det vigtigste er at forstå brugen i praksis, ikke blot funktionaliteten.

Hvad dette betyder i praksis

• Hvad skal værktøjet faktisk bruges til?

• Påvirker det kliniske vurderinger eller kun administrative opgaver?

• Behandler det patientoplysninger – og i så fald hvordan?

• Hvor lagres data, og hvem har adgang?

• Hvor stor er risikoen, hvis værktøjet giver fejl eller misvisende output?

• Hvordan skal medarbejdere bruge det i praksis?

Hvad dette betyder for ansvar

At tage et KI-værktøj i brug er et aktivt valg – og dermed et ansvar. Klinikken kan ikke læne sig på, at leverandøren har skabt et godt produkt. Det afgørende er, om brugen i egen praksis er forsvarlig, forstået og kontrolleret.

Hvornår dette bliver vigtigt at strukturere

Dette bliver særlig vigtigt, når flere værktøjer tages i brug, eller når brugen spreder sig i organisationen. Da bør vurderingerne ikke foretages ad hoc, men indgå i en enkel, fælles praksis for hvordan nye værktøjer vurderes og godkendes.