CHAPTER 2: INTELLIGIBILITY OF ALGORITHMS IN SYSTEMS OF AID IN MEDICAL DECISION-MAKING

Abstract

Grâce aux progrès de l’informatique et à la collecte systématique d’informations sur les patients, de nouveaux outils médicaux ont été développés. Certains servent à guider le médecin dans sa décision, d’autres peuvent prendre automatiquement des décisions. Appelés « systèmes experts » ou « systèmes d’aide à la décision », ils peuvent participer au diagnostic, au pronostic ou au soin. Ils fonctionnent tous au moyen d’algorithmes traitant les données. Ces algorithmes sont plus ou moins complexes, plus ou moins supervisés, mais ils sont aussi très souvent opaques. Dès lors que ces outils prennent une place toujours plus grande dans le monde médical, il apparaît nécessaire de mieux informer les utilisateurs et les bénéficiaires – médecins et patients – de leurs logiques de fonctionnement, de leurs limites et de leurs éventuels biais. La présente étude suggère de renforcer le droit français et européen sur ce point. Une meilleure intelligibilité des algorithmes dans les systèmes d’aide à la décision répondrait aux exigences déontologiques en matière de décision médicale et à l’objectif de décision médicale partagée prise en conscience.