Aux États-Unis, un groupement hospitalier utilise un algorithme afin de déterminer l’urgence de pratiquer des transplantations rénales. Or, cet algorithme basé sur la couleur de peau a récemment évincé des centaines de patients noirs de la liste d’attente.
Certaines urgences ont été retardées
Les algorithmes dans le domaine de la santé ont pour vocation d’aider à la prise de décision et simplifier le travail des professionnels pour de meilleurs résultats. Une étude publiée dans le Journal of General Internal Medicine le 15 octobre 2020 montre que ce n’est pas toujours le cas. Selon une équipe de chercheurs de l’Université d’Harvard (États-Unis), un système d’apprentissage automatique a récemment réduit les chances de guérison de patients noirs.
Les directeurs de l’étude ont pris en compte les données du réseau hospitalier Mass General Brigham concernant 57 000 patients atteints d’insuffisance rénale chronique. Afin de mieux rediriger ces patients, les professionnels utilisent un algorithme dont le but est de se prononcer sur l’urgence d’une telle opération en fonction des patients.
Selon les chercheurs, le système a minimisé cette urgence pour 700 patients noirs. Or, ce nombre représente un tiers des patients noirs dont les données ont été intégrées à l’étude. Autrement dit, leurs cas auraient dû être considérés comme étant plus graves. Par ailleurs, la liste d’attente aurait dû intégrer 64 de ces patients pour une greffe de rein en urgence.
Certains législateurs veulent agir
Il faut savoir que ce n’est pas la première fois qu’un système basé sur l’IA discrimine les personnes en fonction de leur couleur de peau. En 2019, ce fut le cas d’un dispositif que de nombreux systèmes de santé utilisaient. Ce dernier, hiérarchisant l’accès aux soins pour des maladies chroniques, privilégiait les personnes blanches par rapport aux personnes noires. Or, le dispositif en question ne tenait pas compte de la couleur de peau. Néanmoins, le système qu’évoquent les chercheurs d’Harvard repose entièrement sur ce critère.
Les précédents cas de discrimination ont suscité assez peu de réactions. En revanche, cette dernière nouvelle a attiré l’attention des législateurs fédéraux étasuniens. Citons par exemple le député démocrate Richard Neal, qui a évoqué la nécessité de reconsidérer la question de la couleur de peau au niveau des algorithmes. L’intéressé a souligné le risque de diagnostics tardifs ou inexacts concernant les patients noirs et latino. Or, ceci se traduit souvent par des soins de qualité moindre.
Richard Neal a demandé aux entreprises du secteur et aux National Institutes of Health (NIH) d’étudier l’impact des algorithmes cliniques sur les patients. Cette demande va dans le même sens que celle faite au ministère de la Santé par la sénatrice Elizabeth Warren et son groupe.
