Un écart de délai comblé en intégrant la race à l’objectif

Une file d’attente de rendez-vous peut dissimuler la décision qui la façonne. Dans un système de planification fondé sur l’apprentissage automatique dans le secteur de la santé, les patients noirs attendaient environ 30 % plus longtemps que les autres. Les chercheurs ont éliminé cette disparité en intégrant la race à la fonction objectif du système, tout en maintenant l’efficacité de la planification.

Ce résultat montre pourquoi les systèmes d’IA ne sont pas de simples moteurs de prédiction. Ils peuvent répartir des ressources, influencer les possibilités offertes et peser sur les processus institutionnels. Lorsque des inégalités historiques sont intégrées aux données, que les retours sont incomplets ou que les institutions interagissent de manière à se renforcer mutuellement, des disparités peuvent apparaître de façon moins visible et s’aggraver au fil du temps.

L’exemple provient de l’une des 13 études d’un numéro spécial de l’INFORMS Journal on Computing consacré à l’IA responsable et à la science des données au service du bien social. Ce numéro couvre six domaines : les systèmes judiciaires, l’éducation, la communication, la santé, les biais et l’équité, ainsi que l’interprétabilité. Ram Ramesh, professeur à l’école de management de l’université de Buffalo et rédacteur en chef adjoint chargé d’un domaine de la revue, estime que les conséquences éthiques ne peuvent pas être traitées uniquement après la conception des systèmes ; les objectifs sociaux doivent orienter la collecte des données, l’apprentissage, l’optimisation, les interactions et la gouvernance.

Ramesh présente l’équité comme un objectif de conception, plutôt que comme une contrainte extérieure ajoutée à un système par ailleurs optimal. Le résultat obtenu pour les rendez-vous constitue une démonstration limitée mais utile : modifier ce qu’un algorithme optimise a changé une disparité mesurée sans réduire l’efficacité de planification rapportée. Cela ne résout pas les problèmes plus vastes liés aux données historiques biaisées ou aux retours incomplets.

Concrètement, les équipes qui développent des systèmes d’IA pour la planification ou l’allocation de ressources peuvent intégrer l’équité au cahier des charges technique dès le départ, au même titre que les données et les objectifs de performance. Pour les personnes concernées par ces systèmes, ce choix peut se traduire par une différence mesurable dans le temps d’attente. Le résultat rapporté offre une piste d’amélioration précise, tout en laissant au travail d’ingénierie une tâche plus vaste : détecter et prévenir les disparités moins évidentes.