Uma lacuna na marcação de consultas fechada com a raça

Uma fila de marcação de consultas pode esconder a decisão que a determina. Num sistema de marcação baseado em aprendizagem automática na área da saúde, os doentes negros esperavam aproximadamente mais 30 % do que os doentes não negros. Os investigadores eliminaram a disparidade ao incluir a raça no objetivo de otimização do sistema, mantendo a eficiência da marcação.

Esta conclusão mostra por que razão os sistemas de IA não são apenas motores de previsão. Podem distribuir recursos, moldar oportunidades e influenciar processos institucionais. Quando desigualdades históricas estão incorporadas nos dados, o feedback é incompleto ou as instituições interagem de formas que se reforçam mutuamente, as disparidades podem surgir de forma menos visível e agravar-se ao longo do tempo.

O exemplo provém de um dos 13 estudos de um número especial da revista INFORMS Journal on Computing dedicado à IA responsável e à ciência de dados para o bem social. O número abrange seis áreas: sistemas judiciais, educação, comunicação, cuidados de saúde, enviesamento e equidade, e interpretabilidade. Ram Ramesh, professor na Escola de Gestão da University at Buffalo e editor de área da revista, afirma que as consequências éticas não podem ser tratadas apenas depois de os sistemas serem construídos; os objetivos sociais têm de orientar a recolha de dados, a aprendizagem, a otimização, a interação e a governação.

Ramesh descreve a equidade como um objetivo de conceção, e não como uma restrição externa acrescentada a um sistema que, de outro modo, seria ótimo. O resultado da marcação de consultas é uma demonstração limitada, mas útil: alterar aquilo que um algoritmo otimiza modificou uma disparidade medida sem reduzir a eficiência de marcação comunicada. Não resolve os problemas mais amplos criados por dados históricos enviesados ou por feedback incompleto.

Concretamente, as equipas que desenvolvem IA para marcação de consultas ou distribuição de recursos podem tratar a equidade como parte do caderno de encargos técnico desde o início, a par dos dados e dos objetivos de desempenho. Para as pessoas afetadas por esses sistemas, essa escolha pode traduzir-se numa diferença mensurável no tempo de espera. O resultado divulgado oferece uma via específica para a melhoria, deixando simultaneamente a tarefa mais ampla — encontrar e prevenir disparidades menos evidentes — firmemente nas mãos da engenharia.