Fatores responsáveis por até 60% das mortes em determinado ano nos EUA, envolvem o lugar onde a pessoa nasceu, origem social e econômica, bairro onde passou os anos de formação e onde envelhece, desempenham papel significativo na ocorrência e resultados de doenças cardíacas, câncer, lesões não intencionais, doenças respiratórias crônicas e cerebrovasculares, aí, as cinco principais causas de morte. Os dados sobre tais fatores "macro", essenciais para rastrear e prever resultados de saúde à indivíduos e comunidades, são aplicados por analistas via ferramentas de aprendizado de máquina em "microdados" restritos a ambientes clínicos buscando luz sobre disparidades de saúde. Pesquisa da NYU Tandon School of Engineering e da NYU School of Global Public Health, NYU GPH, "Aprendizado de máquina e justiça algorítmica em saúde pública e populacional" publicado na Nature Machine Intelligence, considera fatores "macro" e o impacto na saúde, buscando ativar na comunidade por aprendizado de máquina, abordagem nova incorporando a teia de dados à modelagem preditiva nos resultados de saúde individual e comunitária. Segundo pesquisadores, o volume de trabalho em IA e a implementação de aprendizado de máquina na saúde em áreas como análise de imagens, radiografia e patologia, são colocados ao lado da conscientização e defesa em áreas como racismo estrutural, brutalidade policial e disparidades de saúde que emergiram na pandemia. Alavancou o Modelo Social Ecológico, estrutura buscando entender como saúde, hábitos e comportamento do indivíduo são afetados porfatores como políticas públicas a nível nacional e internacional e disponibilidade de recursos de saúde na comunidade e vizinhança. Mostra como princípios equidade introduzidos no processo de desenvolvimento de algoritmos para modelagem de saúde pública, podem ser usados no desenvolvimento de algoritmos projetados e usados de modo mais equitativo.
No artigo os autores mostram como a mesma estrutura é aplicável em considerações de privacidade de dados, governança e práticas adequadas para transferir a carga de saúde dos indivíduos à melhoria da equidade. Organizaram o trabalho em taxonomia dos tipos de tarefas em quesão usados no aprendizado de máquina e IA, abrangendo predições, intervenções, identificando efeitos e alocações com exemplos de como a perspectiva multinível pode ser aproveitada. Como exemplo de abordagem, membros da mesma equipe apresentaram na Conferência AAAI/ACM sobre IA, Ética e Sociedade uma nova abordagem para usar "justiça causal de vários níveis", via rede de dados relevantes para avaliar a justiça de algoritmos, até o momento, limitado pelo foco exclusivo em atributos de nível individual, como gênero e raça. Formalizaram abordagem para entender relações de justiça com ferramentas de inferência causal, sintetizando meio em que o investigador avalia e explica os efeitos de atributos macro sensíveis e não meramente individuais. Desenvolveram o algoritmo à abordagem e forneceram as configurações sob as quais é aplicável, ilustrando o método em dados que mostra como as previsões em raça, renda e gênero têm valor limitado se atributos confidenciais não forem contabilizados ou contabilizados sem o contexto adequado.
Moral da Nota: "o trabalho apresenta estrutura para pensar não apenas sobre a equidade em algoritmos, mas sobre os tipos de dados que usamos" sendo que "a justiça algorítmica tende se concentrar em rótulos, homens e mulheres, preto e branco, etc, sem considerar as várias camadas de influência da perspectiva causal para decidir o que é justo e injusto nas previsões". Pensando fora da clínica e além dos limites estritos de fatores individuais “a pesquisa sobre o que causa e reduz o patrimônio líquido mostra que para evitar a criação de mais disparidades é essencial considerar fatores anteriores.”