Quando IA usa preços como proxy à necessidades de saúde, identifica incorretamente pacientes negros como mais saudáveis que brancos igualmente doentes, já que menos dinheiro foi gasto com eles. Pesquisa do MIT investigou modalidade inexplorada de IA representativa de imagens médicas usando registros privados e públicos, descobrindo que modelos de IA podem estimar a raça e autor relatada dos pacientes apenas a partir de imagens médicas. Treinaram modelo de aprendizado profundo para classificar a raça como negra, branca ou asiática, através de dados de imagens de radiografias de tórax, de membros, tomografia de mama e mamografias, sem indicação explícita da raça do paciente, façanha que nem médicos mais experientes alcançam, sem estar claro como o modelo conseguiu. Na tentativa de descobrir e entender o “como”, levaram a análises incluindo variações na anatomia, densidade óssea, resolução da imagem via mecanismos plausíveis de reconhecimento de rosto com modelos exibindo alta capacidade de discernir raça de raios-X de tórax. Em ambiente de saúde, algoritmos podem determinar se um paciente é adequado à quimioterapia, triagem direta do paciente ou se deve ser transferido à UTI.
Intitulado “Reconhecimento de IA da raça individual em imagens médicas, um estudo de modelagem” e lançado na Lancet Digital Health, cientistas demonstraram que os modelos poderiam prever a raça em vários conjuntos de dados, modalidades de imagem e tarefas clínicas, em variedade de centros acadêmicos e grupos de pacientes nos EUA. Empregaram três conjuntos de dados de raios-X de tórax e avaliaram o modelo em fração nunca vista do conjunto de dados usado para desenvolver o modelo, bem como em conjunto de dados completamente diverso. Posteriormente treinaram métodos de detecção de identidade racial em imagens de locais não radiográficos de tórax, como radiografia digital, radiografia lateral da coluna cervical, mamografia e tomografia computadorizada de tórax para verificar se a funcionalidade do modelo estava restrita a radiografias de tórax. Tentaram explicar a partir daí o comportamento do modelo observando diferenças nos traços de caráter físico entre vários grupos raciais, distribuição de doenças, distinções específicas de local ou tecido, impactos sociais e ambientais e o potencial dos sistemas de aprendizado de máquina para detectar raça ao ponderar sobre os dados. Descobriram que a capacidade dos modelos de prever a raça apenas com base em rótulos de diagnóstico foi significativamente pior que a dos desenhos baseados em imagens de raios-X de tórax, que, pela escassez de designações de identificação racial, se concentraram em asiáticos, negros e brancos sendo a realidade básica detalhe auto-relatado. Pesquisa anterior descobriu que os modelos podem detectar a raça auto-relatada dos pacientes a partir de documentação médica, mesmo quando essas observações são desprovidas de marcadores claros de raça, sendo que especialistas humanos como neste estudo são incapazes de estimar com segurança a raça do paciente a partir do mesmo.
Moral da Nota: o governo americano criou o Escritório Nacional da Iniciativa de IA sob a égide do OSTP, Escritório de Política Científica e Tecnológica da Casa Branca, que aprimora “esforços para garantir a administração da América” em inovações da nova era, como IA e aprendizado de máquina, análise de dados e etc. Ajuda o governo aumentar o investimento em pesquisa de IA, usar recursos de computação e dados de IA, definir padrões técnicos em IA e aprendizado de máquina, construir força de trabalho e se envolver efetivamente com parceiros internacionais. No índice de prontidão de IA do governo 2020, a Índia ocupa o 40º lugar onde os EUA estavam no topo, resultado direto de estratégia nacional de IA dedicada. No entanto, a Índia tem o cenário de pesquisa absolutamente mais interessante para inovações emergentes como IA e aprendizado de máquina, ficando em terceiro lugar na pesquisa de IA pelo relatório de inteligência artificial Nature Index 2020. A estratégia de IA projeta regiões centrais e aplicativos concebíveis em áreas como assistência médica, educação e administração, sendo que a metodologia prolongada progredirá no sentido de colocar a Índia no papel administrativo de utilização da IA no desenvolvimento econômico, crescimento social e desenvolvimento abrangente. Relatório conjunto da Ernest Young e NASSCOM rastreou que no futuro até 46% da força de trabalho estará envolvida em novos cargos que não existem hoje, posições que exigirão habilidades dependentes de avanços como IA e aprendizado de máquina.