Os responsáveis do Twitter revelaram as conclusões de um estudo interno, feito por três especialistas em aprendizagem de máquina (machine learning), e que mostra que o algoritmo da plataforma empregue para cortar automaticamente as fotografias carregadas atua de forma algo discriminatória e racista. Os especialistas concluem que o algoritmo apresenta uma diferença de tratamento 8% a favor das mulheres e 4% a favor de indivíduos brancos sobre negros.
Os investigadores tentaram aferir se o algoritmo também favorecia a visão do corpo da mulher, em vez da sua cabeça, concluindo que tal não acontece, noticia a Reuters.
O estudo não conseguiu determinar as causas para esta discriminação, embora os investigadores citem problemas com os fundos ou com a cor dos olhos. Ainda assim, os especialistas consideram que estas causas não podem ser confundidas com justificações.
Para contrariar este comportamento, e equilibrar um pouco as condições, o Twitter passou a mostrar recentemente imagens com rácios padrão, sem qualquer corte, nas suas aplicações para aparelhos móveis.
As conclusões deste estudo constituem mais uma evidência no sentido de que o uso de sistemas de Inteligência Artificial apresenta ainda alguma discriminação demográfica e do impacto que isso possa ter nas soluções de reconhecimento facial ou de análise de texto.
Estudos anteriores, da Microsoft, MIT e da Amazon, concluíram que os sistemas de reconhecimento facial apresentam mais erros a identificar pessoas de cor do que pessoas brancas ou que discriminam mulheres em processos de recrutamento.
