Após, em março deste ano, o Twitter ter realizado um estudo interno feito por três especialistas em aprendizagem de máquina (machine learning), que demonstrava que o algoritmo da plataforma empregue para recortar automaticamente as fotografias carregadas atuava de forma algo discriminatória e racista, a empresa desativou esta funcionalidade e, em seguida, promoveu uma recompensa de bug algorítmica para tentar analisar melhor o problema.
Após o concurso aberto promovido pela empresa, investigadores especializados em aprendizagem de máquina concluem que o algoritmo aplicado pelo Twitter para recortar as imagens carregadas para a plataforma favorece rostos que são “magros, jovens, de cor de pele clara, textura macia e com traços faciais estereotipadamente femininos”, noticia The Verge. A somar a estas conclusões retiradas pelo vencedor do prémio, Bogdan Kulynych, estudante suíço, os resultados mostraram também que o algoritmo era discriminador contra pessoas de idade e favorecia a escrita em inglês. Outros investigadores observaram ainda que o algoritmo de recorte da rede social também é tendencioso contra emojis de tons de pele mais escuros.
O estudante observou no seu estudo que os preconceitos algorítmicos amplificam os preconceitos da sociedade, excluído “aqueles que não atendem às preferências do algoritmo de peso corporal, idade, cor da pele”.
Na conferência DEF CON 29, Rummman Chowdhury, diretora da equipa META do Twitter, abordou esses resultados: “Quando pensamos em preconceitos nos nossos modelos, não se trata apenas do académico ou experimental […], mas também funciona na forma como nós pensamos na sociedade. Eu uso a frase ‘vida a imitar arte a imitar vida’. Criamos esses filtros porque achamos que isso é bonito, e isso acaba por treinar os nossos modelos e conduzir a essas noções irrealistas do que significa ser atraente. ”
Patrick Hall, um dos juízes do concurso e investigador de IA que foca o seu trabalho em preconceito algorítmico, refere que esses preconceitos existem em todos os sistemas de Inteligência Artificial a solução passa por as empresas trabalharem de forma proativa para encontrar esses problemas e as suas soluções.
