Há páginas que se dedicam a criar deepfakes, geradas a pedido dos utilizadores, com imagens nuas de pessoas sem o seu consentimento, utilizando Inteligência Artificial para remover roupas de fotos reais das vítimas. O comportamento é reprovável, mas uma investigação da Wired descobriu que está até a ser facilitado pelas grandes tecnológicas. Através da investigação foi descoberto que há meses que 16 destas páginas disponibilizam sistemas de autenticação da Apple, Google, Discord, Patreon, Twitter ou Line.
A IA generativa permite ‘despir’ qualquer pessoa, em qualquer fotografia e a popularidade das ferramentas tem conduzido a um aumento dos abusos. Peritos mostram que as tecnológicas têm sido lentas a reagir, com estas páginas a aparecer no topo das pesquisas realizadas, a aparecerem anunciadas em publicações nas redes sociais e as apps a figurarem nas lojas de aplicações.
Adam Dodge, advogado e fundador do movimento EndTAB (Ending Technology-Enabled Abuse), afirma que a descoberta da Wired mostra “a continuação de uma tendência que normaliza a violência sexual contra mulheres e raparigas nas Big Tech. As API de autenticação são ferramentas de conveniência. Nunca devíamos tornar a violência sexual um ato conveniente. Devemos colocar paredes em torno dos acessos a estas apps e, em vez disso, estamos a criar pontes de acesso”, cita a revista.
Embora não revele quais as páginas de deepfakes que usam este método de login facilitado, a investigação detalha que muitas delas fazem parte de uma rede detida pela mesma organização ou pelo mesmo conjunto de indivíduos. Apesar de os termos e condições de acesso às APIs referirem que os programadores não as podem usar em formas que ponham em causa a privacidade das pessoas, a verdade é que estes sistemas aparecem em muitas destas páginas.
Porta-vozes da Apple e Discord afirmam que removeram as contas de programador ligadas a estas páginas, a Google informa que vai tomar ações quando verificar que os termos foram violados, a Patreon clarifica que proíbe as contas que criam imagens explícitas, enquanto a Line confirma que está a investigar o tema. A X não respondeu ao pedido de comentário da Wired.
Além dos sistemas de autenticação, estas páginas permitem ainda o pagamento dos serviços que prestam com recurso a cartões Visa e Mastercard, com os logotipos das duas empresas a aparecerem visíveis. A Visa não respondeu ao pedido de comentário e a Mastercard afirma que “compras de deepfakes não consentidas não são permitidas na nossa rede”.
