A Sensity, uma empresa especializada em informação, revela que entre julho de 2019 e julho deste ano foram carregadas e partilhadas mais de 100 mil fotografias de mulheres para um canal de Telegram, onde um bot com recurso a Inteligência Artificial as ‘despiu’ e criou nudes falsas. A empresa avisa ainda que muitas das mulheres retratadas parecem ser menores, mas o criador do canal desvaloriza as acusações, dizendo tratar-se apenas de entretenimento. A BBC testou a solução e conclui que, na maior parte das vezes, os resultados não são verosímeis, com partes do corpo a serem retratadas nos sítios errados, como um umbigo no peito, por exemplo.
A empresa que denuncia o caso revela estar a ser usado uma tecnologia de bot deepfake, ou seja, um algoritmo inteligente que reconhece a roupa nas fotografias e a remove, convertendo-as em nudes. O sistema assenta num canal de Telegram para onde os utilizadores podem enviar as suas fotos e o bot transforma-as, em minutos, e sem custos. Giorgio Patrini, CEO da Sensity, avisa que “basta ter uma conta numa rede social com fotos públicas para se poder ser um alvo”. O criador do canal, que dá pelo nome de ‘P’, afirma não estar preocupado, reitera que se trata de entretenimento e que “ninguém vai ser chantageado com isto, já que a qualidade não é realista”. A equipa de moderação está atenta e remove conteúdos quando se detetam menores, com o utilizador que as carregou a ser banido permanentemente. Apesar de desvalorizar o tema, ‘P’ afirma que, em breve, irá remover todas as imagens carregadas.
A investigação da Sensity estima terem sido partilhadas mais de 104 mil imagens neste canal, desde julho de 2019 e, com o aparecimento de algumas mulheres menores, alerta que o sistema pode estar a ser usado para gerar conteúdo pedófilo.
O bot está a ser bastante divulgado no site russo VK e um inquérito na plataforma mostra que a maior parte dos utilizadores são da Rússia ou de países com influência russa. A VK, no entanto, demarca-se dizendo que “não tolera este tipo de conteúdos ou links na plataforma” e que “bloqueia as comunidades que o distribuem”.
A Sensity terá alertado o Telegram, a VK e agências das autoridades para este estudo, mas sem ter obtido resposta para já.
