Apesar de ainda não estar confirmado quais as ferramentas de Inteligência Artificial que foram usadas para criar imagens falsas e de cariz pornográfico de Taylor Swift, o 404 Media revela que a origem é um grupo de Telegram especializado neste tipo de conteúdos.
Neste grupo, os elementos partilham estratégias para subverter as proteções colocadas pelos criadores dos algoritmos de Inteligência Artificial e para conseguir gerar imagens de cariz sexual. As dicas passam por evitar usar termos como ‘Taylor Swift’ e usar ‘Taylor cantora Swift’ e empregar palavras que descrevam objetos, cores e composições que se assemelhem a atos sexuais, em vez de usar os termos diretamente. De acordo com o 404 Media, os autores não usaram um modelo de IA treinado, mas abusaram de ferramentas como o Designer da Microsoft.
Fonte da empresa de Redmond informa que a Microsoft está a investigar o tema e se ferramentas suas estão na génese destes conteúdos. Um porta-voz lembra que o Código de Conduta proíbe o uso “para a criação de conteúdo adulto ou íntimo não-consensual, e que qualquer tentativa repetida de produzir conteúdos que vão contra as políticas pode resultar em perda de acesso ao serviço”.
No tal grupo de Telegram, alguns utilizadores parecem satisfeitos por ver as imagens a ser partilhadas na X e outras redes sociais, bem como em sites de partilha de conteúdos de celebridades e roubados, embora alguns outros advirtam que a partilha de imagens fora do grupo pode levar o Telegram a encerrar o canal.
As imagens de “Swift” já foram entretanto removidas, mas uma das publicações esteve online mais de 17 horas e teve mais de 45 milhões de visualizações. Do antigo Twitter, as imagens passaram rapidamente para outras plataformas, como o Reddit, Facebook e Instagram, com as consequências ainda por apurar. Alguns utilizadores da X estão a ter as suas contas suspensas depois de terem partilhado estas imagens, noticia o ArsTechnica.
Os fãs de Taylor Swift estão dedicados a tentar ‘enterrar’ estes conteúdos falsos e começaram a carregar as suas imagens favoritas da cantora, numa tentativa de bloquear o funcionamento dos algoritmos de pesquisa das redes. Nem a artista, nem a sua equipa se pronunciaram oficialmente ainda sobre o tema.
