A Facebook está a preparar-se para lidar com as imagens e vídeos deepfake apesar de, para já, este ainda não ser um grande problema naquela rede social. A empresa está a trabalhar com investigadores da Universidade do Michigan num algoritmo que aplica engenharia reversa na análise dos conteúdos para, não só identificar os deepfakes, como também consegue apontar para a sua origem. O modelo de Inteligência Artificial ainda não está pronto para ser lançado, mas já mostrou resultados promissores.
O sistema funciona ao analisar ‘vestígios’, conhecidos por hiperparâmetros, que estão presentes nas imagens geradas por modelos de aprendizagem de máquina, equiparados às peças de um motor. De uma forma coletiva, estes vestígios produzem uma impressão digital única que ‘revela’ a fonte da imagem ou do vídeo.
Tal Hassner, da Facebook, explica ao The Verge que o software usado para gerar deepfakes é facilmente personalizável e os criadores conseguem cobrir os seus vestígios, se assim o entenderem. Este algoritmo, no entanto, permite analisar o conteúdo com maior detalhe: “Se é um novo modelo de IA que nunca niguém viu, há muito pouco que possamos dizer. Agora, conseguimos identificar que ‘esta imagem foi carregada aqui e ali’ e que todas vieram da mesma fonte. Caso consigamos apreender o portátil ou computador usado para gerar as imagens, também conseguimos provar quem é o culpado”.
O algoritmo consegue identificar estes vestígios e também identificar que modelo criou a imagem. “Em testes convencionais, obtivemos resultados de topo”, conta o especialista.
Dada a rapidez da evolução neste segmento da Inteligência Artificial generativa, com novas técnicas a serem descobertas e publicadas todos os dias, é difícil para qualquer tipo de filtro manter-se atualizado. Ainda assim, a expetativa dos envolvidos é avançar com esta investigação e chegar a uma solução que possa ser empregue em grande escala.
