“Atores estrangeiros já estão a usar conteúdos sintéticos nas suas campanhas de influência e o FBI antecipa que estes vão ser cada vez mais usados por ciberatores estrangeiros e criminosos nas suas campanhas de spear phishing [direcionadas a uma pessoa em específico] e engenharia social, numa evolução da atividade ciberoperacional”, alertou o Departamento Federal de Investigação dos EUA (FBI) numa Notificação para a Indústria Privada (PIN, no acrónimo em inglês). O FBI nota que atualmente já são usados vídeos, imagens, sons e textos gerados por mecanismos de Inteligência Artificial (IA), conhecidos como deepfakes, ou conteúdos sintetizados com aparência real nas em campanhas maliciosas.
O alerta das autoridades é baseado em investigações feitas no setor privado e nas quais se percebeu que hackers com ligações aos governos chinês e russo já estão a usar imagens geradas por Inteligência Artificial para conferirem maior credibilidade às suas campanhas, seja em ciberataques, seja para influenciar a opinião pública, noticia a publicação Cyberscoop.
O FBI estima que, nos próximos 12 a 18 meses, e dados os avanços tecnológicos, os utilizadores vão encontrar muito mais conteúdo fraudulento, criado para ter a aparência de que é autêntico. O alerta dado pela agência surgiu na semana passada, dois dias antes de Chris Wray, diretor do FBI, ter falado sobre esta tendência no final da semana.
Os utilizadores devem estar alerta para pequenas imperfeições, distorções, inconsistências e dessincronizações entre áudio e imagem nos vídeos. “Não assumam que as personagens online ou indivíduos são legítimos só pela existência de vídeos, fotografias ou áudio nos seus perfis”, dizem as autoridades.
Nos EUA foi aprovado o IOGAN, Identifying Outputs of Generative Adversarial Networks Act, que prevê a colaboração de várias instituições para fornecer mais suporte a investigações relacionadas com a manipulação de conteúdos.
Em Portugal, já há celebridades vítimas de deepfakes e a criação de vídeos falsos, mas realistas, é dos problemas da IA que os portugueses mais temem.
