A empresa israelita Adversa anunciou uma nova técnica que pretende ‘enganar’ os algoritmos usados por sistemas de Reconhecimento Facial e que assenta na introdução de pequenos detalhes realistas, ou ‘ruído’, que levam a que a solução falhe completamente na identificação. Na demonstração publicada no site, uma foto do CEO da empresa Alex Polyakov foi alterada com elementos do rosto de Elon Musk e a técnica foi suficiente para enganar o PimEyes, uma solução disponível publicamente.
O Adversarial Octopus, como foi batizada esta solução, é “adaptável”, “furtivo” e “preciso”, nas palavras da própria Adversa. O CEO explica ao Motherboard que os outros métodos “estão só a ocultar o utilizador e não a tentar mudá-lo para ser outra pessoa”. A solução israelita foi treinada para adicionar o ruído na imagem que sabe, intencionalmente, que irá desvirtuar os resultados finais de identificação, alterando a imagem para parecer outra pessoa. O Octopus é uma “caixa negra” onde nem sequer os seus próprios criadores conseguem perceber completamente como a rede neural funciona e altera as imagens.
O trabalho ainda terá de ser revisto pelos pares e a empresa planeia publicar os resultados depois de informar as empresas que criam soluções de reconhecimento facial sobre as vulnerabilidades e como se podem defender destas falhas.
Numa altura em que o segmento está em constante evolução, é provável que os sistemas de reconhecimento facial usados publicamente sejam alterados para não serem iludidos desta forma. No entanto, também é real a possibilidade de haver utilizações com fins menos lícitos deste tipo de esquemas para defraudar sistemas de verificação online ou por hacktivistas que tentam manter a sua identidade no anonimato.
