O maior risco da Inteligência Artificial não é criar mentiras. É destruir a confiança na verdade.
Durante muitos anos habituámo-nos a confiar nas imagens. Uma fotografia, uma gravação de voz ou um vídeo eram, por definição, elementos que reforçavam a ideia de que determinado acontecimento tinha realmente ocorrido. Naturalmente, sempre existiram montagens, manipulações ou contextos retirados do seu enquadramento original, mas partíamos de um princípio relativamente estável: aquilo que víamos era, salvo alguma interpretação mais filosófica, uma representação da realidade. Nos tempos que vivemos, essa certeza começou a desaparecer e talvez ainda não tenhamos percebido o verdadeiro alcance dessa mudança.
Sempre que se fala de Inteligência Artificial, a conversa acaba quase inevitavelmente nos deepfakes. É compreensível. A capacidade de criar vídeos, vozes ou fotografias praticamente indistinguíveis da realidade impressiona qualquer pessoa. No entanto, penso que o verdadeiro problema não está na existência dessas falsificações. O maior perigo começa quando deixamos de conseguir confiar em qualquer evidência digital. Nesse momento, não é apenas o conteúdo falso que ganha força. Também o conteúdo verdadeiro passa a poder ser negado.
Acredito que, em cibersegurança, os ataques mais eficazes raramente começam pela tecnologia. Começam por explorar a confiança. Durante anos, a engenharia social procurou convencer-nos a clicar num link, abrir um anexo ou divulgar uma palavra-passe. Agora surge um novo ator, a Inteligência Artificial que acrescenta uma nova dimensão a esse problema: deixa de ser necessário enganar apenas uma pessoa. Basta criar dúvida suficiente para que todos desconfiem daquilo que veem.
Existe um conceito muito interessante conhecido por The Liar’s Dividend, que ajuda a compreender esta nova realidade. A ideia é surpreendentemente simples: quando qualquer imagem pode ser fabricada por Inteligência Artificial, alguém apanhado numa situação comprometedora pode responder que tudo não passa de um deepfake. Talvez já não seja necessário provar que a gravação é falsa. Basta fazer algo que pode ser terrivelmente eficaz: lançar a dúvida. E quando a dúvida se instala, a verdade deixa de ser suficiente.
É precisamente aqui que ocorre uma mudança profunda. Durante décadas preocupámo-nos em distinguir o verdadeiro do falso. Nos próximos anos poderemos enfrentar um desafio completamente diferente. Distinguir o falso do verdadeiro deixará de bastar, porque até aquilo que é verdadeiro poderá deixar de convencer. A dúvida passa a vencer a evidência e esse fenómeno tem consequências muito para além da tecnologia.
Basta imaginar algumas situações do quotidiano. Receber um áudio do nosso diretor a dar uma instrução urgente. Um familiar que nos liga a pedir ajuda. Um vídeo comprometedor de um político que surge em plena campanha eleitoral ou uma fotografia capaz de destruir a reputação de uma empresa. Mesmo que tudo seja autêntico, haverá sempre quem responda da mesma forma: “Foi feito por Inteligência Artificial.” Pela primeira vez, essa resposta poderá ser suficiente para instalar a incerteza.
As implicações deste cenário, que ganha força todos os dias, são deveras profundas. Tribunais virão a depender cada vez mais da validação técnica da prova digital. O jornalismo terá de reforçar os seus processos de verificação, porque a simples apresentação de provas poderá deixar de ser suficiente para convencer. As empresas terão de enfrentar novos desafios reputacionais. As eleições poderão tornar-se ainda mais vulneráveis às campanhas de desinformação, como aliás já sucedeu em outros países. Em cibersegurança costumamos dizer que um incidente termina quando recuperamos os sistemas. Mas o que acontece quando o incidente afeta algo que não pode ser restaurado através de um backup: a confiança?
Talvez seja precisamente aqui que a discussão deixa de ser tecnológica. Passa a ser profundamente humana. Num mundo em que a desconfiança tem crescido como vamos confiar uns nos outros? Como poderemos pretender ensinar os nossos filhos a distinguir informação credível num mundo onde praticamente tudo pode ser fabricado? E, o que acontece quando a verdade deixa de convencer porque a simples possibilidade de manipulação é suficiente para criar desconfiança?
Talvez o maior impacto da Inteligência Artificial não seja a extraordinária capacidade de gerar conteúdos. Talvez seja algo muito mais profundo do que imaginamos. Porque reconstruir sistemas é possível. Reconstruir a confiança pode não ser. Porque uma sociedade onde ninguém acredita em nada não precisa de censura. Precisa apenas de dúvida suficiente.
E quando deixarmos de acreditar nas imagens, nas vozes e nos vídeos, restará uma última pergunta: em que é que vamos voltar a acreditar? A resposta pode ser a mais inquietante de todas. Talvez voltemos a confiar nas pessoas. Ou talvez deixemos de confiar nelas também. Porque a segurança nunca foi apenas tecnologia. Sempre foi uma questão humana.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
