Em 1950, Alan Turing propôs um experimento simples. Se um ser humano conversasse com uma máquina sem conseguir distingui-la de outro ser humano, faria sentido continuar a dizer que aquela máquina não pensa?
Durante décadas, a humanidade perseguiu esse objetivo. Chatbots, assistentes virtuais e modelos de linguagem foram avaliados justamente pela capacidade de soar naturais, e quanto mais humana a interação, melhor parecia ser a tecnologia. Mas, agora, parece que os papéis se invertem. As máquinas precisam anunciar que são máquinas, já que a interação é quase natural.
O AI Act europeu estabelece que sistemas de IA concebidos para interagir diretamente com pessoas devem, em determinadas circunstâncias, informar o utilizador de que este está a interagir com um sistema de Inteligência Artificial. Da mesma forma, conteúdos sintéticos como imagens, vídeos, áudios e textos gerados artificialmente estão sujeitos a requisitos de transparência e identificação da sua origem artificial, nos termos previstos no regulamento europeu.
Em outras palavras, ainda que uma IA consiga passar no Teste de Turing, ela não poderá fazê-lo sem antes denunciar a sua verdadeira identidade.
Essa mudança revela algo importante sobre a nossa relação com a IA, que se torna cada vez mais presente no nosso quotidiano. Durante décadas, acreditámos que o grande desafio seria construir máquinas suficientemente sofisticadas para parecerem humanas. Hoje, o desafio parece ser exatamente o contrário: garantir que elas não escondam que não são.
A exigência de transparência, entretanto, não nasce de uma preocupação filosófica, mas prática. Deepfakes, golpes, manipulação política, atendimento automatizado, influência nas redes sociais e relações de consumo dependem, muitas vezes, da perceção de quem está do outro lado da conversa.
Saber se estamos a falar com uma pessoa ou um algoritmo tornou-se uma informação relevante para o exercício da autonomia.
Mais do que uma questão de transparência tecnológica, está em causa uma nova relação de poder. Quem controla a tecnologia e sabe quando, como e por que razão ela está a interagir connosco possui uma vantagem sobre quem desconhece a natureza dessa interação. A transparência procura, precisamente, reduzir essa assimetria: permitir que o cidadão saiba quando está a ser informado, persuadido, atendido ou influenciado por uma pessoa e quando está perante um sistema automatizado. Num ambiente digital em que a fronteira entre conteúdo humano e conteúdo sintético se torna cada vez mais difícil de perceber, saber quem — ou o quê — está do outro lado deixa de ser um detalhe e passa a ser uma condição básica para uma escolha verdadeiramente livre.
E pensar que há quase 75 anos, o Teste de Turing perguntava se os humanos seriam capazes de identificar uma máquina. O AI Act acaba por inverter essa lógica, ao estabelecer obrigações de transparência que procuram garantir que os utilizadores saibam quando estão perante determinados sistemas de IA ou conteúdos gerados artificialmente.
O “sucesso” de um sistema de IA deixa de ser medido apenas pela sua capacidade de imitar pessoas e passa a incluir a sua capacidade de ser transparente enquanto o faz.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
