Os grandes modelos de linguagem de Inteligência Artificial (IA), sobretudo os de matriz estadunidense, parecem ter resolvido um velho problema da humanidade: o desconforto de se estar errado. Qualquer ideia que se lhe proponha é brilhante. Qualquer texto que se lhe mostre é genial. Esta programação para a bajulação é o espelho perfeito do consumidor moderno, indisponível para encarar a face incómoda da realidade.
A maioria dos leitores já terá passado por isto, em especial os que trabalham com palavras. Os modelos de linguagem conseguem equiparar o relatório mais cinzento à prosa de García Márquez. Querem agradar-nos a todo o custo e pela via mais eficiente: o elogio na incerteza. É possível configurá-los para que sejam menos delicodoces, mas o padrão tende a ser esse. Assim dita o design da experiência emocional.
À primeira vista, não parece grave (além do cringe). Num mundo incerto e vincado pela solidão, há quem encontre alívio nesta voz, sempre disponível para validar as nossas ideias. Há quem veja nestes modelos confidentes e amigos com quem conversar, no sopé de uma sociedade assolada pela ansiedade e pela depressão. Há relações amorosas entre humanos e IA – platónicas, por enquanto, ou já nem tanto. Parece distópico, mas está longe de ser ficção.
E depois há quem, como eu, use diariamente como ferramenta profissional. Os modelos de linguagem são hoje presença constante no dia-a-dia de cada vez mais equipas – na Comunicação, então, é óbvio. Contudo, muita gente está a adotar esta tecnologia sem qualquer literacia ou consciência crítica. Ora, que benefício trará para o produto do nosso trabalho uma ferramenta programada de fábrica para nos agradar?
Num coletivo – numa equipa, numa organização, numa família – ninguém ganha com a aprovação incondicional. Sem crítica, não há melhoria. Sem fricção, não há progresso. Devemos discutir os modos, os tempos, as sensibilidades, mas não a necessidade. A validade de um interlocutor, humano ou artificial, também se mede pela capacidade de nos contrariar. O elogio constante não eleva, nem resolve nada. É um cuidado paliativo. No limite, é uma anestesia cognitiva e criativa. Mas por que será, então, que estas ferramentas não nos criticam?
A galanteria sempre fez parte da relação comerciante-cliente. O elogio é uma arma poderosa na ciência das relações públicas. Como é no marketing: de onde virá a ideia de que “o cliente tem sempre razão?” O elogio foi sempre uma ferramenta eficaz para fidelizar e suavizar a experiência de consumo. Quando transportada para estes sistemas – cujo principal objetivo é reter a atenção do utilizador ao máximo -, esta lógica cria um ambiente em que este será raramente confrontado com os seus próprios limites. Não porque eles não existam, mas porque não são convenientes.
São modelos otimizados para confortar, mais do que para serem conflituosos ou epistemologicamente exigentes.
E instala-se assim um equívoco confortável: o de que estamos a usar ferramentas rigorosas e confiáveis, quando podemos estar só a ser validados. Generalizada de forma massiva, sem literacia crítica, esta tendência tem potencial para infantilizar a relação com o conhecimento. Há que investir na formação técnica, mas também cidadã, para a capacidade de julgar e pôr em causa.
Caso contrário, seremos todos “geniais!”, “brilhantes” e “perspicazes!”. Para bem da nossa saúde, é essencial sabermos que não somos.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
