A encomenda ao Copilot, ferramenta da Inteligência Artificial, era simples: quero um poema romântico sobre a liberdade e a IA nos próximos anos.
A resposta chegou de pronto:
“No sopro elétrico do tempo que avança,ergue-se a promessa, frágil esperança.Circuitos sonham, frios, mas tão profundos,tecendo destinos, moldando os mundos.
Democracia, flor de voz e escolha,dança ao vento que a tecnologia acolha.Mas quem guia o código, quem guarda a razão,quando a máquina sussurra ao coração?
Se o amor é humano, feito de imperfeição,pode a IA aprender a compaixão?Ou será que, no cálculo exato e preciso,perdemos o riso, o toque, o improviso?
Que os próximos cinquenta anos sejam luz,onde a ética, como estrela, nos conduz.Que a inteligência não roube, mas inspire,um mundo onde a liberdade nunca expire.”
Circuitos tecem destino? Perdemos “o riso, o toque, o improviso”?
Apesar do pobre versejar, segura de si, a IA não se esconde. O ChatGPT admite que em 50 anos “a tecnologia concentre o poder: Estados e megacorporações controlam dados, comunicação e decisões políticas” e a “opinião pública é gerida por sistemas de algoritmos de propaganda”.
Verdade que este é o cenário mais desfavorável que o ChatGPT admite, pois a “tendência provável” é que “as democracias formais continuem a existir, mas com forte influência tecnológica e económica”. Note-se o “forte”.
Se houvesse dúvidas sobre a ameaça que já por cá anda, estas confissões serviriam de sobreaviso.
Há dias, um apoiante de Noronha Lopes à presidência do Benfica contava a um defensor de Rui Costa que tinha estado certo da vitória, por só lhe terem chegado boas notícias, e muitas, sobre o seu apoiado. Riu-se o interlocutor: a ele só chegaram novas sobre o favoritismo de Rui Costa.
Já passaram anos suficientes para se saber que os algoritmos não mostram a verdade, exibem o que sabem que gostamos de ler. É experimentar perguntar ao Google se as facas de cerâmica são boas e ver como nos dias seguintes se multiplicam anúncios e propostas de desconto sobre estes utensílios.
Todas as novas tecnologias assustam. No Paleolítico, quando os nossos antepassados começaram a usar o fogo (a Wikipedia assegura que foi há 1,7 milhões de anos, mas não consegui confirmar nas velhas enciclopédias de papel e muitos volumes) que medo devem ter sentido daquelas chamas. A fissão nuclear, que aterrorizou o mundo em Hiroshima e Nagasaki, também é hoje essencial na medicina e na engenharia. Sabe-se: o que o conhecimento traz de novo pode ter bom ou mau uso.
O perigo acrescido da IA é que nos manipula, seleciona os dados e condiciona o pensamento. Nenhum dos anteriores avanços tecnológicos ambicionou ultrapassar a Humanidade. É este o perigo novo.
“E o mais preocupante é que, à medida que estes modelos se tornam mais fluentes, mais acessíveis e mais integrados nos nossos hábitos quotidianos, torna-se cada vez mais improvável desconfiar”, alerta Adolfo Mesquita Nunes, no seu Algoritmocracia.
E quanto mais se usam, mais dados obtêm, alimentando-se vorazmente. Como a mitológica Hidra, por cada cabeça cortada, crescem duas.
Pior do que estar mal informado é ser enganado. Acreditar na verdade única quase sempre leva à maior das mentiras.
“A mentira já não gera vergonha: gera cliques, partilhas, convites para programas. O que antes destruía reputações, agora rende dividendos políticos”, escreveu Mesquita Nunes. Como diz, a informação sempre teve viés. A diferença – grande – é que sabíamos de onde vinha o enviesamento e sabíamos onde procurar o contraponto. Sabíamos quem responsabilizar e podíamos fazê-lo. Agora desconhecemos o que está por detrás do ecrã juntando letras e criando ilusões.
A questão não é proibir telemóveis, é ensinar a usá-los, é explicar truques e técnicas que nos defendam das artimanhas. É fazer destas matérias verdadeiras
e exigentes
áreas de ensino
Daniel Innerarity, em O Novo Espaço Público, já em 2010, dizia que “sem a adequada representação, isto é, sem o trabalho de mediação institucional [de jornalistas, entre outros] que concretiza e integra o diverso num espaço público, a sociedade encontra grandes dificuldades para se ver, para decifrar e tornar operativa a multiplicidade”.
O problema que os algoritmos trouxeram é que, “como em tantas coisas, também à política se aplica o aviso de que a profusão de dados não substitui a necessidade de formar uma ideia geral e de se organizar coerentemente”, reforça o mesmo autor. E o algoritmo dá-nos sempre mais do mesmo.
Daqui nascem bolhas, discute-se e lê-se sobre o que se concorda, estreita-se o conhecimento, conversa-se em pequenas comunidades que se autoalimentam. Como o apoiante de Noronha Lopes…
Mesquita Nunes propõe a regulação dos algoritmos. O problema da regulação é que, por norma, quando é aceite, já minou o terreno. Vejam-se os tratados para o desarmamento nuclear. Quando conseguiram fixar uma meta, já havia ogivas mais do que suficientes para destruir toda a vida humana.
Karen Hao, uma das pioneiras da IA e agora feroz adversária das grandes tecnológicas, em Empire of AI, veio alertar para que “a forma de dissolver o império [das grandes tecnológicas] exige uma redistribuição dos seus poderes”, através da criação de uma rede de investigadores independentes das corporações.
Agora, “qualquer gigante tecnológico está na corrida para deixar os adversários fora de prova, em prol de um novo desenvolvimento da IA”. Karen Hao quer dividir, para reinar.
Yuval Noah Harari, sem deixar de parte as questões políticas e cívicas, alerta em Nexus que “IA e automação serão um desafio ainda maior para os países em desenvolvimento”. Sem capacidade para entrarem na corrida, vão ver os produtos que tradicionalmente fabricavam passarem a ser produzidos por autómatos nos países em que são consumidos. A mão de obra barata daqueles países será mais cara do que os robots. “O que lhes acontecerá quando for mais barato produzir têxteis na Europa?”, interroga.
Mesquita Nunes não se fica pela necessidade de regular, como a Europa tem tibiamente tentado. Ele aborda a questão da educação e do ensino das novas gerações: “A primeira condição é simples: reconhecer que existe. Não como um detalhe técnico, não como uma curiosidade de especialistas, mas como um problema central para as democracias liberais.”
Voltemos às previsões do Copilot: daqui por 50 anos, “a IA não será apenas uma ferramenta tecnológica; será um fator estruturante da política global. Sem governança robusta e cooperação internacional, os riscos de erosão democrática são elevados. Por outro lado, se bem regulada, a IA pode ser um catalisador para sistemas mais transparentes, inclusivos e resilientes”. Fica o alerta. Alguém acredita que esta seja uma bandeira dos que influenciam a sociedade?
Harari, que não dá tréguas à IA, nas suas 21 Lições Para o Século XXI, defende a teoria dos quatro C, com origem em alguns pedagogos: pensamento crítico, comunicação, colaboração e criatividade. “As escolas devem dar menos atenção às aptidões técnicas e colocar a ênfase nas aptidões de vida polivalente. Acima de tudo estará a capacidade de lidar com a mudança.”
Eis-nos chegados ao que dificilmente se fará: perceber que, mais do que ensinar que um ácido e uma base dão um sal e água, ou mesmo quem era o pai de D. Sancho I, o núcleo do conhecimento terá de caminhar para o ensino das novas tecnologias, dos seus proveitos e dos seus perigos. A questão não é proibir telemóveis, é ensinar a usá-los, é explicar truques e técnicas que nos defendam das artimanhas. É fazer destas matérias verdadeiras e exigentes áreas de ensino.
Há coisas simples de explicar: numa fotografia gerada pela IA é usual que as sombras não batam certo, assim como a iluminação dos objetos. Ensinar a ser crítico, com a importância e o empenho com que se ensina a ler.
Ou corremos o risco de termos académicos a gritar que vem aí o lobo, quando já está no meio do rebanho e só não queremos vê-lo.
Chegamos sempre tarde.
