Prometia ser mais um dia igual a muitos outros das semanas recentes – dominado por notícias de avançadas ferramentas de Inteligência Artificial (IA), como o ChatGPT (escreve texto com uma qualidade próxima à dos humanos) e o Midjourney (gera imagens fotorrealistas a partir de descrições em texto), ou pelo lançamento de novas funcionalidades baseadas em IA por algumas das maiores tecnológicas do mundo, casos da Google, Nvidia ou Microsoft.
Mas nesta quarta-feira, a grande notícia foi outra e justamente no sentido oposto do que tem sido habitual. Em vez da típica euforia, caiu um balde de água fria sobre a comunidade de IA. Mais de mil personalidades do mundo da tecnologia, sobretudo especialistas em matéria de Inteligência Artificial, assinaram uma carta aberta na qual se pede uma “pausa” de seis meses no desenvolvimento de avançados sistemas de Inteligência Artificial, como o GPT-4, que alimenta a versão paga do famigerado ChatGPT.
A justificação? Os sistemas de IA com inteligência competitiva humana (isto é, que mostram capacidades próximas às dos humanos em determinadas tarefas) podem representar “um risco profundo para a sociedade e a humanidade”. “Infelizmente, o nível de planeamento e gestão [com o cuidado devido] não está a acontecer, apesar de nos meses recentes termos visto laboratórios de IA focados numa corrida fora de controlo para desenvolver e lançar mentes digitais cada vez poderosas”, lê-se na carta aberta sobre a Inteligência Artificial.
Entre os signatários da carta aberta estão vários nomes portugueses. Luís Moniz Pereira, professor emérito da Universidade Nova de Lisboa e um dos maiores especialistas portugueses em Inteligência Artificial, e Alípio Jorge, membro do Laboratório de Inteligência Artificial e Ciência de Computadores da Universidade do Porto, são dois deles. E explicam-nos por que razões o fizeram.
Um novo mundo de possibilidades – e perigos
“O problema das tecnologias disruptivas é que quando se quer endereçar as consequências mais nefastas, é tarde demais porque já se difundiram e é mais difícil de controlar”, começa por explicar Luís Moniz Pereira, pioneiro que leva dezenas de anos dedicados à investigação da Inteligência Artificial. “Pareceu-nos que é altura de pensar com cuidado antes de agir”, diz-nos, a propósito de ter subscrito a carta aberta que pede uma pausa em alguns sistemas de Inteligência Artificial.
Já em 2016, através do livro As Máquinas Iluminadas, e mais tarde, em 2020, com o livro Máquinas Éticas, o investigador chamava a atenção para a necessidade de se desenvolverem sistemas de IA com princípios éticos bem definidos. O maior receio que tem é o de que venha a acontecer uma “desgraça” provocada por uma destas novas ferramentas. “Poder haver um jovem adolescente que começa a falar com o ChatGPT e suicida-se ou aprende a fazer uma bomba. Nada disso está excluído”, afirma. E uma desgraça não teria um efeito negativo apenas para uma única empresa, pesaria sobre toda a indústria tecnológica.
Segundo o especialista, basta recordar, por exemplo, a forma como o desenvolvimento de carros autónomos sofreu um abrandamento, depois de começarem a surgir os primeiros relatos de acidentes e até vítimas mortais provocados por esta tecnologia.
“As pessoas estão habituadas a que as máquinas funcionem sempre bem – o carro funciona, o elevador funciona, o telemóvel funciona. Mas quando se penetra, agora, nestas capacidades intelectuais e de compreensão de língua, está-se a dar demasiada confiança a uma tecnologia que na verdade é demasiado simples para aquilo em que se pode usar e permite fazer. O GPT dá informações falsas, entra em contradições facilmente”, alerta.
“Nós, investigadores, sabemos trocar-lhes as voltas, fazer a mesma pergunta de outra maneira e levá-lo rapidamente a uma inconsistência. As pessoas normais não fazem isso e não se apercebem de quão perigoso é o sistema em dar respostas falsas, em contradizer-se e em não conseguir explicar-se. (…) Daí que tenha tanta aceitação, porque a maior parte das pessoas não lhe percebe as limitações”, acrescenta.
Sem uma antecipação exaustiva das potenciais utilizações perigosas dos novos sistemas de IA, menos preparados estaremos para quando elas surgirem. “Um dos perigos é não termos estudado, devidamente, os possíveis desenvolvimentos [dos sistemas de IA]. Gostávamos de não ser surpreendidos por perigos”, defende o investigador.
Alípio Jorge, professor do Departamento de Ciência de Computadores da Faculdade de Ciências da Universidade do Porto (FCUP), coordenador do Laboratório de Inteligência Artificial (LIAAD) da UP e membro do INESC TEC, apresenta um argumento semelhante. “Não sabemos até que ponto é que está a ser pensado e estudado o impacto dos modelos [de IA]. Isto é uma demonstração do que há de vir, a nível de linguagem, visão, ação e robótica”, começa por destacar.
Mais pressão pública
É o próprio Alípio Matos quem diz que “é utópico” pedir, num momento de grande competição, às maiores empresas do mundo, que parem os seus desenvolvimentos mais avançados de IA por seis meses. “É como pedir à Ucrânia e à Rússia para pararem de fabricar armamento durante seis meses”, diz, numa analogia.
Já Luís Moniz Pereira considera que uma pausa nos trabalhos de desenvolvimento dos sistemas mais avançados de IA “é uma meia solução entre o esperar para ver e parar tudo com os travões”.
Mas o mediatismo da carta aberta coloca, pelo menos, pressão nas empresas às quais se dirige – a OpenAI é referida de forma direta (pois o termo de comparação usado é o modelo GPT-4), mas de forma indireta a pressão também está a ser colocada sobre gigantes como Google, Microsoft, Facebook e Alibaba, que têm desenvolvido e trabalhado com grandes modelos linguísticos (LLM), a tecnologia de base de ferramentas como o ChatGPT.
“Acho que é uma chamada de atenção importante para todos, para a sociedade, para os players da Inteligência Artificial, sobretudo as empresas, mas também as universidades, que devem pensar no impacto da Inteligência Artificial. A IA não se consegue parar – é uma tecnologia que é útil e estamos a trabalhar para que seja útil, mas também estamos a trabalhar para que seja boa”, adianta o professor da FEUP.
Já Luís Moniz Pereira acredita que a carta aberta vai obrigar as grandes tecnológicas a jogarem mais na defensiva sobre os seus sistemas. “As empresas vão reconhecer que há esses perigos, essas consequências ainda mal estudadas e vão querer mostrar que a respetiva firma está ciente e não está simplesmente a avançar de olhos vendados, diretos ao abismo”.
Dois exemplos recentes de utilizações potencialmente perigosas, por terem criado alguma desinformação, foram as imagens do papa Francisco com um casaco do estilo puffy (uma indumentária pouco comum para a função que o líder da igreja católica exerce) e outras do ex-presidente dos EUA, Donald Trump, a ser detido por polícias (algo que não aconteceu). “Acho que se pode fazer mais [para impedir más utilizações]. Este tipo de imagens falsas, quase por brincadeira, são coisas mais ou menos inócuas. Mas mostram que podem haver utilizações que não são assim tão inócuas”, sublinha Alípio Jorge.
“É uma espécie de enorme tsunami, são ondas que nos estão a invadir e não sabemos muito bem qual vai ser o resultado dessas ondas, são ondas que se reforçam e não foi previamente estudado os perigos e as ações pró-ativas de as evitar”, compara por seu lado Luís Moniz Pereira. “ Há aqui um salto qualitativo com o ChatGPT e não é por haver um salto qualitativo que se vai cruzar os braços, tem que se fazer mais esforço para controlar as nossas criações. Esta carta é uma maneira de chamar a atenção”.
Aliás, já nesta sexta-feira, dois dias após a publicação da carta aberta sobre a Inteligência Artificial, o laboratório que está por trás da ferramenta que permite criar esta tipologia de imagens falsas, mas fotorrealistas, o Midjourney, anunciou o fim da utilização gratuita da plataforma para tentar diminuir as utilizações abusivas.
Além do perigo da desinformação e do impacto direto que pode ter nos utilizadores (por exemplo, informação falsa sobre um problema de saúde), há outra questão que preocupa particularmente o professor emérito da Universidade Nova de Lisboa.
“O GPT funciona de uma maneira estatística, aprende com triliões de documentos e quando se lhe faz uma pergunta, vai procurar uma chapa semelhante à pergunta e vai ver que palavras aparecem a seguir para dar como resposta, vai procurar as palavras mais frequentes. O facto de ser um processo estatístico faz com que, na verdade, o futuro seja igual ao passado. Agora vai-se simplesmente aos dados estatísticos e dá-se a mesma resposta. Há uma tendência para a repetição da mesma resposta, para o afunilamento do vocabulário e até das próprias ideias por trás das respostas”, adianta.
Mas as mesmas empresas que têm investido vários milhares de milhões de dólares na criação de avançados sistemas de IA, são aquelas que mais podem contribuir para uma resposta adequada a este dilema. “Também é preciso pôr mentes brilhantes a pensarem no que será o futuro com Inteligência Artificial. Para o bem e para o mal, sem censuras, sem tabus”, recomenda Alípio Jorge.
