Visão

Quase todas as culturas têm um mito do dilúvio.

Nos antigos textos hindus, o primeiro homem do nosso universo, Manu, é avisado de um dilúvio iminente e torna-se o único sobrevivente. A Epopeia de Gilgamesh regista o deus Enlil a destruir o mundo numa cheia gigantesca, uma história que terá eco em qualquer pessoa familiarizada com a narrativa da arca de Noé do Antigo Testamento. Platão falou da cidade perdida da Atlântida, levada por uma imensa torrente. Nas tradições orais e nos escritos antigos da Humanidade encontra-se a ideia de uma onda gigante que varre tudo no seu caminho, deixando o mundo refeito e renascido.

As cheias também marcam a História num sentido literal – o volume sazonal dos grandes rios do mundo, a subida dos oceanos após o fim da Idade do Gelo, o raro choque de um maremoto que surge sem aviso no horizonte. O asteroide que matou os dinossauros criou uma onda com mais de um quilómetro de altura e alterou o curso da evolução. O poder absoluto destes vagalhões ficou gravado na consciência coletiva: muros de água, imparáveis, incontroláveis, irreprimíveis. São das forças mais possantes do planeta. Moldam continentes, irrigam as sementeiras do mundo e alimentam o crescimento da civilização.

Esta nova onda de tecnologia está a levar a História humana a um ponto de viragem. Se a sua contenção for impossível, as consequências para a nossa espécie serão dramáticas

Outros tipos de vagas têm sido igualmente transformadores. Se analisarmos de novo a História, vemos que está marcada por uma série de ondas metafóricas: ascensão e queda de impérios e religiões, explosões de comércio. Pensemos no cristianismo ou no islamismo, religiões que começaram por fazer pequenas ondas até se erguerem e abaterem sobre enormes extensões da Terra. Ondas como esta são um motivo recorrente, enquadrando as marés da História, grandes lutas de poder, e altos e baixos económicos.

O surgimento e a disseminação das tecnologias também assumiram a forma de ondas que mudam o mundo. Uma única tendência dominante tem resistido à prova do tempo desde a descoberta do fogo e dos utensílios de pedra, as primeiras tecnologias aproveitadas pela nossa espécie. Quase todas as tecnologias basilares jamais inventadas, das picaretas aos arados, da cerâmica à fotografia, dos telefones aos aviões, seguem uma só lei, aparentemente imutável: fica mais barata e mais fácil de usar, e acaba por proliferar por todo o lado.

Esta proliferação da tecnologia em ondas é a história do Homo tecnologicus – do animal tecnológico. A demanda de aperfeiçoamento da Humanidade – nós próprios, a nossa sina, as nossas capacidades e a nossa influência no ambiente – tem impulsionado uma evolução incessante de ideias e criação. A invenção é um processo emergente, em constante evolução e expansão, impulsionado por inventores, académicos, empreendedores e líderes, auto-organizados e extremamente competitivos, cada qual avançando com motivações próprias. Este ecossistema de invenção abraça, por omissão, a expansão. É a natureza inerente da tecnologia. A questão é: o que acontece a partir daqui.

Dependentes da inteligência

Olhe à sua volta. O que vê? Móveis? Edifícios? Telefones? Comida? Um parque ajardinado? Quase todos os objetos na sua linha de visão foram, com toda a probabilidade, criados ou alterados pela inteligência humana. A linguagem – os alicerces das interações sociais, das culturas, das organizações políticas e, talvez, do que significa ser humano – é outro produto e motor da nossa inteligência. Cada princípio e conceito abstrato, cada pequeno esforço ou projeto criativo, cada encontro na vida do leitor foram mediados pela capacidade única e infinitamente complexa da nossa espécie para imaginar, criar e raciocinar. O engenho humano é uma coisa espantosa.

Só há outra força tão omnipresente neste quadro: a própria vida biológica. Antes da era moderna, além de algumas rochas e minerais, a maioria dos artefactos humanos – de casas de madeira a roupa de algodão e a fogos de carvão – provinha de coisas que já estiveram vivas. Tudo o que entrou no mundo desde então vem de nós, do facto de sermos seres biológicos.

Não é exagero dizer que a totalidade do mundo humano depende dos sistemas vivos ou da nossa inteligência. No entanto, ambos estão atualmente num momento sem precedentes de inovação exponencial e convulsão, um aumento sem paralelo que pouco deixará inalterado. Começa a abater-se à nossa volta uma nova onda de tecnologia. Esta onda liberta o poder de criar estes dois fundamentos universais: uma onda de, nada mais, nada menos, inteligência e vida.

A onda iminente define-se por duas tecnologias nucleares: a Inteligência Artificial (IA) e a biologia sintética. Juntas, darão início à nova aurora da Humanidade, gerando riqueza e excedentes como nunca se viu. Porém, a sua rápida proliferação também ameaça dar poder a um conjunto diversificado de maus intervenientes para desencadear perturbações, instabilidade e até catástrofes a uma escala indizível. Esta onda cria um imenso desafio que definirá o século XXI: o nosso futuro depende dessas tecnologias e é ameaçado por elas.

Do ponto em que nos encontramos, parece que conter esta onda – isto é, controlar, refrear ou mesmo parar – não é possível. Acredito que esta nova onda de tecnologia está a levar a História humana a um ponto de viragem. Se a sua contenção for impossível, as consequências para a nossa espécie serão dramáticas, potencialmente terríveis. Do mesmo modo, sem os seus frutos, ficamos expostos e precários. É um argumento que já apresentei muitas vezes na última década, à porta fechada, mas, à medida que os impactos se tornam pouco a pouco mais incontornáveis, é a altura de o defender publicamente.

Contemplar o poder profundo da inteligência humana levou-me a uma pergunta simples, que consome a minha vida desde então: suponhamos que conseguimos destilar a essência do que torna os seres humanos tão produtivos e capazes num software, num algoritmo?

Encontrar a resposta poderia desbloquear ferramentas indizivelmente possantes para ajudar a resolver os nossos problemas mais difíceis. Poderá estar aqui uma ferramenta, impossível mas extraordinária, para nos ajudar a ultrapassar os grandes desafios das próximas décadas, das alterações climáticas ao envelhecimento da população e à alimentação sustentável.

Progresso espantoso

Com isto em mente, num pitoresco escritório da era da Regência, com vista para a Russell Square em Londres, cofundei uma empresa chamada DeepMind, com dois amigos, Demis Hassabis e Shane Legg, no verão de 2010. Este era o nosso objetivo, que, em retrospetiva, ainda parece tão ambicioso, louco e esperançoso como na altura: replicar aquilo que nos torna únicos enquanto espécie – a inteligência.

Para atingir este objetivo, teríamos de criar um sistema que pudesse imitar e, com o tempo, superar todas as capacidades cognitivas humanas, da visão e da fala ao planeamento e à imaginação, e, por fim, empatia e criatividade. Uma vez que tal sistema ganharia com o processamento paralelo maciço dos supercomputadores, e da explosão de novas e vastas fontes de dados de toda a web aberta, sabíamos que mesmo um modesto progresso em direção a este objetivo teria profundas implicações sociais.

Na altura, parecia algo do outro mundo. A adoção generalizada da IA era coisa de devaneios, mais fantasia do que facto, domínio de alguns académicos enclausurados e fãs de ficção científica deslumbrados. Ora, enquanto escrevo isto e penso na última década, o progresso da IA tem sido nada menos do que espantoso. A DeepMind tornou-se uma das principais empresas de IA do mundo, conseguindo uma série de descobertas. A velocidade e o poder desta nova revolução têm surpreendido, mesmo aqueles que entre nós estão mais próximos da sua vanguarda.

Enquanto escrevi este livro, o ritmo de progresso da IA foi impressionante, com novos modelos e novos produtos a serem lançados, todas as semanas, por vezes todos os dias. É evidente que esta onda está a acelerar.

Manter a tecnologia sob rédea curta pode vir a fazer parte de uma deriva para tudo e toda a gente ser vigiada, a toda a hora, num sistema global distópico

Atualmente, os sistemas de IA conseguem reconhecer, quase na perfeição, rostos e objetos. A transcrição de voz para texto e a tradução linguística instantânea são um dado adquirido. A IA consegue navegar nas estradas e no trânsito suficientemente bem para conduzir de forma autónoma em determinadas situações. Com base em algumas instruções simples, uma nova geração de modelos de IA pode gerar imagens e compor textos com níveis extraordinários de pormenor e de coerência. Os sistemas de IA são capazes de produzir vozes sintéticas com um realismo insólito e compor música de uma beleza estonteante. Mesmo em domínios mais difíceis, que há muito se pensava estarem exclusivamente adaptados às capacidades humanas, como, por exemplo, o planeamento a longo prazo, imaginação e simulação de ideias complexas, os progressos são cada vez maiores.

Há décadas que a IA sobe a escada das capacidades cognitivas e parece preparada para atingir um nível humano numa vasta gama de tarefas nos próximos três anos. É uma grande alegação, mas, se eu estiver quase correto, as implicações são na verdade profundas. Quando fundámos a DeepMind, aquilo que parecia quixotesco tornou-se não só plausível mas aparentemente inevitável.

Desde o início, era claro para mim que a IA seria uma ferramenta poderosa para um bem extraordinário, mas, como a maioria das formas de poder, também repleta de imensos perigos e dilemas éticos. Há muito que me preocupo com as consequências do avanço da IA, mas de igual modo com o rumo de todo o ecossistema tecnológico. Estava em curso uma revolução mais ampla, com a IA a alimentar uma geração poderosa e emergente de tecnologias genéticas e robótica. Os progressos numa área aceleram as outras, num processo caótico e catalisador transversal, fora do controlo direto de quem quer que seja. Evidenciava-se que, se nós ou outros fôssemos bem-sucedidos na replicação da inteligência humana, não seria apenas um negócio lucrativo, como de costume, mas também uma mudança sísmica para a Humanidade, inaugurando uma era em que oportunidades inéditas acarretariam riscos inéditos.

Com o avanço da tecnologia ao longo dos anos, as minhas preocupações só aumentaram. Imaginemos que a onda é, de facto, um maremoto?

A IA está em todo o lado

Em 2010, quase ninguém falava seriamente sobre IA. No entanto, o que antes parecia uma missão de nicho para um pequeno grupo de investigadores e empresários tornou-se agora um vasto empreendimento global. A IA está em todo o lado, nas notícias e no smartphone do leitor, a negociar ações e a criar sites na web.

Muitas das maiores empresas, e das nações mais ricas, do mundo avançam a passos largos, desenvolvendo modelos de IA e técnicas de engenharia genética de ponta, alimentadas por dezenas de biliões de dólares de investimento. Uma vez amadurecidas, estas tecnologias emergentes espalhar-se-ão rapidamente, tornando-se mais baratas, mais acessíveis e amplamente difundidas por toda a sociedade. Oferecerão novos e extraordinários avanços na medicina e na energia limpa, criando não só empresas mas também indústrias e melhorias na qualidade de vida em quase todos os domínios imagináveis.

No entanto, além destes benefícios, a IA, a biologia sintética e outras formas avançadas de tecnologia produzem riscos extremos a uma escala demasiado preocupante. Podem representar uma ameaça existencial para os Estados-nação – riscos tão profundos que podem perturbar ou mesmo derrubar a atual ordem geopolítica.

Abrem caminho a imensos ciberataques e guerras automatizadas, com a força motriz da IA, capazes de devastar países; pandemias engendradas e um mundo sujeito a forças inexplicáveis mas, aparentemente, omnipotentes. A probabilidade de cada qual pode ser ínfima, mas as consequências possíveis são enormes.

Mesmo a mínima hipótese de desfechos como estes exige atenção urgente. Certos países reagirão à possibilidade de tais riscos catastróficos com um autoritarismo carregado de tecnologia para abrandar a propagação destes novos poderes. Isto exigirá enormes níveis de vigilância, juntamente com intrusões maciças na nossa vida privada.

Manter a tecnologia sob rédea curta pode vir a fazer parte de uma deriva para tudo e toda a gente ser vigiada, a toda a hora, num sistema global distópico, justificado pelo desejo de nos precavermos dos desfechos mais extremos possíveis. Também plausível é uma reação ludita. Seguir-se-ão proibições, boicotes e moratórias. Será possível deixar de desenvolver novas tecnologias e introduzir uma série de moratórias? É pouco provável. Com o seu enorme valor geoestratégico e comercial, é difícil ver como é que os Estados-nação ou as multinacionais se deixam convencer a abdicar unilateralmente do poder transformador desencadeado por estas descobertas. Além disso, a tentativa de proibir o desenvolvimento de novas tecnologias é, em si mesma, um risco: as sociedades tecnologicamente estagnadas são historicamente instáveis e propensas ao colapso. Perdem a capacidade de resolver problemas, de progredir.

Tanto a prossecução como a não prossecução das novas tecnologias estão, a partir daqui, repletas de riscos. As probabilidades de se percorrer uma “via estreita” e evitar um ou outro resultado – distopia tecnoautoritária, por um lado, catástrofe induzida pela abertura, por outro – diminuem ao longo do tempo, consoante a tecnologia desencarece, ganha poder, fica mais insidiosa e os riscos se acumulam.

No entanto, afastarmo-nos também não é opção. Mesmo que nos preocupemos com os riscos, precisamos mais do que nunca dos incríveis benefícios das tecnologias da onda iminente.

LEIA TAMBÉM:
Mustafa Suleyman: “A curto prazo, a Inteligência Artificial ajudará a tornar as pessoas mais produtivas”

Em 2023, o britânico Mustafa Suleyman, de 42 anos, foi considerado pela revista Time uma das pessoas mais influentes no tema da Inteligência Artificial (IA). A distinção coincidiu também com o lançamento de um dos livros do ano, A Próxima Vaga, escrito a quatro mãos com Michael Bhaskar (a tradução portuguesa chega, nesta semana, às livrarias). Na obra, Suleyman defende que a onda tecnológica é inevitável: as inovações vão ter impacto em inúmeros setores, mas, simultaneamente, irão resolver muitos problemas e, sobretudo, trazer riqueza.

Em entrevista por escrito à VISÃO, o fundador da DeepMind, uma das principais empresas de IA, e atual CEO da Microsoft IA fala dos desafios e das ameaças dos avanços da IA. No essencial, Suleyman tem uma perspetiva otimista acerca do futuro. “Talvez seja mais simples dizer que, no conjunto, o que a IA faz é ampliar a nossa capacidade para enfrentar os desafios. Eleva o nosso nível. Fornece vias e mecanismos para resolver problemas, que estão atualmente bloqueados ou que julgamos impensáveis”, argumenta.

No seu livro, diz que a IA irá alterar profundamente não só as nossas vidas mas também o equilíbrio de poderes. Como vê o mundo em 2030? Que mudanças resultantes desta vaga já serão visíveis nos próximos anos?
Em muitos aspetos, penso que o mundo será muito melhor. A IA poderá melhorar a educação, personalizando-a; poderá aperfeiçoar os cuidados de saúde, como, por exemplo, os diagnósticos e a descoberta de medicamentos, dando tempo aos médicos para se concentrarem nos doentes. A IA tornar-nos-á mais inteligentes e mais produtivos, o que permitirá conduzir a uma maior taxa de crescimento económico e criar mais riqueza. Ajudará a enfrentar enormes desafios em todo o mundo. Porém, também introduzirá outros desafios que teremos de ter bem presentes nas nossas mentes.

Quais as suas maiores esperanças e os seus maiores receios para o futuro da Humanidade, na era da próxima vaga tecnológica?
O meu principal receio é de que maus protagonistas utilizem a tecnologia de forma perigosa. A minha principal esperança é de que todas as pessoas sintam os benefícios alcançados com uma revolução na IA, que lhes permitirá alcançar mais e fazer mais, onde quer que elas estejam.

O meu principal receio é de que maus protagonistas utilizem a tecnologia de forma perigosa. A minha principal esperança é de que as pessoas sintam os benefícios alcançados com uma revolução na IA 

Que papel vão desempenhar as grandes empresas tecnológicas na próxima vaga e como garantir que elas agirão de modo refletido e com responsabilidade social?
As grandes empresas tecnológicas desempenharão um papel importante neste domínio. A criação de sistemas de IA de ponta é um trabalho oneroso e especializado, extremamente difícil. No entanto, é importante lembrar que, embora treinar grandes modelos não seja algo que todos possam fazer, estamos a assistir a algumas tendências opostas. Esta tecnologia está a difundir-se muito depressa, passando de tecnologia de ponta a código aberto, e foi amplamente distribuída em poucos meses. Em simultâneo, vemos repetidamente que o processo de formação de um modelo de IA se torna cada vez mais eficiente e, por conseguinte, está ao alcance de mais pessoas. Modelos pequenos e ligeiros fazem mais, todos os dias. Tudo isto significa que, apesar de as grandes empresas de tecnologia desempenharem um papel importante, muitas outras também o desempenharão. Quanto à segunda parte da pergunta, penso que se trata de ter as pessoas, a cultura, os incentivos e a regulamentação corretos, dentro das empresas e à sua volta.

Como a IA e outras tecnologias disruptivas poderão afetar a democracia e os direitos humanos? Como se protegem as liberdades civis e a privacidade na era digital?
Para isso precisamos de duas coisas: em primeiro lugar, de programadores e de culturas de programação que estejam totalmente comprometidos com estes valores; em segundo, necessitamos de que isso seja apoiado por regulamentos que os possam consagrar nos nossos sistemas e leis.

A próxima vaga tecnológica conduzirá a uma perda generalizada de postos de trabalho? Se for verdade, que setores serão mais afetados? Em contrapartida, que novas oportunidades de emprego serão criadas pela próxima vaga?
A IA destila a essência da economia mundial – a inteligência – numa construção algorítmica. A curto prazo, a IA ajudará a tornar as pessoas mais produtivas. Tal deverá permitir um aumento significativo da taxa de crescimento económico ao nível mundial e, portanto, quaisquer perdas poderão ser totalmente mitigadas. O essencial é que isto exigirá uma resposta vigorosa dos governos para garantir que todos manterão o seu nível de vida, que receberão formação e que terão uma qualidade de vida melhor do que a atual – e não pior. Os programadores da IA devem pensar em como fazer com que ela aumente e não substitua; e os que regulam a IA e governam a sociedade devem pensar, agora, nas táticas e nos mecanismos corretos para ajudar a passar por uma grande transição social.

Como a automatização e a IA influenciarão o tempo de lazer das pessoas? Teremos mais tempo livre? E como vamos utilizá-lo?
Se, coletivamente, conseguirmos fazer isto bem, sim, teremos mais tempo livre. Quanto à forma como o utilizamos… penso que isso dependerá das pessoas! Para mim, o que fazer com o tempo livre é o tipo de problema “bom” de que o mundo mais precisa.

Poderá a próxima vaga tecnológica aumentar a desigualdade social e económica? Como garantir que todos os indivíduos terão acesso aos benefícios desta nova era?
Em primeiro lugar, precisamos de um projeto de contenção que não signifique apenas manter a tecnologia sob controlo; tem de haver também um controlo apertado sobre as consequências e o que elas significam para as sociedades e as pessoas. Um aspeto deste projeto é olhar a jusante, para o que fazemos, no sentido de garantir que todos serão beneficiários. Parte disso tem que ver com a conceção e o lançamento das próprias ferramentas – assegurando que são construídas a pensar no ser humano, que se concentram em potenciar o nosso melhor, que são acessíveis e não isoladas para utilização hiperexclusiva. Ora, parte disso implica um processo de envolvimento dos governos, para que se consciencializem do que está por vir e pensem proativamente em como moldar a sua resposta – ou seja, o processo tem de vir de ambos os lados.

Pode a comunidade internacional colaborar para garantir que os benefícios da próxima vaga tecnológica serão partilhados por todos?
A chave está em encontrar formas de se lidar com situações de ganho líquido: os países podem, por exemplo, colaborar para garantirem benefícios para as populações, enquanto trabalham em conjunto para gerir os riscos. A História tem muitos bons exemplos de esforços semelhantes: pensemos em coisas como o Protocolo de Montreal para eliminar os CFC [clorofluorocarbonetos] ou o Acordo de Paris, sobre as alterações climáticas, ou as várias proibições de armamento. Não é fácil, de modo algum, mas é possível. Hoje, é este o desafio que se apresenta.

Os que regulam a IA e governam a sociedade devem pensar, agora, nas táticas e nos mecanismos corretos para ajudar a passar por uma grande transição social

De que forma a próxima vaga tecnológica nos poderá ajudar a enfrentar os grandes desafios globais, como as alterações climáticas e a pobreza?
Há duas formas de pensar isto. Uma delas é que haverá uma série de aplicações específicas – por exemplo, a utilização da IA para uma melhor gestão das redes de energia; para ajudar a produzir novos materiais leves para os transportes ou melhores superfícies fotovoltaicas e tecnologias de baterias; para detetar florestas que foram cortadas, etc., ou que produzam inúmeros exemplos de empresas mais eficientes e capazes, que, por sua vez, reforcem a taxa global de crescimento, o que poderá aumentar os rendimentos a uma escala global, conduzindo a uma redução da pobreza. Mas talvez seja mais simples dizer que, no conjunto, o que a IA faz é ampliar a nossa capacidade para enfrentar os desafios. Eleva o nosso nível. Fornece vias e mecanismos para resolver problemas que estão atualmente bloqueados ou que julgamos impensáveis. Consideremos que muito do que aconteceu na sociedade após a Revolução Industrial teria sido antes inconcebível. É neste tipo de mudança e de capacidade de resolução de problemas que eu estou a pensar.

Que mensagem deixa sobre como nos devemos preparar para a próxima vaga tecnológica?
Envolvam-se! Penso que todos têm um papel muito importante na definição dos resultados. Nada aqui é certo ou inevitável, e todas as pessoas têm interesse no que vai acontecer. Em última análise, a sociedade escolherá o que constrói e o que não constrói. Penso que sobrestimamos o impacto a curto prazo de toda a tecnologia e que subestimamos o impacto a longo prazo… Isso significa que há uma enof  rme margem e tempo para nos empenharmos, participarmos em movimentos de mudança positiva, compreendermos como é possível utilizar e influenciar estas ferramentas para obtermos os melhores resultados.

LEIA TAMBÉM:
Preparados para o tsunâmi tecnológico?