Há palavras que escondem pessoas. “Danos colaterais” é uma delas. Transforma vidas humanas numa nota de rodapé, numa consequência prevista, quase administrativa. O documentário NAZA, de Yuval Abraham e Rachel Szor, parte precisamente dessa linguagem: o título deriva de uma sigla usada para designar o número de civis que se prevê que morram num ataque aéreo. Com testemunhos de pessoas ligadas ao aparelho militar israelita, o filme examina os sistemas por detrás dos bombardeamentos em Gaza e da morte de civis palestinianos.
O que inquieta é a possibilidade de a violência ser organizada, calculada e descrita numa linguagem que a torna distante para quem a observa. Quando uma pessoa passa a ser um número, um alvo provável ou um “efeito secundário”, a decisão parece afastar-se da responsabilidade individual. E quando as decisões se repartem por ordens, procedimentos e sistemas, torna-se mais difícil perceber quem responde por elas.
NAZA fala de uma guerra concreta, mas também nos leva a pensar no poder que sistemas complexos exercem sobre a vida das pessoas.
Vivemos num mundo de conflitos, deslocações forçadas, crises económicas e desigualdades profundas. Ao mesmo tempo, dependemos cada vez mais de tecnologias que recolhem informação, organizam escolhas e influenciam o que vemos. O cidadão comum está exposto a decisões tomadas por instituições e empresas que, muitas vezes, não conhece e que não tem meios para questionar.
O telemóvel é o símbolo mais próximo desta dependência. Cabe na palma da mão e facilita tarefas essenciais: é mapa, é banco, é bilhete, é câmara e meio de contacto com a família. Mas também regista deslocações, pesquisas, interesses e relações. Aceitamos permissões sem ler, entregamos dados sem saber exatamente onde acabam e habituamo-nos a estar permanentemente disponíveis. Desligar pode significar perder acesso a serviços, informação ou contacto com os outros.
A tecnologia não é, por si só, uma ameaça. Cada grande avanço humano abriu possibilidades e trouxe riscos. A imprensa alargou o acesso ao conhecimento e também permitiu a circulação de propaganda. A energia nuclear possibilitou tratamentos médicos e produção de eletricidade, mas também armas de destruição em massa. A internet aproximou pessoas e democratizou a informação, mas tornou possíveis novas formas de vigilância, fraude e manipulação. A Inteligência Artificial prolonga esta história: pode ajudar a diagnosticar doenças, traduzir línguas e tornar serviços mais acessíveis; também pode reproduzir discriminações, criar imagens e vozes falsas, influenciar opiniões e automatizar decisões que afetam direitos.
É por isso que precisamos de legislar sobre a Inteligência Artificial. A lei deve acompanhar o poder real da tecnologia e proteger as pessoas quando sistemas automatizados influenciam decisões sobre emprego, educação, crédito, saúde, migração ou acesso a serviços públicos. É necessário saber quando estamos a interagir com uma máquina, que dados sustentam uma decisão e quem responde quando o sistema causa dano. A supervisão humana, a transparência, a proteção dos dados, a avaliação de riscos e a possibilidade de contestar decisões devem fazer parte das garantias básicas.
A União Europeia já adotou um quadro legal para a Inteligência Artificial, baseado nos diferentes níveis de risco. As regras de transparência começaram a ser aplicadas em agosto de 2026; várias obrigações para sistemas considerados de alto risco terão aplicação a partir de dezembro de 2027, com calendários próprios para outros sistemas. A existência de uma lei é um passo importante, mas a proteção dependerá também da fiscalização, da capacidade de os cidadãos conhecerem os seus direitos e da responsabilização efetiva de quem desenvolve e utiliza estas ferramentas.
O desafio está em construir regras que protejam a dignidade e a liberdade sem impedir os benefícios da investigação e da inovação. Regular não significa travar o conhecimento: significa definir limites para que o progresso não se faça à custa de quem tem menos poder para o influenciar ou contestar.
É neste ponto que Admirável Mundo Novo, de Aldous Huxley, continua a ser uma leitura incómoda. Huxley imaginou uma sociedade mantida não apenas pela força, mas também pelo conforto, pelo entretenimento e pela satisfação imediata. Hoje, a ligação constante ao telemóvel não precisa de ser imposta por decreto. A distração está sempre ao alcance da mão; a quantidade de informação pode dificultar a distinção entre o verdadeiro e o falso; e a sensação de escolha pode esconder a influência de sistemas que selecionam o que vemos, compramos e tememos.
A vigilância nem sempre se apresenta como uma ameaça evidente. Pode surgir numa aplicação útil, numa recomendação personalizada ou numa ferramenta de segurança. A questão é saber quem recolhe os dados, como os utiliza e que poder pode exercer sobre as pessoas. Quando cidadãos se transformam em perfis a interpretar e previsões a gerir, a liberdade fica mais frágil — mesmo que continuemos a sentir que escolhemos por nós próprios.
A fragilidade está também em quem denuncia, investiga ou tenta tornar visível aquilo que permanece escondido. No dia em que redijo este escrito, o The Guardian noticiou que o primeiro-ministro israelita pediu a identificação e a investigação criminal dos militares entrevistados em NAZA. Nada que surpreenda. Aliás não prevejo longa vida para os realizadores. Não imediatamente, mas dentro duns anos serão decerto vítimas dum acidente qualquer. O poder quando desafiado, não perdoa.
“Somos todos NAZA” não significa que todos vivamos a mesma violência. Significa que qualquer pessoa pode ser reduzida a uma categoria, a um dado, a uma previsão ou a uma consequência tolerável quando os sistemas deixam de reconhecer vidas concretas. A desumanização começa muitas vezes na linguagem; a indiferença cresce quando o sofrimento dos outros parece distante.
Talvez a primeira forma de resistência seja voltar a olhar para as pessoas antes dos números. Exigir transparência, proteger quem revela abusos, defender a liberdade de imprensa e reclamar regras claras para as tecnologias que usamos. E, de vez em quando, pousar o telemóvel para perguntar quem ganha com a nossa atenção e o que perdemos quando aceitamos que tudo seja registado.
Uma sociedade livre mede-se pelo espaço que deixa às pessoas para pensar, discordar, desligar e participar nas decisões que afetam as suas vidas. O progresso só merece esse nome quando aumenta as possibilidades humanas sem retirar dignidade, liberdade e responsabilidade.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
