Durante muito tempo, a Inteligência Artificial pareceu pertencer ao domínio da ficção científica. Hoje, está integrada na vida quotidiana. Surge nos motores de pesquisa, nas redes sociais, nas compras online, nos assistentes virtuais e em ferramentas utilizadas por empresas, escolas, bancos, hospitais e serviços públicos.
Na maioria das vezes, a sua presença é discreta. Um algoritmo recomenda conteúdos, filtra informação, sugere produtos, organiza prioridades ou apoia decisões. A questão torna-se mais sensível quando esses mecanismos começam a interferir em aspetos relevantes da vida das pessoas. Nesses casos, as perguntas são inevitáveis: a decisão é justa? Pode ser explicada? Quem responde se houver erro?
É aqui que o Direito ganha especial importância. A Inteligência Artificial pode trazer rapidez, eficiência e inovação, mas também pode criar riscos quando afeta direitos, oportunidades ou decisões com impacto concreto.
Para responder a estes desafios, a União Europeia aprovou o Regulamento (UE) 2024/1689, conhecido como Regulamento Europeu da Inteligência Artificial ou AI Act. Este regulamento estabelece regras comuns para a utilização da inteligência artificial na União Europeia. Entrou em vigor em 1 de agosto de 2024, mas a sua aplicação é gradual: a maior parte das regras será aplicável a partir de 2 de agosto de 2026, com algumas exceções previstas no próprio diploma.
A lógica do regulamento é clara: quanto maior for o risco de uma tecnologia de Inteligência Artificial para as pessoas e para os seus direitos, maiores devem ser as exigências legais.
É por isso que o AI Act organiza os sistemas de inteligência artificial em diferentes níveis de risco.
Os sistemas de risco inaceitável são proibidos por poderem atingir gravemente direitos fundamentais, como a liberdade, a igualdade ou a dignidade humana. Seria o caso, por exemplo, de uma tecnologia que atribuísse uma pontuação às pessoas com base no seu comportamento, nas suas opiniões ou nas suas escolhas, usando depois essa pontuação para limitar o acesso a serviços, apoios, oportunidades ou direitos. Numa situação como esta, a Inteligência Artificial deixaria de ser uma ferramenta e passaria a funcionar como uma forma de controlo.
Os sistemas de risco elevado podem ser utilizados, mas apenas com regras rigorosas. Estão em causa áreas sensíveis, como emprego, educação, saúde, crédito, justiça ou serviços públicos. Um exemplo seria uma ferramenta usada por uma empresa para selecionar candidatos a emprego, atribuindo pontuações ou excluindo pessoas automaticamente com base em critérios pouco claros ou potencialmente discriminatórios. Nestes casos, é essencial garantir supervisão humana, segurança, transparência e possibilidade de corrigir erros.
Nos sistemas de risco limitado, o principal dever é informar as pessoas de que estão a interagir com Inteligência Artificial. Um exemplo é um chatbot — um programa que simula uma conversa com uma pessoa, respondendo automaticamente por texto ou voz. Nestes casos, o utilizador deve saber que não está a falar com uma pessoa, mas com uma máquina.
Já os sistemas de risco mínimo têm, em regra, pouco impacto nos direitos das pessoas. É o caso, por exemplo, de uma aplicação que recomenda músicas, filmes ou produtos com base nas preferências do utilizador.
Esta classificação mostra uma preocupação central: nem toda a Inteligência Artificial deve ser tratada da mesma forma. Uma aplicação que recomenda uma música não tem o mesmo impacto que uma ferramenta usada para avaliar uma candidatura a emprego, conceder crédito, apoiar um diagnóstico médico ou influenciar uma decisão administrativa.
É precisamente nesta diferença de impacto que a responsabilidade se torna essencial. Se uma decisão tomada com apoio da Inteligência Artificial prejudicar alguém, não basta dizer: “foi a máquina”. A responsabilidade continua a pertencer às pessoas, empresas ou entidades públicas que criam, compram, utilizam ou controlam estas ferramentas.
A Inteligência Artificial não pode servir de desculpa para decisões injustas, discriminatórias ou impossíveis de compreender. Sempre que interfere com direitos, oportunidades ou decisões importantes, deve existir controlo humano, transparência e possibilidade de contestação.
Pode melhorar serviços, reduzir tarefas repetitivas e apoiar decisões. Mas não pode substituir a responsabilidade humana, sobretudo quando estão em causa pessoas concretas e direitos fundamentais.
No fundo, o verdadeiro desafio não está apenas em saber até onde a Inteligência Artificial consegue chegar. Está em garantir que, em cada utilização, existem limites, regras e responsabilidade. Porque a inovação só é verdadeiro progresso quando permanece ao serviço das pessoas, da justiça e da dignidade humana.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
