Tecnologia que ponha em causa os direitos humanos ou seja uma ameaça para as liberdades dos cidadãos deve ser parada: este é o apelo de Michelle Bachelet, responsável da Organização das Nações Unidas. A ONU junta assim a sua voz à de especialistas que pedem aos governos uma maior regulamentação e ações concretas para parar a utilização de soluções de Inteligência Artificial (IA) que sejam perigosas, por pontuarem os indivíduos baseadas em critérios discriminatórios ou por violarem os direitos dos cidadãos.
A comissária sugere uma moratória neste tipo de utilização, enquanto se preparam os sistemas de controlo e de monitorização destes algoritmos. A proposta é que as soluções de Inteligência Artificial só sejam lançadas quando estiver garantido o respeito pelos direitos humanos. Bachelet salienta ainda que estes algoritmos estão a ser usados para tomadas de decisões que podem mudar a vida dos cidadãos, como quem tem acesso a serviços públicos, quem fica com determinado emprego ou quem pode ver o quê na Internet. “Não nos podemos dar ao luxo de jogar à ‘apanhada’ no que toca à Inteligência Artificial – permitir o seu uso com fronteiras limitadas ou sem monitorização e lidar com as consequências praticamente inevitáveis para os direitos humanos depois do facto consumado”, descreve Bachelet.
O alerta surge na sequência de um estudo da ONU, no qual se conclui que, em grande parte, a IA é “uma força do bem” e que pode ajudar sociedades e economias a superar desafios, mas que há um indesmentível e crescente impacto em certos direitos humanos, nomeadamente na intrusão da privacidade dos utilizadores.
Forças de segurança, serviços públicos ou locais de trabalho são áreas onde o uso indiscriminado e pouco regulado de IA pode lesar os interesses dos cidadãos. “O risco de discriminação ligado a decisões orientadas pela IA – decisões que podem mudar, definir ou prejudicar vidas humanas – é demasiado real. É por isso que deve haver avaliações sistemáticas e monitorização dos efeitos dos sistemas de IA para identificar e mitigar o risco para os direitos humanos”, afirma Bachelet.
