As autoridades políticas do ‘velho continente’ preparam-se para deliberar sobre um conjunto de leis que visa regular a utilização de sistemas de Inteligência Artificial (IA). O objetivo da União Europeia parece passar por adotar uma posição diferente da que está em prática na China ou nos EUA e assumir uma regulação mais ‘apertada’ como faz, por exemplo, em relação ao uso de dados pessoais (RGPD).
A proposta ainda está em fase de construção, mas o The Verge elenca algumas das medidas que podem vir a ser implementadas:
– Proibição de uso de IA para “vigilância indiscriminada” na monitorização de indivíduos ou que agreguem esse tipo de dados;
– Proibição de sistemas de IA que atribuam pontuação para crédito social, ou seja, que analisem o grau de confiança que um cidadão merece com base em comportamento social ou traçoes de personalidade previsiveís;
– Autorização especial requerida para implementar sistemas de reconhecimento biométrico em espaço público;
– Notificações obrigatórias nos momentos em que os cidadãos estejam a interagir com sistemas de IA, com exceção para as alturas em que seja óbvio o uso;
– Mais avaliação de sistemas de IA de elevado risco, nomeadamente os que podem representar uma ameaça direta à segurança, como no caso da condução autónoma e os que podem afetar as condições de vida dos cidadãos, como em recrutamento, decisões judiciais ou atribuição de créditos;
– Maior avaliação antes de implementar estes sistemas, nomeadamente sobre o treino dos sistemas com conjuntos de dado de elevada qualidade, para evitar desvios no reconhecimento;
– Criação de um Comité Europeu para Inteligência Artificial com representantes de todos os países para ajudar a Comissão a avaliar os sistemas e recomendar alterações.
Nesta fase, a linguagem adotada pelo texto parece estar demasiado vaga. Daniel Leufer, analista na Access Now, descreve que as secções estão “longe do ideal” e que as descrições de quais os sistemas a proibir ou monitorizar são vagas e com linguagem pouco clara, propensa a criar lacunas.
Omer Tene, vice-presidente da organização sem fins lucrativos IAPP, comenta que a regulação “representa a abordagem típica de Bruxelas no que toca a tecnologia e inovação. Se em dúvida, regula-se”.
A autenticidade dos textos agora divulgados não foi confirmada pela União Europeia, pelo que se torna necessário esperar pelos próximos tempos para se perceber efetivamente o que irá ser feito neste domínio.
