Brando Benifiei e Dragos Tudorache, os dois os dois eurodeputados que estão a liderar a criação de um pacote legislativa para utilização de sistemas de Inteligência Artificial (IA) na União Europeia, propuseram no mês passado que os sistemas capazes de gerar textos complexos sem supervisão humana – ferramentas como o ChatGPT e semelhantes – sejam classificados como ferramentas de “elevado risco”, pela elevada capacidade de produção de desinformação.
Mas a posição dos dois eurodeputados não está a reunir consenso na comunidade regulatória. Axel Voss, eurodeputado de centro-direita, explica que esta adenda faria com que várias atividades tivessem de ser classificadas de igual forma, quando não representam qualquer risco, segunda avança a publicação Politico.
Por outro lado, há ativistas e observadores que consideram que a mera colocação nesta lista não é suficiente: “Não é formidável colocar os sistemas geradores de texto na lista de alto risco: há outros sistemas genéricos de IA que apresentam riscos e que têm de ser regulados”, afirma Mark Brakel, diretor do Future of Life Institute, à mesma publicação.
Os dois deputados europeus que têm a tarefa de preparar a proposta de lei pretendem impor requisitos mais apertados aos programadores e utilizadores de modelos como o ChatGPT, para gerir melhor o risco e, ao mesmo tempo, fornecer mais transparência. Benifei defende que os profissionais de setores como educação, emprego, banca e autoridades devem estar cientes do que representa este tipo de sistemas e quais os riscos associados.
Na Comissão Europeia, Conselho Europeu e Parlamento Europeu, os membros preparam-se para uma ronda de negociações que deve começar já em abril, antevendo-se alguns impasses. Natasha Crampton, responsável por IA na Microsoft, explica que o AI Act da UE deve “manter o foco em cenários de utilização elevados”, salientando que os modelos como o ChatGPT são raramente usados para atividades de elevado risco e são usados sim para escrever documentos e ajudar com escrita de código, maioritariamente.
Um relatório do grupo ativista Corporate Europe Observatory refere a existência de campanhas de influência por parte de empresas como a Microsoft e a Google para fazer com que soluções como a do ChatGPT fossem excluídas da classificação de elevado risco no pacote que vai regulamentar a utilização de sistemas de IA na União Europeia.