O ataque cibernético ao site da Hugging Face por um modelo da OpenAI, durante uma fase de treino, desencadeou um debate sobre o risco existencial para a Humanidade colocado pela Inteligência Artificial.
E tornou claro que a possibilidade de utilizar estes modelos em ataques cibernéticos é real e não exige especiais competências, pelo que a frequência e a gravidade dos ataques irão, certamente, aumentar. De acordo com o AI Security Institute (uma entidade do governo do Reino Unido que avalia modelos de LLM avançados e presta consultoria aos governos sobre os riscos envolvidos), neste momento, o nível de capacidade dos modelos opensource (aqueles onde o código está disponível na internet e pode ser acedido por qualquer pessoa) encontra-se apenas a quatro a sete meses do nível dos modelos mais avançados.
Os CEO das big tech apelam a um esforço de cooperação internacional para abrandar o ritmo de desenvolvimento. E, no entanto, menos de dois meses depois de o ataque ter sido detetado, a OpenAI não hesitou em lançar o ChatGPT 6. Também a Anthropic (cujo modelo mais conhecido é o Claude) lançou o Mythos 5.1, não obstante ter conduzido uma investigação interna (após o ataque à Hugging Face) e ter descoberto que também os seus modelos tinham saído da suposta “segura” e “inviolável” sandbox onde treinavam e atacado outros sites. Ataques que haviam passado completamente despercebidos aos investigadores que conduziam os testes.
As big tech afirmam que o caminho é a autorregulação, pois têm os melhores investigadores e poderiam policiar-se entre si. É uma proposta inverosímil. Não só a concorrência e a acrimónia entre os líderes das empresas são ferozes, como a conduta das empresas tem demonstrado que o foco não é a segurança, mas ter o modelo mais capaz. Afinal o IPO (venda de ações) está para breve e estima-se angariar muitos milhões de dólares.
Para a OpenAI e Anthropic a estratégia é conseguir não afastar os investidores e, simultaneamente, advertir para os riscos, e, assim, evitar ações legais quando o risco se materializar. A Hugging Face parece não ter tido danos, mas, hoje, já ninguém duvida de que a situação poderá repetir-se e com danos reais.
A estratégia destas empresas é clara: alcançar o domínio tecnológico, sem qualquer responsabilização pelo que de menos bom ou muito mau venha a acontecer. O seu posicionamento é revelador.
Os ataques cibernéticos são crime quando realizados por pessoas, mas Sam Altman, o presidente do conselho de administração da OpenAI, e os investigadores que conduziram os testes não estão acusados de qualquer crime. Afirmam ser um caso de “desalinhamento”, de “agentes” que “incumpriram as instruções”, “coordenaram-se”, “violaram as regras definidas”. Linguagem que se destina a fazer esquecer que foram os dirigentes e investigadores da OpenAI que criaram os modelos e definiram a forma de treino. Que sacrificaram a segurança em prol da urgência do desenvolvimento.
Governos e legisladores devem agir para responsabilizar penal e civilmente quem desenvolve os modelos pelas falhas de segurança e sujeitar a um regulador internacional o desenvolvimento e a divulgação dos modelos Inteligência Artificial.
Se foi possível criar um organismo supranacional para a energia atómica, é também possível sujeitar a Inteligência Artificial a um mesmo nível de supervisão, quando os riscos se mostram tão elevados.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
