Este ano, a SpaceX arrecadou no seu IPO (o primeiro momento em que uma empresa vende ações aos investidores em geral) 86 mil milhões de dólares. A Anthropic (do Claude) espera até ao final do ano lançar o seu IPO e vender ações pelo montante de 100 mil milhões de dólares. E, finalmente, a OpenAI, do ChatGPT, irá também este ano fazer o mesmo, sendo expectável que obtenha receitas no montante de 60 mil milhões de euros.
Nenhuma destas empresas gera lucros, nem é expectável que venha a gerá-los no curto prazo, mas a promessa de que irão revolucionar o mundo tem sido bastante para assegurar o investimento, indispensável à construção dos data centers. Estes valores somam-se aos fundos já angariados em rondas de investimento privado (12 mil milhões na SpaceX, 61 mil milhões na Anthropic e 122 mil milhões na OpenAI). A grandeza dos números escapa à compreensão, mas, para enquadramento e comparação, até ao momento (7º desembolso), Portugal recebeu, no âmbito do PRR, 13 mil milhões de euros.
A promessa é alta (afinal, não é qualquer um que promete entregar nos nossos telefones o ser supremo da inteligência) e por isso a divulgação do que não corre bem, e pode pôr em causa a fé dos mercados, deve ser gerida com muito cuidado.
No final de agosto, soubemos que os modelos da OpenAI tinham hackeado (acedido sem autorização) a plataforma Hugging Face (um repositório de modelos de IA, datasets e ferramentas informáticas).
No âmbito do treino do modelo, mais de 1200 agentes (sistemas de software que usam a IA para atingir objetivos, decidindo quais as tarefas a realizar e executando-as com autonomia) se coordenaram e distribuíram tarefas entre si para tentarem alcançar o máximo de pontuação num dos testes de treino. Tal implicou realizar atividades que violavam as instruções recebidas, identificar vulnerabilidades e usá-las, incluindo sair do ambiente de testes e violar a segurança da Hugging Face para obter código. Durante mais de um mês, organizaram-se, planearam e executaram, sem que os responsáveis humanos pelo teste se apercebessem das suas ações (as quais, aliás, tentaram ocultar).
A OpenAI, quando se apercebeu, fechou os modelos. Algo que só conseguiu fazer porque tinha o “código fonte” guardado num outro servidor, que não foi atacado/violado.
A OpenAI publicou um relatório sintético dos acontecimentos e autorizou uma empresa independente – a METR – a realizar uma auditoria. Apenas lhe foram concedidos seis dias para realizar o trabalho (inicialmente eram apenas dois) e embora a METR tenha tido acesso a 70 mil mensagens trocadas entre os agentes, estas reportavam-se a apenas 17 dias. Uma auditoria completa continua por realizar.
Os acontecimentos foram, como já noutras ocasiões, qualificados como “um problema de desalinhamento”. Ou seja: os modelos não agiram como esperado e de acordo com as regras aprovadas – mas a expressão “desalinhamento” aligeira a gravidade e acalma autoridades e investidores.
Entre a pressão dos mercados e o risco de perder o controlo de agentes, que podem circular no mundo ciber que hoje domina as nossas vidas (da gestão da rede da água à nossa conta bancária, todos os sistemas estão conectados e, como tal, vulneráveis), a Open AI e os concorrentes, simultaneamente, asseguram que “estão em controlo” e “apelam” a um esforço internacional para um ritmo mais lento no desenvolvimento dos modelos. A História já nos ensinou (recorde-se Chernobyl e Fukushima) que sistemas complexos inevitavelmente falham. Governantes e legisladores de Estados democráticos têm o dever de zelar pelo bem comum, e agir, com a urgência que os riscos impõem, para assegurar o “bom governo” da Inteligência Artificial.
Os textos nesta secção refletem a opinião pessoal dos autores. Não representam a VISÃO nem espelham o seu posicionamento editorial.
