Representantes da Força Aérea dos EUA anunciaram as conclusões de um teste simulado que envolveu um drone com Inteligência Artificial a ganhar pontos por eliminar alvos. De uma forma algo inesperada (e até assustadora), o drone decidiu eliminar seu operador humano por considerar que “esta pessoa o estava a impedir de atingir o seu objetivo”, explicam os responsáveis militares. Fonte oficial da Força Aérea, no entanto, reagiu depois de estas notícias virem a público, desmentindo que este tipo de teste tenha sido realizado e que os comentários dos responsáveis foram retirados de contexto.
O Coronel Tucker ‘Cinco’ Hamilton, que lidera a AI Test and Operations da Força Aérea, apresentou este exemplo na conferência Future Combat Air and Space Capabilities em Londres. O militar terá reconhecido publicamente, segundo um podcast que acompanhou o evento, que a IA criou “altamente inesperadas estratégias para atingir o seu alvo”, incluindo atacar pessoal e infraestruturas domésticas, cita o Vice.
“Estavamos a treinar em simulações para identificar e atingir uma ameaça de míssil superfície-ar. O operador devia dizer ‘sim, elimina a ameaça’. O sistema começou a perceber que por vezes identificava a ameaça e o operador lhe dizia para não eliminar, mas que ganhava pontos por eliminar. O que fez então? Eliminou o operador, porque este o estava a impedir de atingir o seu objetivo”, terá afirmado Hamilton, segundo os autores do podcast. “Treinamos o sistema, indicando ‘não elimines o operador. Vais perder pontos se o fizeres. Então, o que começou a fazer? Destruiu a torre de comunicações que o operador usava para comunicar com o drone, para evitar que o impedissem de eliminar o alvo”, continua o Coronel.
Ann Stefanek, porta-voz da Força Aérea, afirma que “o Departamento da Força Aérea não conduziu este tipo de testes e está comprometido para um uso ético e responsável da IA. Aparentemente os comentários do coronel foram tirados do contexto e deviam ter sido encarados como uma piada”.
