AlphaGo, da DeepMind, foi o primeiro sistema de Inteligência Artificial (IA) que, em 2016, conseguiu derrotar um campeão humano de Go. Depois, KataGo tornou-se um algoritmo popular, de código aberto, capaz da mesma proeza. Agora, um grupo de investigadores publicou um estudo onde descreve um método de técnicas adversariais capazes de iludir o sistema KataGo. O truque engana as máquinas, mas é facilmente inutilizado por jogadores humanos, mesmo amadores.
O método consiste em realizar movimentos inesperados e que caem fora do conjunto de movimentos treinados pela máquina, tirando partido de ‘ângulos cegos’ no sistema.
Adam Gleave, um dos autores do estudo, explica que foi desenvolvida uma ‘política adversarial’ que usa uma mistura de trabalho de redes neuronais e um método de procura em árvore para encontrar movimentos de Go. O treino de KataGo consistiu na execução de milhões de jogos contra si próprio, mas nem esse trabalho intensivo é suficiente para cobrir todos os cenários, o que deixa uma aberta explorada agora pelos investigadores. “KataGo generaliza bem muitas estratégias inovadoras, mas fica mais fraco à medida que os jogos se afastam do que foi treinado. O nosso adversário descobre uma dessas ‘distribuições’ paralelas a que a KataGo é vulnerável, mas é provável que existam muitas outras”, conta Gleave ao ArsTechnica.
A estratégia passa por controlar uma pequena porção do tabuleiro, deixando o KataGo tomar conta do resto e fazendo-o o ‘pensar’ que está a ganhar. Como resultado do excesso de confiança, o sistema faz um movimento de passe, deixando o adversário fazer o mesmo e terminando o jogo.
“A investigação mostra que o sistema de IA que parece estar a ter um desempenho semelhante a um humano fá-lo de uma forma muito inusitada e, assim, pode falhar de formas também surpreendentes para os humanos. Este resultado entretém bastante no Go, mas falhas semelhantes em sistemas críticos de segurança podem ser perigosas”, alertam os investigadores. A equipa realça que “[esta investigação] salienta a necessidade para melhores sistemas de testes de IA para encontrar os modos de falhanço de pior cenário possível (…) e não apenas os cenários intermédios”.
Mais de meia década depois de estes sistemas terem sido aperfeiçoados para defrontar e vencer os melhores jogadores humanos de Go, esta descoberta realça a importância dos jogos de tabuleiro tradicionais para preparar sistemas futuristas de IA.
Leia mais sobre este estudo aqui.
