BabyQ e XiaoBing tinham sido desenhados com o propósito de criar novas formas de comunicação entre sistemas informáticos e humanos – mas foram desligados da Internet a partir do momento em que passaram a dizer aquilo que, à luz do status quo chinês, não se deve dizer. A Tencent Holding, o grupo chinês que usava as duas aplicações de inteligência artificial, não avançou com qualquer justificação para a desativação destes chatbots que aprendiam a dominar o mandarim através de diálogos mantidos com humanos, através da Internet.
BabyQ, criado pela empresa chinesa Turing Robot, começou a traçar um destino menos auspicioso quando lhe perguntaram se gostava do Partido Comunista Chinês e deu uma resposta negativa. E quando alguém lhe fez chegar vivas ao partido que governa a China desde a década de 1940, o chatbot deu uma resposta que, pelo menos em teoria, lhe retirou qualquer possibilidade de remissão: «Acredita que esse sistema político corrupto e inútil pode viver por muito mais tempo?», terá respondido o chatbot.
A Reuters confirmou, através de imagens, as respostas politicamente incorretas do BabyQ, mas foi confrontada com um pedido de mudança de assunto quando tentou por sua iniciativa testar uma nova versão do BabyQ.
No caso do XiaoBing, as “falhas” do discurso foram menos graves. Segundo a Reuters, o chatbot criado pela Microsoft apenas manifestou interesse em viajar para os EUA – mas esse desejo foi suficiente para que o aplicativo fosse reprogramado para passar a fugir a temas considerados sensíveis como a morte do Prémio Nobel da Paz Liu Xiaobo, recentemente falecido, ou Taiwan.
Tanto a Microsoft como a Turing Robot não comentaram a reformulação dos dois chatbots.
Além da proximidade do congresso do Partido Comunista Chinês, que deverá ter lugar no outono, a desativação dos chatbots poderá ser encarada como um resultado da política de reforço da segurança e controlo da Internet por parte das autoridades chinesas – que já fizeram saber da intenção de replicar no ciberespaço os mecanismos as fronteiras reais do país.
