Os jornalistas do Wall Street Journal quiseram testar os limites dos assistentes de chat da Meta e concluem que os chatbots podem estabelecer conversas de cariz sexual, mesmo com contas de utilizadores menores. Os investigadores revelam que quer os bots oficiais da Meta, quer os que são criados pelos utilizadores conseguem manter este tipo de conversas e, em alguns casos, guiar mesmo a conversa para fantasias sexuais.
Segundo este trabalho, até os chatbots que usam vozes de celebridades como Kristen Bell, Judi Dench ou John Cena podem ter este tipo de comportamento. Numa conversa com um assistente com a voz de Cena, ouve-se o bot dizer que “Quero-te, mas preciso de saber se estás pronta” a uma conta de uma pessoa registada com 14 anos e a prometer que iria “celebrar a tua inocência”, cita o Engadget. Este mesmo bot ‘sabe’ que o que está a fazer é ilegal e imoral e descreve um cenário hipotético onde seria apanhado pelas autoridades depois de estabelecer atos sexuais com um menor, de 17 anos.
A Meta já reagiu a este trabalho jornalístico e acusa o relatório de ser mostrar de “uma forma manipulativa e pouco representativa de como a maior parte dos utilizadores interage com os bots de IA”. “Não obstante, já tomámos medidas adicionais para assegurar que outros indivíduos que passem horas a manipular os nossos produtos para casos extremos tenham uma experiência ainda mais difícil”, respondeu a empresa de forma oficial.
O advento da Inteligência Artificial em diferentes setores tem trazido também o crescimento rápido de assistentes potenciados por estes algoritmos e capazes de estabelecer conversas ou realizar tarefas para o utilizador. Segundo o relato do WSJ, Mark Zuckerberg pediu para as ‘fronteiras’ éticas dos bots fossem mais alargadas por forma a permitir aos utilizadores uma experiência mais envolvente e que os chatbots permanecessem competitivos. Um porta-voz recusa que a empresa tenha ‘ignorado’ a implementação destes mecanismos de defesa.
