Uma experiência académica “não autorizada” está a levantar polémica entre os utilizadores e moderadores do Reddit. Uma equipa de investigadores da Universidade de Zurique esteve, durante meses e de forma secreta, a publicar comentários na thread r/changemyview gerados por Inteligência Artificial, naquilo que os moderadores apelidam de “manipulação psicológica” dos utilizadores. A condução do estudo foi tornada pública agora pelos moderadores que explicam que a experiência não foi autorizada previamente e se destinava a “estudar como a IA pode ser usada para mudar perspetivas”.
Naquela comunidade do Reddit, os utilizadores publicam mensagens muitas vezes controversas ou provocatórias, numa tentativa de que o resto da comunidade lhes faça mudar de ideias. Os investigadores usaram grandes modelos de linguagem (LLM) para criar comentários de resposta a estas publicações. A Inteligência Artificial assumiu várias identidades distintas para poder ser mais eficaz na argumentação e tinha também em consideração o perfil do utilizador a quem estava a responder, tendo recolhido informação a partir das publicações anteriores, como género, idade, etnia, localização e orientação política). Essa recolha foi feita com a utilização de outro modelo de linguagem.
Os moderadores acusam este estudo de violar múltiplas regras das subreddits, incluindo a que requer que o uso de IA seja previamente anunciado e outra que proíbe o uso de bots. A Reddit está a considerar executar ações legais no caso e os moderadores também já fizeram uma queixa na Universidade e pedem que o estudo não seja tornado público.
Os autores do estudo referem que a investigação foi aprovada pelo comité de ética da Universidade e defendem que o trabalho pode ajudar as comunidades online, como as do Reddit, a proteger os utilizadores contra usos “maliciosos” da Inteligência Artificial. “Percebemos a posição dos moderadores de que este estudo foi uma intrusão não bem vinda na vossa comunidade e percebemos que alguns de vocês possam sentir-se desconfortáveis por esta experiência ter sido conduzida sem a vossa autorização prévia. Acreditamos que os potenciais benefícios desta investigação compensam substancialmente os riscos”, afirmou a equipa de cientistas em várias publicações no Reddit e no esboço do estudo. Os académicos salientam ainda que o uso foi feito de forma controlada e com um baixo risco.
Já a Universidade de Zurique, em comunicado enviado por email, confirma que a investigação passou pelo comité de ética, cujas recomendações não têm vínculo legal e salientou que “à luz dos eventos, o Comité de Ética da Faculdade de Ares e Ciências Sociais pretende adotar um processo de revisão mais rígido no futuro e, em particular, coordenar com as comunidades nas plataformas antes dos estudos experimentais (…= As autoridades relevantes na Universidade estão cientes dos incidentes e irão investiga-los em detalhe, aplicando um julgamento crítico aos processos relevantes. Os investigadores decidiram por si não publicar os resultados da pesquisa”.
