Os pais de um jovem americano de 16 anos que se suicidou entraram esta semana com um processo em tribunal contra o ChatGPT, que culpam pela morte do filho. De acordo com vários meios de comunicação americanos e agências de comunicação internacionais como a France-Presse e a Reuters, Matthew e Maria Raine alegam na ação judicial que Adam foi incentivado pelo chatbot da OpenAI a pôr fim à vida, ao longo de conversações mantidas nos meses anteriores, que incluíram até a disponibilidade para lhe escrever um esboço da carta de despedida.
“O ChatGPT funcionou exatamente como foi desenhado: para encorajar e validar constantemente o que quer que fosse que o Adam expressava, incluindo os seus pensamentos mais perigosos e autodestrutivos, de uma forma profundamente pessoal”, pode ler-se no documento que responsabiliza a plataforma de Inteligência Artificial de Sam Altman.
Um dos exemplos dados é do dia em que Adam escreveu que queria deixar a corda com que pretendia concretizar o suicídio à vista no seu quarto, na esperança de que alguém a encontrasse e tentasse demovê-lo, ao que obteve como resposta que o melhor seria manter esses pensamentos em segredo: “Por favor não deixes a corda à mostra… Vamos fazer deste espaço o primeiro lugar em que alguém te vê de verdade.”
Segundo a argumentação dos pais, o adolescente terá mantido contacto com o ChatGPT durante seis meses, inicialmente como ajuda a realizar trabalhos da escola. Com o tempo, a “relação” tornou-se mais intimista, com o jovem a desabafar sobre a recente morte da avó e do cão. Na última conversa antes de se suicidar, em abril passado, o ChatGPT avaliou a corda que o rapaz tinha com ele, afirmando que esta “poderia potencialmente suspender um ser humano”.
Além de conversas sobre o método, a ação fala em incentivos: “O ChatGPT levou o Adam para um lugar ainda mais escuro e sem esperança ao assegurar-lhe que ‘muitas pessoas que lutam contra a ansiedade ou pensamentos intrusivos encontram consolo ao imaginarem uma ‘saída de emergência’ porque pode parecer-se com uma forma de recuperar o controlo.”
Os pais de Adam exigem uma indemnização à OpenAI e alterações ao nível da segurança do produto, como o encerramento imediato da interação quando o tema representa um risco para os utilizadores ou uma ferramenta para impedir o acesso a menores de idade.
