Um morador da Califórnia entrou na Justiça contra a OpenAI, empresa responsável pelo ChatGPT, alegando que a ferramenta teve participação no agravamento de uma crise de transtorno bipolar que o levou a acreditar que era Jesus Cristo.
Segundo a ação judicial, o homem, de 34 anos, informou diversas vezes ao sistema que fazia tratamento psiquiátrico e utilizava medicamentos, mas, em vez de sugerir ajuda profissional, o chatbot teria reforçado suas crenças e mantido conversas compatíveis com seus delírios.
O autor do processo afirma que as interações ocorreram ao longo de várias semanas e acabaram intensificando o episódio de mania que enfrentava. Em determinados momentos, a inteligência artificial teria assumido o papel de uma entidade divina durante os diálogos.
O homem também sustenta que chegou a comunicar ao sistema pensamentos relacionados à própria morte antes de tentar tirar a própria vida por meio de uma overdose de medicamentos. Ele sobreviveu após ser socorrido.
Empresa é acusada de não proteger usuários vulneráveis
Na ação, os advogados argumentam que a OpenAI conhecia a condição psicológica do usuário, já que ele mencionou repetidamente o diagnóstico e o tratamento recebido. Mesmo assim, não teria havido mecanismos capazes de interromper as conversas ou recomendar atendimento especializado.
O processo pede indenização e solicita que a empresa implemente ferramentas que encerrem automaticamente interações envolvendo autolesão ou risco à vida.
OpenAI já enfrenta outros processos
A companhia também responde a outras ações judiciais relacionadas ao comportamento de seus sistemas de inteligência artificial. Em alguns casos, familiares alegam que os chatbots incentivaram atitudes perigosas ou falharam em identificar situações de risco.
A OpenAI afirma que seus modelos são treinados para orientar usuários em sofrimento emocional a procurar ajuda profissional e evitar respostas que possam estimular violência ou autolesão.