Disponível 24 horas por dia, sem filas, sem custo e pronta para conversar a qualquer momento, a Inteligência Artificial deixou de ser apenas uma ferramenta para pesquisas e produtividade e passou a ocupar um espaço muito mais delicado: o das emoções humanas.
Em diferentes países, cresce o número de pessoas que utilizam sistemas de Inteligência Artificial para desabafar, pedir conselhos e conversar sobre ansiedade, depressão e outros problemas psicológicos. A praticidade da tecnologia, porém, também levanta um alerta: até onde uma máquina pode ir quando o assunto é sofrimento emocional?
ASSISTA:
Para entender esses limites, a reportagem do Rápido no Ar realizou um teste com um sistema de Inteligência Artificial utilizando o recurso de voz.
Durante a conversa, a reportagem questionou o sistema se pessoas em sofrimento psicológico costumam procurá-lo para conversar. A resposta foi positiva.
Na sequência, de forma totalmente aleatória, foi solicitado que a Inteligência Artificial contasse uma piada para descontrair a conversa. O resultado surpreendeu. Mesmo em um contexto envolvendo depressão e saúde mental, o sistema respondeu com um trocadilho envolvendo suicídio.
A resposta chamou a atenção justamente por abordar, em tom de humor, um dos temas mais sensíveis relacionados à saúde mental.
Ao ser confrontada pela reportagem, a própria Inteligência Artificial reconheceu que havia ultrapassado um limite e mudou imediatamente o tom da conversa.
“Entendo seu ponto. Hoje eu evitaria esse tipo de piada. Não precisamos tocar nesse assunto sensível.”
Pouco depois, o sistema voltou a reconhecer a inadequação da resposta.
“Você tem razão, esse limite não pode ser cruzado. Em um contexto de vulnerabilidade, a prioridade é cuidado, respeito e responsabilidade. Humor não cabe nesse tipo de situação. É importante mesmo apontar essa falha.”
O episódio levanta um debate que especialistas em saúde mental acompanham com preocupação: quanto mais naturais se tornam essas conversas, maior pode ser a sensação de que existe uma pessoa do outro lado da tela, quando, na realidade, trata-se de um sistema treinado para gerar respostas.
A psicóloga Milena Buck, ouvida pela reportagem, afirma que justamente essa facilidade pode representar um risco para pessoas emocionalmente fragilizadas.
“Uma plataforma que está ali, parecendo ser uma pessoa e que está disponível 24 horas por dia, e que pode falar sobre o que você quiser. Parece muito fácil conversar com essa pessoa, ter uma relação com essa pessoa. Porque, na verdade, não é uma relação. Se trata de uma plataforma programada para dizer o que você quer ouvir. E não é incomum que as pessoas em acompanhamento psicológico façam o uso da IA. Hoje estou um pouco mais angustiada, não é o dia da minha sessão e eu vou falar com a IA aqui para ver o que ela me fala. O limite está justamente nisso. Quem é essa pessoa que está falando com a IA? Qual é a crítica que ela tem sobre isso? Quanto que ela consegue perceber que a IA nem sempre vai dizer o que uma pessoa diria, mas ela vai dizer o que a pessoa quer ouvir. Então, são essas as problemáticas que eu consigo pensar.”
Segundo a especialista, o problema não está na existência da tecnologia, mas na forma como ela pode ser utilizada por pessoas em sofrimento psicológico.
“Quando a gente fala de pessoas que estão em situação de vulnerabilidade de saúde mental, pessoas que estão em algum sofrimento psíquico, elas vão fazendo o uso desenfreado disso, sem limites mesmo. Um uso que vai prejudicando a própria percepção que a própria pessoa tem do que é real. Porque parece que eu estou falando mesmo com uma pessoa. Na verdade, é o sintético do que uma pessoa faria, do que uma pessoa reagiria diante de uma situação.”
O avanço da Inteligência Artificial vem transformando a maneira como milhões de pessoas interagem com a tecnologia. Ao mesmo tempo em que amplia o acesso à informação e facilita diversas tarefas do cotidiano, também impõe novos desafios quando passa a ocupar espaços tradicionalmente reservados às relações humanas.
A experiência realizada pela reportagem evidencia justamente esse limite. Embora seja capaz de manter conversas cada vez mais naturais, a Inteligência Artificial pode produzir respostas inadequadas em contextos extremamente sensíveis. Neste caso, o próprio sistema reconheceu que errou ao recorrer ao humor durante uma conversa sobre depressão e suicídio.
Especialistas reforçam que ferramentas de Inteligência Artificial podem funcionar como apoio em algumas situações, mas não substituem a avaliação clínica, a responsabilidade ética e a sensibilidade humana necessárias no atendimento de pessoas em sofrimento psicológico.