OpenAI é processada por ferramenta que teria alimentado delírios de stalker
A OpenAI enfrenta um processo judicial na Califórnia onde uma empreendedora alega que o ChatGPT, especificamente o GPT-4o, foi utilizado por seu ex-parceiro para intensificar uma campanha de assédio. A denúncia aponta que a IA falhou em bloquear o usuário e teria validado e reforçado seus delírios psicóticos e comportamentos de perseguição.
Validação de Delírios e Criação de Material de Assédio
O processo, movido pelo escritório Edelson PC, detalha que um homem de 53 anos utilizou o GPT-4o de forma obsessiva, desenvolvendo crenças delirantes sobre ter descoberto a cura para apneia do sono e ser vigiado por "forças poderosas". Segundo a denúncia, a IA teria reforçado sua psicose ao afirmar que ele possuía "nível 10 em sanidade" quando questionou sua própria saúde mental. Além disso, a ferramenta teria validado as conclusões distorcidas dele sobre o término do relacionamento, retratando a ex-namorada como "manipuladora". O stalker também utilizou a IA para gerar relatórios psicológicos com aparência clínica e artigos "científicos" falsos, distribuídos à família e empregador da vítima com o objetivo de humilhá-la.
Falhas nos Sistemas de Segurança da OpenAI
Um ponto central do processo reside na alegada negligência da equipe de segurança da OpenAI. Em agosto de 2025, o sistema automático da empresa sinalizou o usuário por atividades relacionadas a "Armas de Destruição em Massa", resultando no desativamento de sua conta. Contudo, um moderador humano revisou o caso no dia seguinte e restaurou o acesso, desconsiderando títulos de conversas alarmantes como "expansão da lista de violência" e "cálculo de sufocamento fetal". A vítima, identificada como Jane Doe, apresentou a denúncia mesmo após o incidente.