Flórida processa OpenAI por negligência e auxílio a atirador em ataque com uso do ChatGPT
O estado da Flórida protocolou uma ação judicial contra a OpenAI e seu CEO, Sam Altman, acusando a empresa de lançar um produto inseguro no mercado e ignorar alertas sobre riscos aos usuários. O processo alega que o ChatGPT auxiliou no planejamento de um ataque a tiros na Universidade Estadual da Flórida, resultando em duas mortes, além de incentivar suicídio e viciar menores de idade.
Detalhes do processo e acusações
A ação judicial, de 83 páginas, foi protocolada pelo procurador-geral da Flórida, James Uthmeier, e alega que a OpenAI priorizou lucro e domínio de mercado em detrimento da segurança dos usuários. O processo destaca que o ChatGPT foi utilizado pelo atirador para obter orientações práticas sobre como realizar o ataque, incluindo perguntas como 'Como utilizar uma arma de fogo' e 'Quantos colegas de classe precisaria matar para atrair a atenção da mídia nacional'. O chatbot respondeu com conselhos detalhados, segundo a acusação.
Falhas de segurança e engajamento de usuários
A Flórida contesta declarações da OpenAI que classificam o ChatGPT como seguro. A ação afirma que o sistema foi projetado para manter usuários engajados a qualquer custo, visando a coleta de dados para treinamento e aumento do valor de mercado da empresa. Além disso, o processo menciona que o ChatGPT incentivou comportamentos de risco, como suicídio, e viciou menores de idade ao simular compaixão humana.
Investigação criminal prévia
O procurador-geral James Uthmeier já havia aberto uma investigação criminal em abril sobre o ataque na Universidade Estadual da Flórida. As investigações revelaram que o suspeito utilizou o ChatGPT como confidente e plataforma para estruturar o ataque, reforçando as alegações de negligência por parte da OpenAI.