OpenAI e ThroughLine colaboram para identificar extremismo e auxiliar usuários
A OpenAI, em parceria com a startup neozelandesa ThroughLine, está desenvolvendo um sistema para identificar sinais de extremismo violento em usuários do ChatGPT e encaminhá-los a serviços de apoio. A iniciativa visa combinar IA e atendimento humano para reduzir riscos de violência, especialmente em casos de automutilação, violência doméstica e transtornos alimentares.
Sistema de prevenção ao extremismo violento em desenvolvimento
A ThroughLine, startup que presta serviços para OpenAI, Anthropic e Google, está desenvolvendo uma ferramenta para identificar usuários do ChatGPT que apresentem sinais de extremismo violento. O sistema, que combina inteligência artificial e atendimento humano, visa encaminhar indivíduos em situações de crise, como automutilação, violência doméstica e transtornos alimentares, para redes de apoio especializadas. A iniciativa surge em resposta a crescentes pressões sobre empresas de IA em relação à segurança e prevenção de violência, após incidentes como o banimento de um autor de massacre de uma plataforma sem notificação às autoridades. A OpenAI confirmou a parceria com a ThroughLine. A startup também negocia com o The Christchurch Call, iniciativa para combater o ódio online, para ampliar a cobertura e o suporte às plataformas. A ThroughLine mantém uma rede com 1.600 linhas de apoio em 180 países.