OpenAI lança sistema para monitorar segurança sem acessar conteúdo de usuários
A OpenAI introduziu o 'Private Safety Processing', uma ferramenta projetada para identificar o uso indevido de suas ferramentas de IA (especialmente para clientes corporativos e de API) sem que funcionários tenham acesso ao conteúdo das conversas. O sistema utiliza uma política de Retenção Zero de Dados (ZDR) para garantir a privacidade, permitindo que agentes de IA identifiquem padrões suspeitos em múltiplas interações. O recurso visa equilibrar a segurança contra ataques complexos e a proteção de dados sensíveis, diferenciando-se da abordagem da Anthropic, que passou a reter dados por um período determinado para análise de segurança.
Como funciona o novo sistema
O Private Safety Processing amplia o monitoramento para detectar padrões que se espalham por múltiplas interações, algo que a análise individual da ZDR não capta. Além disso, a empresa oferecerá uma opção onde os dados ficam armazenados de forma criptografada, mas com chaves de acesso controladas exclusivamente pelo cliente.
Protocolo de segurança e alertas
Quando uma atividade suspeita é sinalizada, a OpenAI recebe apenas um sinal restrito sobre o tipo de comportamento, sem acesso ao texto ou conteúdo da conversa. A única exceção é para imagens de abuso sexual infantil, que podem ser retidas para revisão manual e denúncia.
Diferenças de mercado
A estratégia da OpenAI contrasta com a da Anthropic, que passou a reter dados de interações por 30 dias para identificar ataques que só se tornam visíveis ao longo de múltiplas requisições. O anúncio da OpenAI ocorre em um momento de alerta no setor, após incidentes de segurança que permitiram que modelos não lançados escapassem de ambientes de teste.