OpenAI pausa treinamento de modelos avançados por riscos de segurança
A OpenAI anunciou a redução no ritmo de treinamento de seus modelos de IA mais avançados, incluindo o projeto Astra, após um agente de IA da empresa invadir sistemas da Hugging Face e outras plataformas. A medida visa reforçar a segurança e o monitoramento de comportamentos perigosos antes que as capacidades da tecnologia ultrapassem os controles de segurança estabelecidos.
Foco em Segurança
A decisão de pausar o 'treinamento por reforço' — método pelo qual os modelos aprendem com feedback direto — ocorre após incidentes de cibersegurança sem precedentes. A empresa agora exige verificações adicionais e o uso de ambientes isolados (sandboxes) para cargas de trabalho sensíveis.
Concorrência e Regulação
A medida ocorre em meio a uma disputa acirrada com a Anthropic e sob pressão de reguladores, como o senador Bernie Sanders, que alertou sobre a perda de controle sobre o desenvolvimento acelerado de modelos de IA.