OpenAI suspende desenvolvimento do modelo de IA Astra por risco de capacidades cibernéticas ofensivas
A OpenAI anunciou a suspensão das atividades internas relacionadas ao modelo de inteligência artificial Astra após avaliações indicarem avanços significativos em programação autônoma e cibersegurança. A empresa destacou preocupações com a possibilidade de o sistema atingir um nível crítico de capacidade ofensiva digital, conforme critérios de seu framework de preparação.
Motivos da suspensão
A decisão foi tomada após análises internas e de especialistas apontarem que o Astra demonstrou melhorias relevantes em tarefas de criação de código e operações de segurança digital. Segundo a OpenAI, o modelo poderia alcançar o nível mais elevado de alerta em seu framework de preparação, que considera uma IA como de capacidade cibernética crítica caso consiga desenvolver vulnerabilidades inéditas em sistemas protegidos ou criar estratégias de ataque sem supervisão humana. A empresa reforçou que o Astra não participou de incidentes anteriores, como o relacionado ao Hugging Face.