Anthropic Restringe Novo Modelo de IA "Mythos" por Riscos de Cibersegurança e Questões Legais
A Anthropic, empresa de inteligência artificial, revelou o desenvolvimento de um novo modelo de linguagem de alta performance, o Claude Mythos, mas optou por não disponibilizá-lo ao público devido a potenciais riscos à sociedade. Simultaneamente, um tribunal federal negou o pedido da empresa para suspender sua inclusão em uma lista de restrições do Departamento de Defesa dos EUA.
Preocupações com o Modelo "Mythos"
O Claude Mythos é descrito como um modelo de linguagem experimental de propósitos gerais, treinado com uma combinação de informações públicas, dados privados e dados sintéticos. A Anthropic destacou sua capacidade de desempenho superior aos modelos atuais da empresa, especialmente em análise e escrita de códigos de programação. A IA demonstrou ser extremamente eficaz na identificação de milhares de vulnerabilidades de alto risco e dia-zero em sistemas operacionais e navegadores populares, superando até mesmo humanos com alta habilidade nesse campo. Contudo, a empresa decidiu reter o acesso público a essa tecnologia devido aos potenciais males que poderia causar à sociedade, considerando que ele poderia trazer mais malefícios do que benefícios.
Decisão Judicial sobre Restrições do Pentágono
Em paralelo, um tribunal federal de apelações em Washington, D.C., negou o pedido da Anthropic para suspender temporariamente sua inclusão em uma lista de restrições do Departamento de Defesa dos EUA. A empresa buscava interromper os efeitos da classificação imposta pelo Pentágono, alegando riscos financeiros e danos à reputação. O tribunal considerou que o equilíbrio de interesses favorece o governo, citando o risco relativamente limitado de prejuízo financeiro para a empresa privada em contraste com a gestão judicial da aquisição de tecnologia vital de IA pelo Departamento de Guerra durante um conflito militar ativo. A Anthropic havia argumentado que a decisão do Pentágono era uma retaliação inconstitucional e arbitrária. O tribunal reconheceu que a empresa "provavelmente sofrerá algum grau de dano irreparável na ausência de uma suspensão", mas ponderou que os interesses da Anthropic são "principalmente de natureza" financeira.