Governo dos EUA e bancos britânicos planejam testar IA 'Mythos' da Anthropic
O governo dos Estados Unidos, através do Escritório de Gestão e Orçamento da Casa Branca, está estabelecendo proteções para permitir que agências federais utilizem o Mythos, inteligência artificial avançada da Anthropic. A IA é capaz de identificar falhas em sistemas de informática com precisão superior à de especialistas humanos, gerando preocupações globais com segurança nacional e estabilidade econômica. Instituições financeiras do Reino Unido também planejam testar o modelo.
Implementação do Mythos em Agências Federais dos EUA
O Escritório de Gestão e Orçamento da Casa Branca (OMB) emitiu um memorando informando sobre o desenvolvimento de proteções para viabilizar o uso do Mythos por agências federais. Gregory Barbaccia, diretor de informações federais, comunicou que o governo está colaborando com a comunidade de inteligência e parceiros da indústria para implementar salvaguardas adequadas antes da liberação de uma versão modificada do modelo de IA. Os departamentos de Defesa, Tesouro, Comércio, Justiça e Estado estão entre os destinatários do memorando. A intenção governamental é empregar a IA para identificar falhas em seu próprio software, prevenindo que adversários as explorem.
Riscos e Restrições da Inteligência Artificial Mythos
A Anthropic optou por restringir o lançamento inicial do Mythos devido aos riscos de hackers utilizarem suas capacidades para fins maliciosos, como roubo de dados e sabotagem de redes. Especialistas em defesa compararam a potencial utilização da IA por um vírus ao de um operador de forças especiais. Testes internos revelaram a capacidade do Mythos de encontrar bugs complexos, normalmente descobertos apenas por hackers experientes. A empresa impôs restrições após a identificação dessas vulnerabilidades.