Goldman Sachs Colabora com Anthropic para Mitigar Riscos Cibernéticos de Nova IA
O Goldman Sachs está trabalhando com a Anthropic em um projeto chamado 'Project Glasswing' para avaliar e mitigar riscos cibernéticos associados ao novo modelo de inteligência artificial Mythos da Anthropic. O modelo gerou preocupações na indústria de tecnologia e entre reguladores devido às suas capacidades avançadas.
Preocupações com o Modelo Mythos da Anthropic
O novo modelo de inteligência artificial Mythos da Anthropic gerou alarme entre autoridades e especialistas em IA por suas supostas capacidades avançadas. O CEO do Goldman Sachs, David Solomon, e outros líderes bancários se reuniram com autoridades de alto escalão na semana anterior para discutir os riscos. Solomon declarou em uma conferência com acionistas que a cibersegurança é uma prioridade máxima. O Goldman Sachs está obtendo acesso antecipado a um dos modelos de IA mais poderosos do mundo com o objetivo de se proteger contra os riscos potenciais. Solomon afirmou que o banco está 'hiperconsciente' das capacidades do modelo e está coordenando esforços com a Anthropic e seus próprios fornecedores de segurança para prevenir ameaças.
Lançamento Limitado e Medidas de Segurança
Na semana passada, a Anthropic informou que não lançaria seu novo modelo, Mythos, devido a preocupações com cibersegurança, alertando que o sistema era avançado o suficiente para que até mesmo não especialistas pudessem explorar vulnerabilidades em sistemas operacionais importantes. Em vez disso, a empresa ofereceu prévias limitadas a 11 organizações como parte de um grupo de cibersegurança denominado 'Project Glasswing'. Solomon destacou que a cibersegurança é um pilar do negócio do banco há muito tempo, com investimentos significativos de recursos. O lançamento do modelo também motivou uma reunião entre o presidente do Federal Reserve, Jerome Powell, o secretário do Tesouro, Scott Bessent, e líderes de grandes bancos americanos. Solomon observou que tais discussões não são novas e que os bancos têm se engajado com o Tesouro em riscos de cibersegurança por anos. Ele acrescentou que o banco está 'muito focado em complementar nossa resiliência cibernética e de infraestrutura', com a ajuda do governo dos EUA e dos editores do modelo.