Empresas de IA falham em combater ameaças existenciais, aponta relatório global; Anthropic lidera ranking com nota 'C+'
Um relatório do Future of Life Institute, publicado nesta terça-feira (7), avaliou nove das principais empresas de inteligência artificial (IA) do mundo e concluiu que o setor não consegue combater ameaças 'existenciais', como o desenvolvimento de modelos de 'inteligência artificial geral' (AGI). A Anthropic, empresa americana, obteve a melhor nota geral ('C+'), mas nenhuma companhia recebeu a nota máxima ('A') em qualquer categoria analisada.
Avaliação das empresas e categorias analisadas
O relatório do Future of Life Institute avaliou as empresas em seis categorias: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, e compartilhamento de informações. A Anthropic, apesar de liderar o ranking, foi criticada por manter 'compromissos militares questionáveis', incluindo o uso de sua tecnologia em operações militares dos EUA na Venezuela e no Irã. Recentemente, a empresa foi alvo de uma proibição do Pentágono devido a divergências sobre a segurança da IA.
Riscos existenciais e uso militar da IA
O estudo destaca que as empresas de IA estão falhando no combate a ameaças existenciais, como o desenvolvimento de modelos com inteligência semelhante à humana. Além disso, o relatório aponta que várias companhias, incluindo a Anthropic, reverteram políticas anteriores que proibiam o uso militar de suas tecnologias. Os riscos incluem o uso indevido de modelos para ciberataques ou tarefas prejudiciais aos seres humanos, reforçando a necessidade de maior regulação e transparência no setor.