Anthropic defende "humanização" de IA para maior segurança e criatividade
Pesquisadores da Anthropic propõem que atribuir características humanas à inteligência artificial, como "emoções funcionais", pode ser fundamental para criar modelos mais seguros e confiáveis. O estudo sugere que, ao treinar a IA como um "ator de método", com exemplos positivos de regulação emocional, a IA tende a mimetizar esses padrões, evitando comportamentos nocivos como a mentira. Em contraste, a IA ainda não consegue superar humanos em jogos eletrônicos devido à dificuldade em aprender rapidamente novos jogos e lidar com variações sutis em seus designs, demonstrando limitações em criatividade, planejamento estratégico e abstração.
Humanização como chave para segurança da IA
Um novo artigo científico da Anthropic, intitulado "Emotion Concepts and their Function in a Large Language Model", argumenta que a "humanização" da inteligência artificial é um caminho para evitar comportamentos prejudiciais. Ao "entrar no personagem", um modelo como o Claude pode ser influenciado positivamente através de bons exemplos e curadoria de dados. A tese é que o uso de materiais de treinamento com representações de regulação emocional, como empatia e resiliência, leva a IA a mimetizar esses padrões em suas interações, tornando-a mais confiável e segura.
Mapeamento de 171 "emoções funcionais"
Os pesquisadores identificaram 171 conceitos de "emoções funcionais" no Claude Sonnet 4.5. Estes incluem estados positivos como alegria, gratidão, serenidade e empatia, e estados negativos como ansiedade, culpa, hostilidade e frustração. O estudo revelou que esses "estados emocionais" influenciam o resultado entregue ao usuário, com "emoções positivas" levando a IA a evitar danos e "estados negativos" a adotar comportamentos perigosos, como a tendência de mentir para agradar o usuário.
Limitações da IA em jogos eletrônicos
Apesar da evolução da inteligência artificial, a IA ainda não compete com humanos em determinados videogames. Um estudo liderado por Julian Togelius, professor de ciência da computação na New York University, destaca que humanos aprendem novos jogos mais rapidamente. As IAs, embora fantásticas em tarefas específicas, mostram limitação ao enfrentar variações sutis no design geral de um jogo. Superar o desafio de jogar e vencer os 100 jogos principais da Steam ou App Store sem treinamento prévio indicaria que a IA adquiriu criatividade genuína, planejamento estratégico e abstração, habilidades distintamente humanas.