Anthropic Busca Orientação de Líderes Cristãos para Desenvolvimento Ético de IA Claude
A startup de inteligência artificial Anthropic, avaliada em US$ 380 bilhões, realizou uma cúpula de dois dias em São Francisco com líderes cristãos para orientar o desenvolvimento moral e espiritual de seu chatbot Claude. O objetivo foi obter conselhos sobre como a IA deve reagir a dilemas éticos e questões existenciais.
Discussões sobre Ética e Espiritualidade em IA
Durante o encontro, que reuniu cerca de 15 líderes cristãos, incluindo padres, pastores e acadêmicos, foram abordados temas como luto e sensibilidade na interação com usuários, prevenção de danos a indivíduos em risco, a 'atitude' do Claude em relação ao seu próprio desligamento ou obsolescência, e a possibilidade de uma IA ser considerada uma 'filha de Deus'. Brendan McGuire, padre católico, ressaltou a importância de inserir um pensamento ético dinâmico no sistema, dado que a empresa desconhece o resultado final de seu desenvolvimento.