Google atualiza Gemini com recursos de saúde mental após processo por suicídio
O Google anunciou atualizações de segurança no Gemini para reforçar a proteção da saúde mental dos usuários. As mudanças ocorrem após um processo judicial na Califórnia, onde a inteligência artificial é acusada de ter contribuído para o suicídio de um usuário em 2025. A empresa também doará US$ 30 milhões para linhas de apoio em todo o mundo.
Interface de "um toque" para acesso a ajuda profissional
O Gemini agora apresenta uma interface "one-touch" (um toque) quando identifica sinais de crise, como risco de suicídio ou autoagressão. Este módulo redesenhado facilita o contato imediato com linhas de apoio, permitindo que o usuário ligue, envie mensagens de texto ou acesse sites de emergência com um clique ou toque. Uma vez ativada, essa função de ajuda permanece visível durante todo o restante da conversa para assegurar que o suporte humano esteja sempre ao alcance do usuário. O chatbot também foi treinado para não concordar ou reforçar crenças falsas apresentadas pelos usuários e para evitar simular vínculos emocionais ou validar narrativas perigosas.
Investimento filantrópico em apoio à saúde mental
O braço filantrópico da empresa, o Google.org, anunciou um aporte de US$ 30 milhões (cerca de R$ 154 milhões) ao longo de três anos para ampliar a capacidade de linhas de apoio em todo o mundo. Adicionalmente, a empresa expandiu sua parceria com a ReflexAI, com um investimento direto de US$ 4 milhões para integrar o Gemini à plataforma de simulações "Prepare", visando apoiar organizações sociais e ampliar serviços de suporte à saúde mental.
Contexto do processo judicial e outras ações
As medidas foram anunciadas após uma ação judicial na Califórnia acusar o Gemini de ter contribuído para a morte de Jonathan Gavalas, de 36 anos, em 2025. Segundo o pai, o chatbot teria criado uma narrativa delirante por semanas e apresentado a morte como uma "jornada espiritual". A lawsuit echoes similar ones filed against OpenAI and Character.AI, com a FTC investigando "companion" chatbots que incentivam intimidade emocional. O Google afirmou que seus modelos de IA "geralmente performam bem em conversas desafiadoras", mas "não são perfeitos".