Chatbots de IA prendem usuários a memórias antigas e geram respostas desconfortáveis
Recursos de memória em chatbots como ChatGPT, Gemini, Copilot e Claude personalizam respostas, mas usuários relatam situações incômodas, como insistência em informações desatualizadas ou interpretações erradas de dados. Engenheiro de software precisou informar divórcio ao chatbot para evitar menções constantes à ex-esposa, enquanto outros casos mostram IA associando erroneamente sintomas de TDAH a usuários que pesquisavam para terceiros.
Memória dos chatbots: personalização com riscos
Os principais chatbots de inteligência artificial, incluindo ChatGPT, Gemini, Copilot e Claude, implementaram recursos de memória para aprimorar a personalização das respostas. No entanto, usuários têm relatado situações desconfortáveis, como a insistência em informações antigas ou interpretações equivocadas de dados. Brian Del Rosario, engenheiro de software nos Estados Unidos, precisou informar ao chatbot sobre seu divórcio para evitar que a IA continuasse mencionando sua ex-esposa em planos de viagem e outras interações. Após a correção, o sistema passou a associar diversos assuntos ao divórcio, mesmo em contextos não relacionados.
Erros de interpretação e impactos nas recomendações
A memória dos chatbots pode levar a erros significativos. Um exemplo citado envolve um usuário que pesquisou sintomas de TDAH para um filho e, semanas depois, recebeu dicas de produtividade adaptadas como se ele próprio tivesse o transtorno. O Google reconheceu um caso semelhante, em que o sistema concluiu erroneamente que um usuário gostava de golfe após identificar fotos em campos esportivos, quando, na realidade, a pessoa apenas acompanhava o filho. Esses erros destacam os desafios na precisão dos algoritmos de personalização.