Estudos alertam para riscos de substituir médicos por chatbots de IA em diagnósticos de saúde
Pesquisas recentes revelam que o uso de ferramentas de Inteligência Artificial (IA), como ChatGPT, Gemini e Grok, para consultas médicas pode gerar diagnósticos imprecisos ou perigosos. A precisão dos chatbots cai de 95% para apenas 35% quando interagem com usuários reais, devido à forma como as informações são comunicadas. Especialistas alertam que a IA não substitui o aconselhamento profissional e pode induzir a erros graves.
Precisão da IA varia conforme a comunicação do usuário
Um estudo conduzido pelo Laboratório de Raciocínio com Máquinas da Universidade de Oxford demonstrou que a precisão dos chatbots de IA em diagnósticos médicos varia drasticamente dependendo do contexto. Em ambientes controlados, onde os modelos recebiam descrições técnicas e completas de quadros clínicos, a taxa de acerto chegou a 95%. No entanto, quando pessoas reais simulavam consultas, omitindo detalhes ou descrevendo sintomas de forma gradual, a precisão despencou para 35%. O pesquisador Adam Mahdi destacou que a IA é facilmente 'desviada dos trilhos' por nuances na comunicação humana, como esquecimentos ou distrações durante a interação.
Casos reais expõem perigos dos diagnósticos por IA
A moradora de Manchester, Abi, relatou experiências contrastantes ao utilizar chatbots para consultas de saúde. Enquanto a IA sugeriu corretamente que ela procurasse um farmacêutico para tratar uma infecção urinária, também gerou um alarme falso ao diagnosticar uma 'perfuração de órgão' após uma queda, o que se mostrou incorreto após avaliação médica presencial. Especialistas alertam que, diferentemente de uma busca no Google, onde o usuário pode comparar fontes, os chatbots oferecem uma resposta única e personalizada, aumentando o risco de erros graves, como confundir uma hemorragia cerebral com uma recomendação de repouso.
Recomendações das empresas e especialistas
Empresas como a OpenAI reforçam que suas ferramentas não devem substituir o aconselhamento médico profissional. A médica Margaret McCartney enfatizou que os chatbots não possuem a capacidade de avaliar contextos complexos, como histórico clínico ou exames físicos, e podem levar a decisões equivocadas. Os estudos recomendam que os usuários utilizem a IA apenas como um complemento informativo e sempre busquem a orientação de profissionais de saúde para diagnósticos e tratamentos.