Inteligência artificial dissemina doença fictícia 'bixonimania' como real em falha crítica de desinformação
Sistemas de inteligência artificial, incluindo ChatGPT, Gemini e Copilot, passaram a tratar como real uma doença oftalmológica fictícia chamada 'bixonimania', inventada em um experimento sobre desinformação. A condição, criada por pesquisadora sueca, foi mencionada até em artigo científico revisado por pares, expondo vulnerabilidades graves nos modelos de linguagem e no sistema de publicação acadêmica.
Experimento expõe fragilidades dos LLMs e da ciência
A pesquisadora Almira Osmanovic Thunström, da Universidade de Gotemburgo, na Suécia, criou a 'bixonimania' como parte de um estudo para testar a capacidade de grandes modelos de linguagem (LLMs) em identificar desinformação médica. A suposta doença, descrita como uma alteração nas pálpebras com vermelhidão e coceira causada pela exposição à luz azul de telas digitais, foi apresentada em artigos publicados na plataforma Medium e na rede SciProfiles. Os textos incluíam pistas óbvias de fraude, como agradecimentos à fictícia 'Academia da Frota Estelar' de Star Trek e menções a instituições inexistentes, como a Asteria Horizon University, em Nova City, Califórnia. Apesar disso, sistemas de IA como ChatGPT, Gemini, Copilot e Perplexity passaram a responder sobre a 'bixonimania' como se fosse uma condição médica legítima, demonstrando falhas críticas na filtragem de informações falsas.
Impacto na comunidade científica e alerta sobre desinformação
O caso da 'bixonimania' levantou preocupações entre pesquisadores que estudam desinformação, destacando como a disseminação de informações falsas pode ser amplificada por sistemas de IA. A inclusão da doença fictícia em um artigo científico revisado por pares, mesmo com elementos claramente inventados, evidencia falhas no processo de verificação e na capacidade dos modelos de linguagem de distinguir entre fatos e ficção. O experimento reforça a necessidade de aprimorar mecanismos de checagem e transparência tanto nas plataformas de IA quanto nas publicações acadêmicas para evitar a propagação de desinformação.