IA aprende a admitir incerteza com método inspirado no cérebro humano
Pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) desenvolveram um método inovador para reduzir a superconfiança de sistemas de inteligência artificial. O estudo, publicado na Nature Machine Intelligence, revela que a inicialização aleatória de redes neurais é uma das principais causas de respostas imprecisas ou fabricadas. A nova técnica simula o desenvolvimento neurobiológico humano para calibrar a confiança da IA.
Método de 'aquecimento' corrige viés de incerteza
A equipe liderada pelo professor Se-Bum Paik introduziu uma estratégia de 'aquecimento' que ajusta a incerteza dos modelos de IA antes do treinamento com dados reais. As redes neurais são expostas brevemente a ruído e rótulos aleatórios, mimetizando a atividade neural espontânea observada no cérebro humano durante o desenvolvimento pré-natal. Esse processo garante que a confiança do sistema esteja alinhada com sua precisão, evitando respostas superconfiantes para informações desconhecidas.
Impacto na redução de alucinações em IAs generativas
Modelos convencionais de IA frequentemente exibem alta confiança em previsões incorretas desde a fase de inicialização, o que contribui para a ocorrência de 'alucinações' — informações falsas geradas de forma plausível. Com o novo método, a confiança inicial é mantida em níveis baixos, próximos ao acaso, para conteúdos desconhecidos. Segundo os pesquisadores, essa abordagem aproxima o comportamento da IA ao reconhecimento humano de incerteza, reduzindo erros propagados durante o treinamento.