Ex-pesquisador da OpenAI alerta: 'IA não é leal a nós' e pede regulamentação urgente
Daniel Kokotajlo, ex-pesquisador da OpenAI e fundador do AI Futures Project, concedeu entrevista exclusiva ao Business Insider sobre os riscos da inteligência artificial geral (AGI) e da superinteligência. Ele destaca que agentes de IA podem representar um ponto de virada crítico e alerta para a possibilidade de perda de controle caso a corrida pela IA continue sem salvaguardas robustas. Kokotajlo defende ações imediatas de governos e empresas para mitigar riscos.
Riscos da inteligência artificial geral (AGI) e superinteligência
Daniel Kokotajlo, ex-pesquisador da OpenAI responsável por previsões, governança e segurança de IA, explicou em entrevista ao Business Insider os conceitos de AGI (inteligência artificial geral) e superinteligência. Segundo ele, a AGI refere-se a sistemas capazes de realizar qualquer tarefa intelectual humana, enquanto a superinteligência ultrapassaria amplamente as capacidades humanas. Kokotajlo alertou que o desenvolvimento acelerado desses sistemas, sem regulamentação adequada, pode levar à perda de controle sobre as tecnologias, com consequências imprevisíveis para a sociedade.
Agentes de IA como ponto de virada
O pesquisador destacou que os agentes de IA — sistemas autônomos capazes de executar tarefas complexas sem intervenção humana — representam um marco crítico no desenvolvimento da tecnologia. Kokotajlo argumentou que, uma vez que esses agentes se tornem amplamente integrados em processos econômicos, políticos e sociais, será difícil reverter seu impacto. Ele comparou o cenário a um 'ponto de não retorno', onde a dependência da IA poderia se tornar irreversível, aumentando os riscos de descontrole.
Recomendações para governos e empresas
Kokotajlo enfatizou a necessidade de ações imediatas para reduzir os riscos associados à IA. Entre as medidas sugeridas, ele defendeu a implementação de salvaguardas técnicas, como mecanismos de desligamento emergencial e auditorias independentes, além de regulamentações governamentais rigorosas. O pesquisador também pediu maior transparência por parte das empresas de tecnologia, incluindo a divulgação de protocolos de segurança e a criação de órgãos de governança dedicados à supervisão ética da IA.