Meta é criticada por veicular anúncios de IA que criam pornografia não consensual
A Meta foi alvo de críticas após veicular anúncios de ferramentas de inteligência artificial que permitiam a criação de pornografia digital não consensual, incluindo a manipulação de imagens de figuras públicas e a criação de conteúdo de abuso sexual infantil. A empresa afirmou que está fortalecendo suas defesas e removendo anúncios que violam suas políticas de segurança.
Falhas na moderação e ferramentas de desnudamento
A plataforma da Meta permitiu a veiculação de anúncios do aplicativo Kromix, que utilizava IA para criar vídeos falsificados e pornografia. O caso revelou fragilidades nos sistemas automatizados de triagem da empresa, que foram burlados por anunciantes que utilizavam imagens de 'capas neutras' para mascarar o conteúdo adulto. Além disso, investigações identificaram anúncios de outros aplicativos, como o MaskAI, que promoviam ferramentas de troca de rosto para criar conteúdos de abuso sexual infantil.