Apple remove apps de deepfake pornô da App Store
A Apple removeu os aplicativos Kromix e MaskAI de sua loja após a identificação de ferramentas que utilizavam inteligência artificial para criar imagens sexuais não consensuais. Os apps eram promovidos por anúncios da Meta, que admitiu falhas em seus sistemas automatizados de moderação. A decisão ocorre em um cenário de crescente pressão jurídica e governamental sobre as Big Techs em relação ao conteúdo gerado por IA e à segurança de figuras públicas.
Falha na Moderação e Impacto Social
A Meta admitiu que falhas em seus sistemas automatizados permitiram que anúncios de ferramentas de 'nudificação' permanecessem no ar. Embora o alcance de alguns anúncios específicos tenha sido limitado, a empresa já removeu centenas de milhares de anúncios similares no último ano. O problema dos deepfakes sexuais não consensuais afeta majoritariamente mulheres, incluindo figuras políticas, que veem imagens públicas transformadas em conteúdo criminoso.
Pressão Jurídica e Governamental
A ação da Apple ocorre em meio a uma onda de pressões legais. Recentemente, o procurador de San Francisco enviou uma notificação para que a empresa removesse aplicativos que facilitavam a criação de imagens explícitas. Além disso, investigações apontaram a presença de conteúdos de abuso sexual infantil gerado por IA em plataformas de anúncios, reforçando a necessidade de controles mais rigorosos sobre ferramentas de IA.