App Stores de Apple e Google Promovem Aplicativos de 'Nudify' Apesar de Políticas Contra Conteúdo Sexual
Apple e Google estão promovendo ativamente aplicativos capazes de criar imagens sexualizadas de pessoas, conhecidos como 'nudify', em suas lojas de aplicativos, contrariando suas próprias políticas contra conteúdo sexual. A Tech Transparency Project (TTP) identificou 18 apps desse tipo na App Store da Apple e 20 no Google Play, com alguns sendo classificados para "Todos os públicos", permitindo download por crianças. Esses aplicativos acumularam cerca de US$ 122 milhões em receita e 483 milhões de downloads.
Disponibilidade e Promoção de Apps de 'Nudify'
Uma investigação recente revelou que aplicativos de 'nudify', que podem tornar pessoas reais nuas ou inseri-las em vídeos pornográficos, continuam disponíveis e estão sendo ativamente promovidos na iOS App Store e na Google Play. A TTP alega que as plataformas são 'participantes-chave na disseminação de ferramentas de IA que podem transformar pessoas reais em imagens sexualizadas', com a Apple e o Google chegando a exibir anúncios para tais aplicativos nos resultados de busca. Muitos desses aplicativos foram classificados como 'E' para "Todos os públicos". A TTP identificou um total de 38 aplicativos relacionados a essa prática nas duas lojas.
Receita e Volume de Downloads
Os aplicativos em questão geraram aproximadamente US$ 122 milhões em receita e foram baixados 483 milhões de vezes. A diretora da TTP, Katie Paul, criticou a falha das empresas em revisar adequadamente esses aplicativos, além de lucrar com eles e ainda direcionar usuários para seu download. O aplicativo Video Face Swap AI: DeepFace, por exemplo, que permite a substituição de rostos de pessoas reais pelos corpos de mulheres parcialmente nuas, foi anunciado com imagens explícitas e classificado para "Todos os públicos".
Políticas e Ações das Empresas
Ambas Apple e Google possuem políticas que proíbem material sexual ou pornográfico, sendo que o Google tem uma política específica contra aplicativos de 'nudify'. Em resposta ao relatório, a Apple declarou que removeu 15 dos aplicativos identificados, enquanto o Google informou ter suspendido um número deles.