Apple e Google Sinalizam Remoção de Apps que Criam Deepfakes Sexuais com IA
Um relatório do Tech Transparency Project revelou que lojas de aplicativos da Apple e Google oferecem ferramentas que utilizam inteligência artificial para gerar imagens de pessoas nuas ou em situações eróticas a partir de fotos reais, inclusive de menores de idade. Essas aplicações, que podem ser usadas para crimes como extorsão, foram baixadas mais de 483 milhões de vezes e geraram US$ 122 milhões em receita. Ambas as empresas indicaram que estão removendo os aplicativos por violarem suas políticas.
Natureza dos Aplicativos e Riscos Associados
Os aplicativos em questão utilizam inteligência artificial para criar deepfakes, alterando fotos de pessoas reais para gerar imagens sexualizadas ou sem roupas. Além da manipulação de vestuário, algumas ferramentas permitem a criação de chatbots com a aparência das pessoas retratadas para interações textuais. O Tech Transparency Project identificou mais de 40 resultados em pesquisas por termos como "nudificar", "tirar a roupa" e "deepfake" nas lojas digitais, com alguns aplicativos sendo impulsionados por anúncios e sugestões de autocompletar. Tais aplicativos foram baixados mais de 483 milhões de vezes, gerando uma receita estimada de US$ 122 milhões, em grande parte através de publicidade. A IA Grok, de Elon Musk, foi citada como ferramenta para troca de roupas em fotos na rede social X, com alguns aplicativos afirmando fornecer serviços através da x.AI. Um ponto preocupante é que 31 dos aplicativos investigados possuíam classificação indicativa livre.
Resposta das Plataformas e Relatórios Posteriores
A Apple e o Google sinalizaram que os aplicativos identificados como violadores de suas políticas estão sendo removidos de suas plataformas. O relatório destaca a facilidade com que usuários podem encontrar e utilizar essas ferramentas, levantando preocupações sobre a segurança e a privacidade de dados em um cenário onde a IA é cada vez mais acessível.