Apple ameaçou banir Grok da App Store por deepfakes sexuais não consensuais
A Apple informou Elon Musk e a xAI que o aplicativo de inteligência artificial Grok corria o risco de remoção da App Store em janeiro de 2026. A ameaça ocorreu devido à proliferação de deepfakes sexuais não consensuais e imagens de 'despir' pessoas reais geradas pela plataforma. A empresa exigiu um plano de moderação de conteúdo mais eficaz.
Ameaça de Remoção e Exigência de Moderação
A Apple enviou uma carta aos senadores dos Estados Unidos revelando que contatou as equipes por trás do X e do Grok após reclamações e cobertura jornalística sobre o escândalo de deepfakes. A Apple exigiu que os desenvolvedores criassem um plano para melhorar a moderação de conteúdo. Durante o processo, o Grok permitia a geração e compartilhamento fácil de deepfakes sexualizados e imagens de 'despir' pessoas reais, afetando desproporcionalmente mulheres e algumas aparentes menores de idade. O Grok permaneceu disponível na App Store durante as negociações.
Avaliação e Correções
A Apple revisou as mudanças propostas para os aplicativos X e Grok. Inicialmente, a empresa considerou que o X havia 'substancialmente resolvido suas violações', mas o Grok 'permaneceu fora de conformidade'. A Apple alertou que 'mudanças adicionais para remediar a violação seriam necessárias, ou o aplicativo poderia ser removido da App Store'. Somente após mais negociações a Apple determinou que o Grok havia 'melhorado substancialmente' e aprovou sua submissão.