TikTok manteve 15 milhões de usuários fora de atualização de segurança em 2021 e adolescente recebeu 7.563 vídeos sobre suicídio antes de morrer
Documento interno obtido pela Bloomberg revela que o TikTok excluiu 15 milhões de usuários de uma atualização de segurança do algoritmo em 2021 para medir impacto no engajamento. Entre eles, o adolescente Chase Nasca, de 16 anos, que recebeu 7.563 vídeos sobre depressão e suicídio nas duas semanas anteriores à sua morte em fevereiro de 2022. Desse total, 73% abordavam temas sensíveis sem violar regras, enquanto 10% infringiam diretamente as diretrizes da plataforma.
Detalhes do documento interno
O TikTok implementou uma atualização em 2021 para reduzir a exposição repetitiva a conteúdos prejudiciais no algoritmo de recomendação. No entanto, a empresa manteve um grupo de controle com 10% dos usuários americanos — cerca de 15 milhões de pessoas — sem a proteção da nova versão. Chase Nasca, de 16 anos, estava nesse grupo e recebeu 7.563 vídeos nas duas semanas anteriores à sua morte, dos quais 73% tratavam de depressão, solidão e luto amoroso, sem violar as regras da plataforma. Outros 10% dos vídeos infringiam diretamente as diretrizes contra conteúdo que promove suicídio e automutilação.
Repercussão e responsabilidade das plataformas
O caso reacendeu o debate sobre a responsabilidade das redes sociais na moderação de conteúdo direcionado a adolescentes. Nos Estados Unidos, o episódio já motivou processos judiciais, enquanto na França, uma investigação criminal foi aberta. A revelação ocorre em um contexto de crescente pressão regulatória sobre plataformas digitais para proteger usuários vulneráveis, especialmente menores de idade.