O TikTok foi lançado em setembro de 2016 pela ByteDance, uma empresa chinesa. A aplicação rapidamente ganhou popularidade, especialmente entre os jovens, devido à sua capacidade de criar e partilhar pequenos vídeos de música, desafios virais e conteúdos humorísticos. Com mais de mil milhões de utilizadores mensais ativos, o TikTok tornou-se numa das plataformas de redes sociais mais influentes do mundo.
O principal público do TikTok são os adolescentes e os jovens adultos, que são particularmente vulneráveis aos efeitos negativos das redes sociais. A pressão para criar conteúdos virais e a obsessão por gostos e seguidores podem amplificar estes problemas, mas um dos perigos mais preocupantes advém do próprio algoritmo das redes sociais, concebido para aprender com o comportamento dos utilizadores e maximizar o envolvimento e a retenção na plataforma.
Uma experiência realizada em 2022 pelo Center for Countering Digital Hate, através da criação de contas que imitavam o comportamento de jovens de 13 anos, revelou que o algoritmo do TikTok recomendava rapidamente vídeos sobre suicídio e distúrbios alimentares: o feed “For You” da aplicação sugeria conteúdos nocivos sobre suicídio numa média de 2,6 minutos e sobre distúrbios alimentares em 8 minutos.
Além disso, as contas de TikTok com “loseweight” no nickname, referidas como “Vulnerable Teen Accounts“, receberam muito mais exposição: os vídeos eram três vezes mais nocivos e doze vezes mais frequentes do que as contas normais.
Um estudo semelhante foi realizado pela Amnistia Internacional, com a colaboração do Algorithmic Transparency Institute e da AI Forensics. Salvatore Romano, investigador da AI Forensics, afirmou que “os vídeos sugeridos eram também muito ‘pesados’ para os investigadores. Este tipo de material, especialmente se for mostrado em sucessão num loop infinito, pode ter efeitos muito perigosos”.
“Os resultados mostram como as práticas de design do TikTok são manipuladoras e viciantes”, afirmou Lisa Dittmer, investigadora da Amnistia Internacional. O sistema de recomendação de conteúdos – que se crê ser responsável pelo seu crescimento a nível mundial – expõe crianças e jovens adultos com problemas de saúde mental a sérios riscos”.
Quando lhe foi pedida uma explicação, o TikTok reiterou o seu compromisso de proteger a sua comunidade. Numa carta enviada à Amnistia, declarou: “Desenvolvemos e implementámos sistemas que restringem conteúdos relacionados com tópicos que podem ser aceitáveis quando vistos ocasionalmente, mas potencialmente problemáticos quando apresentados de forma contínua. Continuamos a trabalhar para expandir e implementar estes sistemas, incluindo a inclusão de outros temas relacionados com a saúde mental”.
A história de Marie e a primeira queixa contra Tik Tok
A muito jovem Marie suicidou-se em setembro de 2021, com 15 anos de idade. Era vítima de bullying por causa do seu peso e tinha denunciado o facto alguns dias antes com um vídeo no TikTok. Essa publicação, de acordo com a queixa, desencadeou uma avalanche de vídeos negativos no seu mural. Dois anos mais tarde, os pais de Marie apresentaram uma queixa contra o TikTok por “incitar ao suicídio” e “não prestar assistência a uma pessoa em perigo”.
O fenómeno do desafio viral
Outro dos aspetos mais preocupantes do TikTok é o fenómeno dos desafios virais. Muitas vezes perigosos, tornam-se rapidamente populares, levando os utilizadores a participar para ganhar visibilidade. Alguns deles conduziram a incidentes graves e, nalguns casos, ao suicídio. Como no “Desafio da Baleia Azul”, que teve origem noutras plataformas, mas encontrou terreno fértil no TikTok, propondo uma série de tarefas autodestrutivas que culminaram no suicídio.
Contornar a moderação
A plataforma tomou várias medidas para proteger os menores. No entanto, esta proteção é feita automaticamente. “As plataformas optam por este tipo de moderação, em vez de uma moderação inteiramente feita por humanos, por razões de custo, mas também de rapidez. Um algoritmo, por mais aperfeiçoado que seja, cometerá sempre erros. E também porque os primeiros a tentar contorná-lo são os utilizadores, que conhecem as regras”.
A guerra mundial no TikTok
No passado mês de março, a Câmara e o Senado dos EUA aprovaram em tempo recorde um projeto de lei que abre caminho à proibição do TikTok no país. A lei exige que a empresa chinesa venda o TikTok a uma empresa americana no prazo de seis meses, sob pena de ser proibida.
A resposta da China não se fez esperar, apelidando a questão de “um ato de intimidação que vai sair pela culatra aos próprios Estados Unidos”.
Tudo isto, em plena campanha eleitoral, deu uma ajuda ao antigo presidente Donald Trump, que se tinha declarado contra o TikTok, mas que rapidamente mudou de opinião: “Ao banir o TikTok, o Facebook e outros, mas especialmente o Facebook, vão beneficiar”.
Na verdade, há mais do que isso: o objetivo de Trump é não antagonizar uma fatia crucial do eleitorado jovem e, especialmente, Jeff Yass, um bilionário financeiro republicano com ligações ao círculo de Trump, que detém 15% da ByteDance.
Foram também anunciadas medidas em Itália. O Ministro da Administração Pública, Zangrillo, pediu aos funcionários públicos que eliminassem a aplicação até 15 de março.
Em 2020, o governo indiano decidiu, poucos dias depois da morte de 20 soldados numa das fronteiras dos Himalaias, proibir a aplicação por razões de segurança; também Taiwan, a pedido do FBI, proibiu a sua utilização; nos Estados Unidos, foi dado um ultimato aos funcionários de agências governamentais para desinstalarem o TikTok e o Canadá fez o mesmo; o Parlamento, a Comissão e o Conselho da UE proibiram o TikTok nos dispositivos dos seus funcionários; as autoridades paquistanesas proibiram temporariamente o TikTok, pelo menos devido à divulgação de conteúdos imorais; no Afeganistão, foi proibido porque contribui para a perdição da geração mais jovem.
O papel dos pais e dos educadores
Os pais e educadores desempenham um papel crucial na mitigação dos riscos associados ao TikTok. É fundamental que estejam cientes dos conteúdos que os seus filhos visualizam e que estabeleçam um diálogo aberto sobre segurança online. A promoção da sensibilização digital é essencial para ajudar os jovens a navegar nas redes sociais em segurança, a reconhecer os riscos associados aos conteúdos, os sinais de alerta e as ferramentas para obter ajuda. As escolas podem desempenhar um papel crucial, integrando a sensibilização digital no currículo e prestando apoio aos alunos.
O TikTok, com a sua imensa popularidade e influência, tem o potencial de ser uma força positiva entre os jovens. No entanto, os riscos associados a conteúdos perigosos não podem ser ignorados. Só através de esforços coletivos é possível criar um ambiente em linha seguro e solidário, reduzindo os riscos de automutilação e suicídio entre os jovens.
