TikTok fue puesta en marcha en septiembre de 2016 por ByteDance, una empresa china. La aplicación ganó popularidad rápidamente, sobre todo entre los jóvenes, por su capacidad para crear y compartir vídeos musicales cortos, retos virales y contenidos humorísticos. Con más de mil millones de usuarios activos mensuales, TikTok se ha convertido en una de las plataformas de redes sociales más influyentes del mundo.
El público principal de TikTok son los adolescentes y los adultos jóvenes, que son especialmente vulnerables a los efectos negativos de las redes sociales. La presión por crear contenidos virales y la obsesión por los «me gusta» y los seguidores pueden amplificar estos problemas, pero uno de los peligros más preocupantes se deriva del propio algoritmo de las redes sociales, diseñado para aprender del comportamiento de los usuarios y maximizar el compromiso y la permanencia en la plataforma.
Un experimento del 2022 Center for Countering Digital Hate con cuentas que imitaban el comportamiento de adolescentes de 13 años descubrió que el algoritmo de TikTok recomendaba rápidamente vídeos sobre suicidio y trastornos alimentarios: el feed «Para ti» de la aplicación sugería contenidos nocivos sobre suicidio en una media de 2,6 minutos y sobre trastornos alimentarios a los ocho minutos.
Además, las cuentas de TikTok con «loseweight» en el nickname, denominadas «Vulnerable Teen Accounts», recibieron mucha más exposición: tres veces más vídeos dañinos y doce veces más vídeos frecuentes que las cuentas estándar.
Amnistía Internacional realizó un estudio similar, con la colaboración del Algorithmic Transparency Institute y AI Forensics. Salvatore Romano, investigador de AI Forensics, afirmó que «los vídeos sugeridos también eran muy cargantes para los investigadores. Este tipo de material, especialmente si se muestra sucesivamente en un bucle sin fin puede tener efectos muy peligrosos».
«Los resultados demuestran que las prácticas de diseño de TikTok son manipuladoras y adictivas», afirmó Lisa Dittmer, investigadora de Amnistía Internacional. El sistema de recomendación de contenidos -al que se atribuye su auge mundial- expone a niños y jóvenes con problemas de salud mental a graves riesgos».
Cuando se le pidieron explicaciones, TikTok reiteró su compromiso de proteger a su comunidad. En una carta dirigida a Amnistía declaró: «Hemos desarrollado y aplicado sistemas que restringen el contenido sobre temas que pueden ser aceptables cuando se ven ocasionalmente, pero potencialmente problemáticos cuando se presentan de forma continuada. Seguimos trabajando para ampliar y aplicar estos sistemas, incluida la incorporación de otros temas de salud mental».
La historia de Marie y la primera queja a Tik Tok
La jovencísima Marie se suicidó en septiembre de 2021, a los 15 años. Sufría acoso escolar por su peso y lo había denunciado unos días antes con un vídeo en TikTok. Ese post, según la denuncia, desencadenó una avalancha de vídeos negativos en su muro. Dos años después, los padres de Marie denunciaron a TikTok por «incitación al suicidio» y «omisión de socorro a una persona en peligro».
El fenómeno del desafío viral
Otro de los aspectos más preocupantes de TikTok es el fenómeno de los retos virales. Muchas veces peligrosos, se popularizan rápidamente, incitando a los usuarios a participar para ganar visibilidad. Algunos de ellos han provocado graves incidentes y, en algunos casos, el suicidio. Como en el «Desafío de la ballena azul», que se originó en otras plataformas pero encontró terreno abonado en TikTok al proponer una serie de tareas autodestructivas que culminaban en suicidio.
Evitar la moderación
La plataforma ha tomado varias medidas para proteger a los menores. No obstante, se hace de forma automática. «Las plataformas eligen este tipo de moderación, frente a la realizada íntegramente por humanos, por razones de coste pero también de rapidez. Un algoritmo, por muy perfeccionado que esté, siempre cometerá errores. También porque los primeros en intentar burlarlo son los usuarios, que conocen las reglas».
La Guerra Mundial a TikTok
El pasado mes de marzo, la Cámara de Representantes y el Senado de Estados Unidos aprobaron en tiempo récord un proyecto de ley que allana el camino para prohibir TikTok en el país. La ley obliga a la empresa china a vender TikTok a una empresa estadounidense en un plazo de seis meses, o de lo contrario será prohibida.
La respuesta de China no se ha hecho esperar, calificando el asunto como «un acto de intimidación que se volverá en contra de los propios Estados Unidos».
Todo esto, en plena campaña electoral, sirvió de ayuda al expresidente Donald Trump, que anteriormente se había declarado en contra de TikTok pero que rápidamente cambió de opinión: «Prohibiendo TikTok, Facebook y otros, pero especialmente Facebook, se beneficiarán».
En realidad, hay algo más: el objetivo de Trump es no enemistarse con una porción crucial del electorado juvenil y, especialmente, con Jeff Yass, un multimillonario financiero republicano vinculado al entorno de Trump, que posee el 15% de ByteDance.
En Italia también se anunciaron medidas. El ministro de Administraciones Públicas, Zangrillo, pidió a los funcionarios que borraran la aplicación antes del 15 de marzo.
En 2020, el Gobierno indio decidió, pocos días después de la matanza de 20 soldados en una frontera del Himalaya, prohibirla por motivos de seguridad; también Taiwán, a instancias del FBI, prohibió su uso; en EE.UU. se dio un ultimátum a los empleados de organismos públicos para que desinstalaran TikTok y lo mismo hizo Canadá; el Parlamento, la Comisión y el Consejo de la UE han impuesto prohibiciones a TikTok en los dispositivos de sus empleados; las autoridades paquistaníes han prohibido temporalmente TikTok al menos por la difusión de contenidos inmorales; en Afganistán se ha prohibido porque contribuye a la perdición de la generación más joven.
El papel de padres y educadores
Padres y educadores desempeñan un papel crucial a la hora de mitigar los riesgos asociados a TikTok. Es crucial que sean conscientes de los contenidos que ven sus hijos y establezcan un diálogo abierto sobre la seguridad en línea. Promover la concienciación digital es esencial para ayudar a los jóvenes a navegar por las redes sociales de forma segura, reconocer los riesgos asociados a los contenidos, las señales de alarma y las herramientas para obtener ayuda. Las escuelas pueden desempeñar un papel crucial integrando la concienciación digital en el plan de estudios y proporcionando apoyo a los estudiantes.
TikTok, con su inmensa popularidad e influencia, tiene el potencial de ser una fuerza positiva entre los jóvenes. Sin embargo, no se pueden ignorar los riesgos asociados a los contenidos peligrosos. Solo mediante esfuerzos colectivos puede crearse un entorno en línea seguro y solidario, que reduzca los riesgos de autolesión y suicidio entre los jóvenes.
