TikTok realizó en 2022 una prueba A/B que excluyó a aproximadamente 15 millones de usuarios estadounidenses de nuevas medidas de seguridad algorítmica diseñadas para reducir los bucles de contenido dañino. Uno de esos usuarios era Chase Nasca, un adolescente de 16 años que finalmente se suicidó tras recibir de forma masiva vídeos sobre depresión, soledad y autolesiones, según revela Bloomberg en base a documentos confidenciales filtrados en el marco de una demanda judicial.
El experimento y su grupo de control
A principios de 2022, la plataforma china mejoró su algoritmo para detectar patrones repetitivos de contenido perjudicial y diversificar el feed. Sin embargo, la compañía decidió mantener activa la versión antigua del algoritmo —sin estas salvaguardas— para el 10% de sus usuarios en Estados Unidos con el fin de medir el impacto real del cambio. La cuenta de Chase Nasca fue seleccionada aleatoriamente para formar parte de ese grupo de control.
El resultado fue devastador: en las dos semanas previas a su muerte, TikTok recomendó a Chase un total de 7.563 vídeos. Al menos el 73% trataba sobre sufrimiento emocional, soledad o depresión. Casi el 10% de esos contenidos incumplía directamente las normas de la propia plataforma sobre autolesiones y suicidio. En las horas inmediatamente anteriores a su fallecimiento, el joven marcó como favoritos varios vídeos sobre suicidio.
Un documento interno revela la intencionalidad
El documento filtrado, elaborado por TikTok tras recibir consultas de Bloomberg en marzo de 2023, incluye una afirmación clave: «Las estrategias de TikTok para prevenir las burbujas de filtros no tuvieron efecto en este usuario por diseño». Esa expresión —«por diseño»— ha encendido las alarmas entre expertos y litigantes que acusan a las grandes plataformas de haber diseñado sus productos deliberadamente para generar adicción en menores, un debate que cobra especial relevancia cuando estudios recientes revelan la sobrecarga mental creciente entre la población.
El análisis interno concluye que Chase buscaba inicialmente contenido sobre deportes y comedia, pero también canciones relacionadas con la soledad. Esas búsquedas, según el propio documento, activaron el algoritmo y provocaron que su cuenta quedara «atrapada en una burbuja de filtros donde se le recomendaba repetidamente contenido relacionado con el suicidio, la autolesión y temas depresivos».
Respuestas contradictorias de la compañía
En marzo de 2023, el CEO de TikTok compareció ante el Congreso de Estados Unidos. Entre las preguntas por escrito, se le cuestionó si la empresa conocía casos de suicidio vinculados a contenido nocivo en la plataforma. La respuesta oficial fue tajante: «TikTok no cree que el uso de la plataforma haya provocado que los usuarios se suiciden». Para entonces, la compañía ya disponía del informe detallado sobre el caso de Chase Nasca.
Consultada ahora por esta información, la plataforma ha enviado un comunicado reiterando que «la seguridad y el bienestar de nuestros usuarios, especialmente de los adolescentes, sigue siendo nuestra prioridad», y afirma que continúa reforzando «inversiones en seguridad a través de sistemas de detección robustos y equipos especializados». No obstante, el documento interno contradice esa narrativa pública al admitir que las salvaguardas fueron desactivadas de forma intencional para un segmento concreto de usuarios.
Presión regulatoria y judicial creciente
TikTok ya ha sido juzgada en Estados Unidos por prácticas relacionadas con la protección de menores y está bajo la lupa de la Unión Europea por posible diseño adictivo. Este caso suma evidencia documental a las demandas que acusan a las redes sociales de priorizar la retención de usuarios —y, por tanto, los ingresos publicitarios— por encima de la salud mental de sus audiencias más vulnerables.
La revelación de que millones de cuentas fueron deliberadamente excluidas de mejoras de seguridad plantea interrogantes éticos sobre los límites de la experimentación comercial cuando está en juego el bienestar de adolescentes. Según los documentos, TikTok conocía los riesgos, disponía de herramientas para mitigarlos y, aun así, optó por mantener a una parte significativa de su base de usuarios expuesta al algoritmo sin filtros.
Fuente: Xataka · Documento oficial: enlace · Esta información ha sido elaborada por la redacción de Radioalcuadrado con apoyo de herramientas editoriales automatizadas.