Un documento interno destapa que TikTok dejó a 15 millones de usuarios fuera de su algoritmo más seguro "por diseño" para medir cuánto enganchaba

Chase Nasca fue un muchacho de 16 años que murió en febrero de 2022: fue arrollado por un tren en Long Island, en Nueva York. El caso hiela la sangre: la familia no se pudo explicar qué había llevado al joven Nasca a acabar así con su vida. "No había mostrado signos externos de depresión, insomnio o angustia; lo único que supimos fue el SMS que le envió a un amigo la noche de su muerte", escribía su entorno.

Entorno que decidió denunciar a TikTok. "Cuando revisamos el iPad de Chase, descubrimos que TikTok había enviado miles de vídeos a su sección "Para ti" que promovían la depresión, la desesperación y el suicidio con música oscura y deprimente. Estos vídeos preguntaban "cuándo se irá el dolor", sugerían que "no hay razón para seguir adelante" y animaba a los usuarios a "suicidarse y aliviar el dolor".

"No había indicios de que nuestro hijo buscara activamente videos suicidas en TikTok; sus búsquedas se centraban en deportes y cómics. (...) Descubrimos que Chase fue víctima de la estrategia comercial deliberada de TikTok para maximizar la interacción de los usuarios (y, por tanto, sus ingresos publicitarios) enviándole videos que eran psicológicamente perturbadores y no podía dejar de ver", explicaba su familia.

Chase Nasca fue víctima de un fenómeno conocido como filtro burbuja: los algoritmos que recomiendan contenido en redes sociales seleccionan qué ofrecerte en función de tu comportamiento previo. Nasca, además de vídeos de deportes o cómics, escuchó alguna canción deprimente. TikTok empezó a enviarle vídeos sobre suicidios de forma constante, y su cuenta quedó atrapada en esa cámara de eco.

Es uno de los ejemplos por los que muchos consideran que las redes sociales son dañinas desde su concepción y diseño inicial: en España ya se están tomando medidas legislativas para tratar de prohibir el acceso de los menores de 16 años a las redes sociales, siguiendo el ejemplo de países como Francia.

La red social aseguró a finales de 2021 que estaba trabajando en reformar su algoritmo y actualizarlo para garantizar la seguridad de la sección "Para ti". "Sabemos que el exceso de cualquier contenido, ya sean animales, consejos de fitness o experiencias de bienestar personal, no encaja con la diversidad de la experiencia de descubrimiento que buscamos crear", planteó la compañía, que pasaría a intercalar contenido distinto en la plataforma.

Ahora hay una vuelta de tuerca perversa.

Bloomberg ha accedido al sumario secreto de la causa judicial que dirime la responsabilidad de TikTok sobre la muerte de Chase. En ella, hay un documento interno de la plataforma que atestigua que la cuenta del adolescente no recibió el algoritmo actualizado. La empresa quiso crear un focus group para medir si el nuevo sistema perjudicaría la retención de sus usuarios y su viabilidad comercial.

Lo último que vio Chase Nasca

Ese focus group fue del 10% de los usuarios de TikTok en EEUU (entonces, unos 15 millones de personas), según publica Bloomberg. "Este grupo, según el documento, incluía a Chase Nasca, de 16 años". El documento fue redactado un año después de la muerte del adolescente. Se escribió a instancias de que el medio de comunicación, Bloomberg, se interesase sobre el caso y enviara varias preguntas a TikTok.

El documento tiene el membrete de confidencial y permanece secreto en el sumario judicial. Es un "análisis exhaustivo de la cuenta de Chase, elaborado por miembros de los equipos de seguridad y algoritmos de TikTok" que proporciona "información extraordinariamente detallada sobre su historial de uso en las semanas, días y horas previas a su fallecimiento".

Este informe, de catorce páginas, llega a una conclusión. "La cuenta de Chase Nasca quedó atrapada en un filtro burbuja donde se le recomendaba repetidamente contenido relacionado con el suicidio, las autolesiones y temas depresivos". "Buscaba temas sobre deportes o comedia, pero también canciones de artistas populares que lidiarían con la depresión y eso le activó el algoritmo".

Hay en el texto incluso advertencias de "contenido perturbador": recoge los últimos vídeos que Nasca vio horas antes de morir. Vio un par de veces el vídeo de un adolescente que dejó un mensaje de despedida en redes sociales diciendo que el mundo le iba a olvidar. Y el último vídeo que el chaval de 16 años de Nueva York vio en su cuenta fue el de una persona llorando.

A raíz de esa auditoría interna, los equipos de seguridad de TikTok sugerían a la compañía reducir esos focus group del 10% de la base de usuarios a menos del 1%, aunque dicha medida habría seguido dejando en riesgo a casi dos millones de usuarios estadounidenses. Un portavoz de TikTok, a Bloomberg, ha señalado que la plataforma sigue "profundamente comprometida con la seguridad de la plataforma".

Mientras tanto, la familia de Chase Nasca continúa pleiteando en los tribunales contra la multinacional. Informan detalladamente del caso en una página web que han creado ellos mismos y que recibe como nombre "TikTok es terrorismo".