"Colegialas inocentes" o "15 años prohibidas": las peligrosas búsquedas que recomienda el algoritmo de TikTok
La compañía, quien reconoció en su día contenido pedófilo en su plataforma, recomienda estos días búsquedas con asuntos similares, aumentando el riesgo al que se exponen sus usuarios, en su mayoría jóvenes.
En diciembre de 2022, la revista Forbes destapaba una de las mayores sombras que ensombrecen TikTok. Tras revisar cientos de retransmisiones en directo, la periodista Alexandra S. Levine revelaba "cómo los espectadores usan regularmente los comentarios para instar a mujeres jóvenes a realizar actos que parecen estar en línea con la pornografía infantil". Forbes aseguraba que TikTok se había convertido "en un club de striptease lleno de chicas de 15 años".
Tiempo después, y tras una investigación interna realizada por TikTok y a la que tuvo acceso la radio pública estadounidense NPR, la propia plataforma reconocía haber descubierto "una cantidad significativa de adultos enviando mensajes directos a TikTokkers menores de edad para desnudarse en directo". TikTok identificó elevadas tasas de "filtración" (contenido que se escapa a su moderación) con relación a la "Normalización de la pedofilia", "incitación sexual a menores", "abuso físico a menores", "sacar a menores de la plataforma", "glorificación de la agresión sexual a menores" y "fetichización de menores". Pese a todo, nada ha cambiado. Estos últimos días, TikTok recomendaba búsquedas como "colegialas inocentes", "jovencitas inocentes salidas" o "15 años prohibidas", según ha podido comprobar El HuffPost.
Estas búsquedas salen como recomendaciones de la propia plataforma, es decir, cuando todavía no se han realizado búsquedas en TikTok o cuando se desactiva la opción de "búsqueda personalizada", el método por defecto que utiliza la red social para recomendar contenido en base a los últimos movimientos. Si se actualiza esta sección, llamada en España "Podría interesarte", la plataforma ofrece exploraciones como "jovencitas españolas salidas", "no limits girls", "chicas guapas en mayas" o "gitana marcando conejito".
Todo esto sucede en el ya principal motor de búsqueda utilizado por las personas jóvenes. Aunque a nivel global Google sigue siendo lo más usada para indagar en internet, TikTok está en primer lugar entre la llamada Generación Z, es decir, las nacidas a finales de los años 90 y hasta 2010. Esto es lo que busca, además, la compañía. En un documento interno, reconocían que, "en la mayoría de métricas de interacción, como era de esperar, cuanto más joven es el usuario, mejor es el rendimiento". El gran problema reside en el poco control que hay tras esa interacción.
El pasado mes de octubre, la fiscal general de New York, Letitia James, y el fiscal general de California, Rob Bonta, lideraron una coalición de catorce fiscales generales que presentaron demandas contra TikTok "por engañar al público sobre la seguridad de su plataforma y dañar la salud mental de los jóvenes". Según informaron entonces desde la Fiscalía de James, "las demandas, presentadas individualmente por cada miembro de la coalición, alegan que TikTok violó las leyes estatales al afirmar falsamente que su plataforma es segura para los jóvenes". "De hecho — proseguían — muchos usuarios jóvenes están luchando con problemas de salud mental y de imagen corporal debido a las características adictivas de la plataforma y están sufriendo lesiones, hospitalizaciones o muriendo debido a los peligrosos ‘desafíos’ de TikTok que se crean y promueven en la plataforma".
La investigación de los fiscales reveló, además, que TikTok "fomenta la adicción a las redes sociales para aumentar las ganancias corporativas". "TikTok se dirige intencionalmente a los niños porque sabe que los niños aún no tienen las defensas ni la capacidad para crear límites saludables en torno al contenido adictivo", dijo el fiscal general de California, quien defendió que la plataforma "debe rendir cuentas por los daños que creó al robarles el tiempo y la infancia a los niños estadounidenses".
Este mismo mes, algo parecido se ha iniciado en el Reino Unido. A principios de marzo, el organismo de control de protección de datos del país anunció que investigaría a TikTok, además de a Reddit e Imgur, para comprobar si utiliza información personal de personas jóvenes de entre 13 y 17 años "para hacerles recomendaciones y enviarles contenido sugerido" y si les llega "contenido inapropiado o dañino".
Según los documentos a los que tuvo acceso NPR, TikTok es conocedor de que su plataforma supone un peligro para niños y adolescentes. Además de atestiguar que "sus numerosas funciones diseñadas para mantener a los jóvenes en la aplicación generaban una necesidad constante e irresistible de seguir abriendo la aplicación", sabían que estos métodos conllevan "una serie de efectos negativos para la salud mental, como la pérdida de habilidades analíticas, formación de memoria, pensamiento contextual, profundidad conversacional, empatía y aumento de la ansiedad".
Otro gran inconveniente es que, una vez se entra en alguno de estos contenidos recomendados, es muy difícil salir de ellos o que la plataforma te lleve a un espacio más sano. Es lo que se llama burbujas de filtro, una suerte de habitación en la que te introduce un algoritmo y de la que no puedes salir. En 2020, un empleado de TikTok explicó internamente cómo en apenas 20 minutos había caído en un filtro negativo dentro de la plataforma. "“Después de seguir varias cuentas de ‘painhub’ y ‘sadnotes’ [donde se habla del dolor por diferentes causas], la intensa densidad de contenido negativo me hace bajar el ánimo y aumenta mi sentimiento de tristeza, aunque estoy de muy buen humor en mi vida reciente", relató.
A esa conclusión llegó también Amnistía Internacional en una investigación técnica desarrollada de manera conjunta con Algorithmic Transparency Institute (ATI), National Conference on Citizenship y AI Forensics. Según sus indagaciones, "el sistema de recomendación de contenidos de TikTok y sus prácticas invasivas de recolección de datos suponen un peligro para las personas jóvenes que utilizan la plataforma, puesto que amplifica contenidos depresivos y suicidas que podrán empeorar problemas de salud mental preexistentes". Los niños y adolescentes que, por ejemplo, buscan contenido relacionado con la salud mental, "se ven rápidamente abocados a una espiral de contenidos potencialmente nocivos, incluidos vídeos que idealizan y fomentan el pensamiento depresivo, las autolesiones y el suicidio".
Por si todo esto fuera poco, según una investigación del Institute for Strategic Dialogue (ISD) a la que tuvo acceso en exclusiva el medio especializado Wired, "el algoritmo de TikTok fomenta el contenido neonazi", algo que lo convierte en "un objetivo de explotación por parte de grupos extremistas a medida que crece su popularidad". Otro estudio, esta vez de la Global Network on Extremism & Technology, reveló cómo hay una ideología "fascista" que "escapa a una moderación satisfactoria de contenido" en TikTok, como por ejemplo cuentas que ensalzan al fundador de Falange Española, José Antonio Primo de Rivera.
Esta misma semana, y después de consultar a más de 60.000 padres y profesores y tras la muerte de un joven de 14 años, Albania ha decidido prohibir TikTok, al menos temporalmente. El presidente del país, Edi Rama, ha anunciado que están en conversaciones "positivas" con la compañía, que viajará en breve a Albania para "presentar una serie de medidas para aumentar la seguridad de los niños".
Medidas en España
Desde el Ministerio de Infancia y Juventud, consultados sobre las últimas búsquedas que ofrece el algoritmo de TikTok, reiteran que "en los espacios digitales impera la ley de la selva, impidiendo el pleno desarrollo de los derechos de la infancia y la juventud" y "el desarrollo libre y sano de sus vidas". Es "primordial", defienden, "regular este entorno". Para ello, inciden, han impulsado "un Anteproyecto de Ley de Entornos Digitales Seguros para Personas Menores de Edad", que llegará al Consejo de Ministros en las próximas semanas para iniciar después su trámite parlamentario. La norma incluirá, entre otras cosas, una regulación de la evaluación de impacto y etiquetado para alertar del uso prolongado de los dispositivos y su impacto en la salud.
En paralelo, comentan, el Ministerio desarrolla también una Estrategia Nacional "que garantice los derechos de niñas, niños y adolescentes y les permita disfrutar de los beneficios de la tecnología, garantizándoles una navegación segura en la red, priorizando la defensa de sus derechos y ofreciéndoles la posibilidad de participar en la toma de decisiones".
