Un delito sin freno y sin ley acecha las aulas: "La IA ha disparado el ciberacoso"

Mientras los pasillos se llenan de estudiantes y profesores que encaran el nuevo curso académico, una amenaza invisible toma fuerza desde las pantallas: el ciberacoso potenciado por Inteligencia Artificial (IA). Herramientas capaces de crear imágenes falsas en segundos, suplantar identidades en redes sociales o generar mensajes personalizados han multiplicado los riesgos a los que se enfrentan niños y adolescentes.

Hace dos años, España quedó conmocionada con el 'caso Almendralejo', el primer suceso mediático en nuestro país relacionado con la creación de imágenes sexuales falsas mediante IA entre menores, en el que varios adolescentes generaron imágenes de chicas desnudas usando la aplicación ClothOff (Ropa Fuera) y luego las compartieron en diversos grupos de WhatsApp.

Fue la escritora y divulgadora Miriam Al Adib, madre de una de las afectadas, quien aprovechó su repercusión social para denunciar lo ocurrido públicamente, avisando de que haría todo lo posible por "parar esto ya". "Esto, chicas, no se va a quedar así", afirmó en aquel entonces. 

"Llevo toda la vida haciendo divulgación, no me iba a callar con este caso, claro. Quería que mis hijas vean que las mujeres no nos conformamos", cuenta ahora a El HuffPost la también ginecológoca y CEO de Clínicas MiriamGine. La presión social surtió efecto, pues los adolescentes dejaron de difundir las imágenes y el miedo cambió de bando. 

Antes de esto, ya que el ciberacoso lleva años atosigando a miles de menores, la hija de Carlos Represa sufrió bullying online hace casi veinte años a través de Tuenti. Por este motivo, él, licenciado en Derecho, se volcó con la tecnología para poder proteger a otros jóvenes. Actualmente, es el presidente de la Asociación Nacional de Protección de Menores en Internet y presidente de Good Game Project, la primera herramienta educativa y audiovisual en España desarrollada para sensibilizar y formar a los menores en temas relacionados con salud mental, bienestar emocional y seguridad digital.

Ambos progenitores sentaron precedentes al acudir a instituciones a denunciar este tipo de delitos, que pasaban desapercibidos para las autoridades, logrando grandes avances. Por ejemplo, Al Adib celebra que se le pusiera nombre: "Es delito de pornografía infantil y contra la integridad moral". Aunque las penas fueron formativas por tratarse de menores, para ella lo más importante era dejar claro que "todo delito tiene su nombre".

"El castigo puede ser un curso de formación, porque son menores, pero para mí lo importante era ponerle nombre. Porque hubo quien decía que eran cosas de niños. No, no lo son: es un delito", enfatiza. Ese reconocimiento, explica, es clave para  que las futuras víctimas puedan acudir a una comisaría y señalar un delito específico. "Ese camino ya lo hemos facilitado a las que vienen detrás", se congratula.

No obstante, Represa alerta a este medio de que todavía queda un duro trabajo legislativo por hacer, ya que el ciberacoso avanza a un ritmo imparable potenciado por la IA: "Esto ya lo ha disparado y va a seguir una curva ascendente absolutamente descomunal".

Un terreno abonado para el acoso digital

El 97,9% de los jóvenes entre 18 y 21 años afirma haber sufrido violencia sexual digital antes de cumplir los 18, según el informe Redes que atrapan, realizado por Save the Children España. Además, el 27,1% de los encuestados practicó sexting siendo menor, el 20% fue víctima de imágenes falsas creadas con IA y el 70% del material de abuso sexual infantil (CSAM) autogenerado en 2023 correspondía a niños entre 7 y 10 años. 

"El 98% de los niños han sufrido violencia sexual digital, es decir, el 98% de las aulas de España, de las aulas de todos los colegios, tienen problemas de violencia sexual digital. Sin embargo, tú vas a los colegios, y te puedo garantizar que el 90% te dicen que en sus clases no hay casos. Esa es la paradoja", denuncia el experto en seguridad digital.

Estas cifras, que no pueden dejar a nadie indiferente, se producen por la existencia de aplicaciones y páginas webs con acceso libre y gratuito que facilitan la creación de imágenes y mensajes falsos o permiten a los menores acceder a contenido inapropiado para su edad, que puede hacerles víctimas de acoso online o llevarles a hipersexualizar a otras personas hasta el punto de convertirse en los acosadores.

Muchas de ellas fueron diseñadas para adultos que buscan amistad o pareja de forma virtual, pero acaban siendo usadas por menores. "Con tan solo introducir una fecha de nacimiento falsa, los menores se ven expuestos a contenidos sexuales explícitos y juegos de rol sexuales", explica el equipo de Good Game Project.

"Esto sucede porque estas apps, desarrolladas para servir a un fin comercial en un entorno adulto, no implementan filtros suficientes de seguridad, especialmente en lo que respecta a la edad, ni tienen en cuenta la protección de datos", añaden los expertos, que enumeran algunas de ellas de las que preferimos no darles difusión. 

Una de ellas estuvo en el foco de la polémica porque un menor de 14 años se suicidó en EEUU tras enamorarse de un personaje creado con la aplicación. En otra, en tres minutos de conversación, Represa recibió proposiciones sexuales, incluso después de afirmar tener 14 años. Una tercera es conocida como "el TikTok de los pederastas" y hay gente que en su perfil pone "busco niñas de 9 a 13 años, culonas y que perreen bien". Y la última, usada en el 'caso Almendralejo', tiene un eslogan que deja poco espacio a la imaginación: "Desnuda a chicas gratis".

Incluso las aplicaciones que pueden parecer de confianza por su popularidad entrañan riesgos, como Instagram, que permite la creación de un perfil IA. "Que un menor se encuentre con un agente de IA en su perfil, con el que va a poder hablar puede tener consecuencias terribles", alerta el experto.

Una ley que llega tarde 

Esta semana salía a luz también el suicidio de un menor vinculado supuestamente a una conversación con ChatGPT. Sus padres denuncian que la IA "ayudó activamente" a su hijo a tomar la decisión. En respuesta, OpenAI, empresa responsable de ChatGPT, implementará controles parentales para "reducir al máximo la probabilidad" de que se repitan tragedias similares, reforzando sus sistemas de seguridad y prevención.

Este último caso lleva a plantearse una cuestión clave y obvia: ¿qué ocurre para que plataformas y aplicaciones como las mencionadas no tengan un mayor control o sean directamente cerradas? Carlos Represa critica que uno de los motivos principales es que "no hay ninguna intención política". 

En primer lugar, el experto señala que Europa debería "dar un puñetazo en la mesa" y tomar medidas para erradicar este problema. Desde la verificación con DNI a la obligación de comerciar solo con teléfonos móviles o dispositivos que incorporen en sus sistemas controles parentales, pasando por sentarse con las grandes compañías o imponerles ciertas condiciones.

"¿Tiene Europa medios para que eso se cumpla? Por supuesto que los tiene. Y tiene el mejor que hay en el mundo, que es meter unas sanciones económicas absolutamente brutales", apostilla. El inconveniente es, continúa, que "hay tantos intereses económicos creados en torno a este negocio que al final el tema de los menores es un tema casi residual dentro de las cifras macroeconómicas de la economía digital".

En el caso de España, el abogado recuerda que se está preparando una modificación legislativa, pero lamenta que es un proceso que puede llevar años debido a la obstaculización de partidos como Vox y a motivos económicos. Mientras se mantiene una ley "obsoleta" que no recoge este tipo de delitos de forma explícita.

"Con la ley actual, estos delitos se persiguen a través de los tipos generales. Por ejemplo, un deepfake sexual se persigue como delito de revelación de secretos del artículo 197 del Código Penal o bien como un delito contra la integridad moral. Pero ahí no se menciona la IA, ni el juez tiene mecanismos de aplicación. No hay jurisprudencia". 

En cambio, la nueva ley pretende crear un nuevo tipo penal y un nuevo delito que es la creación y discusión de deepfakes, entre otras acciones, como se puede observar en la tabla que hay a continuación. Sin embargo, el experto teme que, como mínimo, quedan dos años hasta que se ponga en marcha: "Desde que la ley se publique, entre en vigor y los jueces lo empiezan a aplicar... Estamos hablando, como mínimo, del 2027".

Educación sexual y digital: la mejor vacuna preventiva

Otro de los principales errores que destaca el experto, es la falta de formación digital de padres y profesores: "Ahora mismo no hay una brecha digital, sino un abismo". 

En este sentido, recomienda la formación de los profesores en Inteligencia Artificial y protocolos para poder actuar en casos de ciberacoso: "Tienen que intervenir, aunque se realice fuera de las clases, porque hay una modificación normativa y porque, como son autoridades públicas, pueden imprimir en presencia de otro compañero esa prueba digital y convertirla en una prueba que tiene validez en derecho".

No obstante, también anima a los padres a hacer lo mismo para poder proteger mejor a sus hijos, afirmando que no hay excusas: "Tengo 61 años. Cuando mi hija sufrió acoso yo tenía 43 años. Ya tenía mi edad y no sabía nada de tecnología, pero ahora estoy todo el día aprendiendo de Inteligencia Artificial. Así que claro que se puede, y se debe, ahora más que nunca. Da igual que tengas 43, 45 o 50 años, y también si tienes hijos o no".

Al Abid se suma a esta idea: "Nuestra generación no ha recibido educación sexual, y mucho menos digital. Tenemos que empezar por educarnos nosotros mismos para poder educar a nuestros hijos".

Una vez educados los adultos, es importante formar también a los menores para prevenir: "Una buena educación sexual y una buena educación digital previenen tanto que los delincuentes lo hagan, como que las víctimas sepan identificarlo y pedir ayuda".

El objetivo, sostiene, es lograr una condena social tan fuerte que desactive estos delitos: "Igual que nadie se atreve a pegar a su mujer a plena luz del día. Tenemos que conseguir que nadie se atreva a pasar imágenes íntimas falsas o reales en un grupo de WhatsApp".

Para ella, además, el foco no debe estar solo en quien crea la imagen, sino en la mayoría silenciosa que la difunde o se ríe de la situación: "Los silenciosos, los risitas y los palmeros son los que amplifican realmente el delito. Porque si al primero que manda esto el resto dice que va y se salen del grupo, aquí no hay delito. La víctima sufre precisamente por esa humillación pública".

Cómo evitar un impacto emocional grave

Represa recuerda que "muchos niños lo han pasado muy mal, se han suicidado o han tenido depresiones" a causa del ciberacoso. Algo que, afortunadamente, no ocurrió con las menores del 'caso Almendralejo' gracias, según Al Adib, a que se actuó de forma correcta.

Así, la ginecóloga, madre de cuatro chicas, resume en varios pasos lo que considera fundamental para cualquier familia que se enfrente a una situación de ciberacoso:

"Los niños y niñas tienen que sentir que están protegidos. No necesitas un séquito mediático, pero sí una red real de apoyo: padres, profesorado, amistades. Que sientan esa seguridad", concluye.