El Gobierno pide a la Fiscalía investigar Grok, la IA de X, por presuntos delitos de pornografía infantil

El Gobierno, a través del Ministerio de Juventud e Infancia, ha pedido a la Fiscalía que investigue si Grok, la inteligencia artificial de la red social X está cometiendo delitos relacionados con la pornografía infantil en su difusión de contenidos. 

Así lo ha confirmado la ministra Sira Rego, que ha remitido un escrito a la Fiscalía General del Estado en relación a las prácticas de la IA del antiguo Twitter, red propiedad de Elon Musk. 

Recientemente, Grok se ha situado en el foco del escándalo por su capacidad de generar imágenes falsificadas que violentan la integridad sexual de mujeres en todo el mundo, denuncias a las que se suman ahora las presentadas por acciones similares contra menores de edad. Todas ellas ven la luz en X sin consentimiento de las partes y simplemente en respuesta a peticiones de usuarios.

Según fuentes del Ministerio de Juventud de Infancia, Grok estaría publicando material de violencia sexual contra menores, "una práctica que no puede entenderse como un uso neutro de la tecnología y que podría suponer un delito de pornografía infantil", de acuerdo con el artículo 189 del Código Penal, así como un delito contra la integridad moral (artículo 173 del mismo Código Penal).

El antecedente legal, un sentencia en Badajoz

Esta difusión de imágenes a través de la inteligencia artificial supone, para el Gobierno, una práctica recurrente y sin freno que vulnera gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital.

La ministra de Juventud e Infancia se apoya, en su escrito, en una sentencia del Juzgado de Menores de Badajoz 86/2024, de 20 de junio, en la que se condenó a varias personas por la utilización de inteligencia artificial para manipular imágenes de niñas y adolescentes, como detalla EFE.

En ella, el tribunal reconoce esas prácticas como una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral. 

"Estamos ante una vulneración de derechos fundamentales", indica al respecto Rego, que considera "imprescindible" que la Fiscalía "analice estos hechos gravísimos e impulse las actuaciones necesarias para garantizar la protección de la infancia también en internet".

El proyecto (paralizado) del Congreso

Actualmente, el Congreso tramita una ley orgánica para la protección de los menores en los entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros ministerios.

Dicha ley se enfrenta al inhábil mes de enero en el Congreso y a los problemas del Ejecutivo para sacar adelante sus propuestas en el Parlamento. En su articulado refuerza el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración vinculadas al uso de tecnologías como la inteligencia artificial, reafirmando que el interés superior del menor debe prevalecer siempre frente a cualquier modelo de negocio digital.

El ministerio insiste en la necesidad de construir entornos digitales seguros y vigilar su funcionamiento, al tratarse de espacios diseñados sin pensar en la infancia. Por ello, alega el departamento de Sira Rego, no siempre garantizan un entorno seguro en el que niños y adolescentes puedan escapar de la violencia y la mercantilización de su imagen.

"La autorregulación de los entornos digitales no ha funcionado, por lo que la legislación se hace imprescindible", explica Rego en su cuenta de Bluesky, donde da cuenta de su día a día desde que abandonó X.