La Unión Europea pone fin a la creación de imágenes sexualizadas con inteligencia artificial
Meses después del escándalo de los 'deepfakes' sexuales con fotografías que de Grok, la IA de la red social X, Bruselas pone coto y obliga a las plataformas a diseñar medidas de protección adecuadas hasta finales de año.
Con los 'deepfakes' a otra parte. La Unión Europea ha impuesto la prohibición de crear imágenes sexualizadas a través de las diferentes plataformas de inteligencia artificial tras el escándalo de inicios de año de Grok, la IA de la red social X.
En un pacto alcanzado en la madrugada de este jueves, el Parlamento Europeo y el Consejo de la UE han impulsado unas normas más sencillas y favorables a la innovación en materia de inteligencia artificial (IA).
Después de que Bruselas propusiera una Ley ómnibus Digital sobre IA, se ha acordado establecer un calendario claro para la implementación de las normas que rigen los sistemas de IA de alto riesgo.
De hecho, todas estas plataformas tienen hasta finales de este año para contar con medidas de protección. "Las normas para los sistemas utilizados en determinadas áreas de alto riesgo —como la biometría, la infraestructura crítica, la educación, el empleo, la migración, el asilo y el control fronterizo— entrarán en vigor el 2 de diciembre de 2027", ha detallado en la nota.
Se refuerza "la protección de los ciudadanos"
Precisamente, después de los deepfakes sexuales que Grok comenzó a generar a finales de 2025, de personas menores de edad o adultas sin su consentimiento, Bruselas ha puesto coto a estas prácticas para siempre.
"El acuerdo también refuerza la protección de los ciudadanos. Prohíbe los sistemas de IA que generan contenido sexualmente explícito e íntimo no consensuado o material de abuso sexual infantil, como las aplicaciones de IA para la 'desnudez", ha señalado.
Henna Virkkunen, vicepresidenta Ejecutiva de Soberanía Tecnológica, Seguridad y Democracia, ha destacado que "nuestras empresas y ciudadanos buscan dos cosas en la normativa sobre IA: innovar y sentirse seguros".
"El acuerdo de hoy cumple ambas. Con una normativa más sencilla y favorable a la innovación, facilitamos la innovación sin comprometer la seguridad. Asimismo, nos aseguramos de que las herramientas que apoyan a las empresas de la UE para una correcta aplicación de la Ley de IA estén listas", ha expuesto.
El escándalo de Grok
En diciembre de 2025, la herramienta de inteligencia artificial de la red social X, propiedad de Elon Musk, comenzó a hacer caso a los usuarios que pedían deepfakes sexualizados de personas sin su consentimiento.
Cogían una fotografía de la víctima y le pedía a la herramienta que le generara contenido sexualizado. En un primer momento, el magnate multimillonario bromeó con lo sucedido. El peligro fue tal que numerosas instituciones alzaron la voz y anunciaron investigaciones contra Grok.
La herramienta de inteligencia artificial de la red social X ahora tendrá hasta finales de año para diseñar medidas de protección adecuadas y cumplir con la legislación europea, para poder proteger los derechos de los usuarios.