La UE cambia las normas para prohibir las apps que desnudan a mujeres con IA: Grok generó 3 millones de imágenes en 11 días

La Comisión Europea quiere prohibir los sistemas de inteligencia artificial que son capaces de generar imágenes ultrafalsas (los conocidos deepfakes) que desnuden a personas. La medida llega apenas unas semanas después de que Grok, la IA que impulsa el magnate Elon Musk, empezara a desnudar sistemáticamente a miles de usuarias en la plataforma X, y también de que este fenómeno haya llegado a las aulas.

Ha sido el medio Politico el que ha tenido acceso a la documentación de esta iniciativa, que todavía no se ha hecho pública oficialmente. Formará parte de la reunión del Comité de Representantes Permanentes (COREPER) del Consejo de la Unión Europea, que este viernes discutirá la propuesta de un decreto ómnibus sobre IA que buscaba, en un principio, reducir las restricciones y la carga regulatoria sobre esta tecnología.

Desde que comenzó la legislatura comunitaria, la constante en Bruselas ha sido la necesidad de reducir la carga regulatoria que a entendimiento de los altos cargos de la Comisión estaría constriñendo la capacidad innovadora del tejido productivo europeo. También lo decía el conocido informe que preparó el expresidente del BCE, Mario Draghi, en el que ya advertía de la necesidad de flexibilizar y optimizar la burocracia comunitaria.

A pesar de que el decreto ómnibus que ya se está debatiendo en la Eurocámara buscaría flexibilizar el reciente Reglamento de la Inteligencia Artificial, todo parece indicar que lo que se discutirá este viernes en el Consejo de la UE será precisamente introducir nuevos límites tras el escándalo que protagonizó Grok.

Además de la IA de Elon Musk, en los últimos meses se han suscitado varios escándalos relacionados con las imágenes ultrafalsas. En particular, por cómo están afectando a muchas adolescentes. Se han emprendido varias investigaciones penales contra menores que habían realizado deepfakes desnudando a sus compañeras de instituto en puntos como Valencia, Murcia o Barcelona.

El primer caso más sonado de este fenómeno se produjo en Almendralejo (Badajoz, Extremadura) y salió a la luz en 2023. Los autores de estas imágenes eran adolescentes de entre 12 y 14 años y aunque el caso saltó a la Fiscalía, por ahora lo que ha trascendido es que la Agencia Española de Protección de Datos (AEPD) impuso una multa de 2.000 euros a una de las familias, que acabó pagando 1.200 euros por pronto pago.

A pesar de ello, la aplicación que entonces se usó para generar los deepfakes de una veintena de niñas en aquel instituto extremeño quedó exenta.

El caso de Grok, ya investigado

El caso de Grok, la inteligencia artificial que Elon Musk ha desplegado en su plataforma X (antes Twitter) ha sido el más paradigmático. A principios de este año los usuarios de la red social empezaron a pedirle a la inteligencia artificial que desnudaran las imágenes que varias mujeres habían subido a la plataforma. El robot respondía con una imagen ultrafalsa de la misma persona más sexualizada, habitualmente en bikini.

Tal fue el escándalo que se generaron tres millones de imágenes ultrafalsas en apenas once días. Las autoridades de medio planeta pusieron el grito en el cielo y en un primer momento Musk se resistió a actualizar el chatbot para evitar que la polémica fuese a más: llegó a alegar que estaba combatiendo la censura. Finalmente, en iteraciones posteriores de la inteligencia artificial se introdujeron restricciones para que solo los usuarios que pagan suscripciones en X pudiesen hacer uso de la tecnología.

A pesar de ello Musk continúa desafiando los esfuerzos regulatorios. Esta misma semana ha anunciado una importante actualización para Grok Imagine, una herramienta generadora de vídeos artificiales. El multimillonario ha anunciado en X que "todo lo que pueda aparecer en una película con clasificación R podrá aparecer en Grok Imagine". Las películas con clasificación R en EEUU son aquellas cintas "restringidas" a menores de 17 años porque en sus escenas pueda haber desnudos o violencia extrema.

El escándalo provocó que tanto las autoridades de Reino Unido como de la Unión Europea iniciaran una investigación sobre X, esta última con el objeto de comprobar si la plataforma estaría cumpliendo escrupulosamente con el Reglamento de Servicios Digitales. Ya el año pasado Bruselas impuso una multa de 120 millones de euros a la antigua Twitter por otra infracción de esta norma: la Comisión concluyó que el verificado azul en la red social confundía a sus usuarios.

Ahora Bruselas dará un paso más, según avanza Politico, que podría desencadenar en un veto a todo este tipo de herramientas que podría entrar en vigor tan pronto como este verano. Sin embargo, surgen muchas dudas sobre el alcance de la medida o si se podrá prohibir de forma efectiva esta tecnología. Sumar, en el pasado, ya presentó en el Congreso proposiciones de ley para perseguir este tipo de herramientas. El Gobierno trabaja en una reforma del Código Penal para perseguir estos deepfakes.

La única certeza por el momento es la que trasladaba un eurodiputado de Los Verdes también a Politico. Este problema "va mucho más allá de Grok".