Desnudando a Grok: 5 respuestas tras el escándalo de la IA de Elon Musk con los 'deepfakes' sexualizados

Terminaba 2025, todo parecía tranquilo hasta que una actualización de la inteligencia artificial de la red social X (antigua Twitter), Grok, abrió la puerta a unos acontecimientos deleznables. Un gran número de usuarios comenzó a usar el chatbot desarrollado por xAI y propiedad de Elon Musk para sexualizar a personas, incluidas menores, sin consentimiento.

Dicho en otras palabras: agresiones sexuales que estos usuarios han podido perpetrar gracias a las facilidades impulsadas por la red social del magnate multimillonario. Arrancó a finales de diciembre, pero no ha sido hasta este jueves cuando se ha detenido para todos los usuarios, incluidos aquellos que pagan el servicio premium.

La decisión de poner coto a una avalancha de deepfakes sexualizados y sin consentimiento, entre ellos, casos de menores, no se ha adoptado hasta que una gran cantidad de autoridades internacionales no han cesado en su intención de investigar en profundidad a la red social.

Han sido sólo unas semanas, pero el dolor de las víctimas no entiende de tiempos y sí de indignación. ¿Cómo una IA puede saltarse todas las normas legales, morales y éticas? ¿Por qué se ha tardado tanto? ¿Quién va a detener a X en una tendencia cada vez más y más convulsa?

Cómo ha arrancado todo

Para que Grok interactúe con los usuarios, sólo hace falta que uno de ellos le mencione en un mensaje. Con sólo poner '@Grok', se le puede hacer una pregunta y suele responder, aunque con bastantes más fallos que aciertos.

Eso había sido lo normal hasta el mes de diciembre. Momento en el que abrió la veda a una práctica que, en el caso de haberla protagonizado un particular, habría sido, casi con total seguridad, detenido y tendría que esclarecer lo sucedido ante la Justicia.

Algún usuario se daría cuenta de que la IA de X era capaz de generar imágenes sexualizadas de personas reales o ficticias, con sólo enviarle un simple mensaje. Como si de una pandemia se tratara, más usuarios, en su mayoría hombres, siguieron esta tendencia.

El que es usuario de la red social X se ha encontrado en los últimos días con una gran cantidad de deepfakes generados por Grok que, sin el consentimiento de esa persona, incluso menores de edad, estaban siendo compartidos por cientos de miles de perfiles.

Las alarmas se habían encendido. Este ataque contra la intimidad de los protagonistas no estaba teniendo la respuesta que se merecía. Lejos de detenerlo al momento, Elon Musk no dudó en cachondearse de ello.

¿Por qué se conoce la polémica como 'bikinigate'?

Si Elon Musk pensaba que su vitrina llena de premios a la vergüenza ajena se equivocaba. El saludo nazi durante un discurso en el Capital One Arena, hace ya un año, no ha sido el último episodio.

Esta polémica con Grok y la generación de imágenes sexualizadas de las últimas semanas ha sido bautizada como el bikinigate. Todo tiene que ver con el mensaje que el propio Musk compartió el pasado 31 de diciembre.

Decidió que era buena idea pedirle a la IA de X que le pusiera en bikini a él, ya que muchos de los usuarios que han seguido sus pasos hacían sus peticiones como "quítale la ropa" o "ponla en bikini". Elon Musk respondió con un "perfecto" al ver su imagen falsa en bikini, generada con el chatbot.

Ni pizca de gracia

Aunque a Elon Musk le pareció todo muy gracioso, la realidad es muy diferente a los pájaros que tiene en la cabeza. Entre todas esas imágenes que han recorrido la que es su red social durante las últimas semanas, una gran cantidad eran de menores.

La organización sin fines de lucro AI Forensics de París (Francia) publicó un estudio la pasada semana en el que aseguró que había analizado más de 20.000 fotografías que había generado Grok.

El pasado lunes el regulador británico Ofcom también anunció el inicio de una investigación formal sobre X bajo la Ley de Seguridad en Línea. "Nuestro trabajo es juzgar si los sitios y aplicaciones han tomado las medidas adecuadas para proteger a las personas en el Reino Unido de contenido que es ilegal en el Reino Unido y proteger a los niños del Reino Unido de otro contenido que sea perjudicial para ellos, como la pornografía", justificó.

Por lo que, bromas de Musk aparte, se registraron imágenes de menores de edad. Algo que el propio multimillonario ha tratado de negar este miércoles. "No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna", ha señalado.

"Puede haber ocasiones en que un ataque informático a las indicaciones de Grok produzca resultados inesperados. Si eso sucede, solucionamos el error de inmediato", ha asegurado.

Indignación generalizada

Visto el revuelo, muchas han sido las autoridades que han alzado la voz ante esta función en una red social tan usada como X, con una estimación de unos 560 millones de usuarios activos mensuales.

Varios países han tomado medidas para tratar de poner fin a unas malas prácticas como las de Grok. La Unión Europea ha reclamado a X que conserve toda la documentación de la generación de estas imágenes para poder investigarla. Por su parte, Reino Unido ha amenazado con bloquear en el país la red social. Los que sí lo han hecho han sido países como Malasia o Indonesia por sus "falsificaciones sexuales".

En España, la ministra de Juventud e Infancia, Sira Rego, ha defendido que llevarán el asunto ante la Justicia "todas las veces que haga falta". "El cumplimiento de la ley no depende de ninguna suscripción, ni nuestros derechos de los intereses de ningún millonario", ha añadido en Telegram.

Pero ha habido algunas autoridades que ya han tomado cartas en el asunto. Es el caso del fiscal general de California, Rob Bonta, que ha anunciado una investigación oficial. "La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet", ha justificado.

La recogida de cable

Elon Musk comenzó a recoger cable el pasado 3 de enero. Horas después de celebrar los deepfakes que él mismo le había pedido a Grok, comenzó a amenazar, de boquilla, a los usuarios que usaban la función para sexualizar a personas sin su consentimiento.

"Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal", explicó el multimillonario. Una semana después, anunció que iba a limitar su uso a los que no pagaban el servicio premium. Es decir, los que sí pagan, sí podían hacerlo. Una incongruencia total.

Pero horas después de que el fiscal general de California haya anunciado la investigación, han publicado un comunicado en xAI en el que recogen cable por completo: "Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago".

¿Cuál es el próximo escenario?

Ahora falta por ver si el bloqueo de esta función de Grok es definitivo o si el paso que se debe adoptar es el de poner coto al propio chatbot de X tras una metedura de pata que es mucho más que un simple error.

Aunque Elon Musk piense que se va a ir de rositas, la investigación de California o las pesquisas que la Comisión Europea u otras autoridades van a impulsar contra el bikinigate de Grok van a seguir recordándole lo sucedido.

El primer ministro británico, Keir Starmer, ha reaccionado a la noticia, celebrando que "X esté actuando ahora para garantizar el pleno cumplimiento de la legislación del Reino Unido", pero ha añadido que "debe suceder de inmediato". "La libertad de expresión no es la libertad de violar el consentimiento. Las imágenes de mujeres jóvenes no son propiedad pública, y su seguridad no está en debate", ha expuesto.

En el caso de Ofcom, han calificado el avance de este jueves como "positivo", pero han dejado claro que no van a detenerse y van a querer aclarar qué lo que ha sucedido y si la red social X ha cumplido con sus obligaciones. 

"Nuestra investigación formal continúa. Trabajamos incansablemente para avanzar y obtener respuestas sobre qué falló y qué se está haciendo para solucionarlo", ha defendido.