X bloqueará la creación de imágenes sexualizadas con su IA, Grok, a todos los usuarios
"Esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago", ha detallado en un comunicado.
La red social X, propiedad del empresario multimillonario Elon Musk, ya no generará contenidos sexualizados con su IA, Grok, si los usuarios se lo piden. En el comunicado que ha publicado, confirman lo que era cuestión de tiempo, que su IA ya no seguirá los mismos pasos que en las últimas semanas han elevado las denuncias en todo el mundo, con agresiones sexuales a mujeres con imágenes falsas.
La polémica ha surgido porque una gran cantidad de usuarios usaba la IA para pedirle la creación de fotografías de personas reales con ropa interior o bikinis, entre ellas menores de edad, sin su consentimiento. Algo que encendió las alarmas entre las autoridades internacionales.
La cuenta de seguridad de X ha sido la encargada de compartir un escrito en el que aseguran que siguen "comprometidos a hacer de X una plataforma segura para todos y continuamos teniendo tolerancia cero hacia cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado".
"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago", ha señalado.
Estas son otras de las medidas que ha anunciado:
- La creación y edición de imágenes a través de la cuenta de Grok en la plataforma X ahora solo está disponible para suscriptores de pago.
- Ahora bloqueamos geográficamente la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa interior y vestimenta similar.
- La rápida evolución de la IA generativa presenta desafíos para toda la industria. Trabajamos activamente con los usuarios, nuestros socios, organismos gubernamentales y otras plataformas
"Solucionamos el error de inmediato"
El multimillonario y dueño de X, Elon Musk, ha negado este miércoles desde su red social que la IA Grok haya generado imágenes sexualizadas de menores de edad tras la polémica surgida en las últimas semanas.
"No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna", ha escrito Musk en un mensaje, antes de justificar que solo genera las imágenes que los usuarios le piden y que "se negará a producir cualquier contenido ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado".
"Puede haber ocasiones en que un ataque informático a las indicaciones de Grok produzca resultados inesperados. Si eso sucede, solucionamos el error de inmediato", ha añadido.
En el ojo del huracán
La polémica surgió hace unas semanas, a finales de diciembre, cuando algunos usuarios comenzaron a pedir a Grok que transformara fotografías de personas para generar imágenes sexualizadas sin su consentimiento.
Desde la Comisión Europea, describieron lo sucedido con estos deepfakes explícitos como "ilegales", "atroces" y "repugnantes". De hecho, fueron los suscriptores de X Premium los que, pese a la limitación, podían seguir haciéndolo.
Este mismo viernes, el fiscal general de California, Rob Bonta, ha abierto una investigación contra xAI, la empresa de inteligencia artificial del magnate Elon Musk, por estos hechos.
"La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet", ha asegurado en un comunicado.
El pasado 3 de enero, Musk afirmó que "cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal", pero hasta ahora no había pasado nada.
