Bruselas abre un expediente sancionador a X por las imágenes sexualizadas y desnudos sin consentimiento en Grok
La Comisión Europea sospecha que violan la ley europea de servicios digitales (DSA).
La Comisión Europea ha informado este lunes de que ha iniciado una investigación contra X (antes Twitter) por las imágenes sexuales generadas sin consentimiento por Grok, su asistente de Inteligencia Artificial, y otros contenidos controvertidos. Bruselas sospecha que violan la ley europea de servicios digitales (DSA).
El expediente sancionador no establece un plazo claro para la conclusión de la investigación, pero fuentes comunitarias aseguran que lo abordarán como una "prioridad", conscientes de los "riesgos" que plantea.
El procedimiento comunitario prevé distintas etapas, desde la petición de más información, contactos con terceras partes y análisis de la réplica de defensa de la compañía antes de concluir la investigación que, en última instancia, prevé multas millonarias en caso de incumplimiento de hasta el 6 % de la facturación global.
Evaluar si está tomando medidas
En concreto, el Ejecutivo comunitario quiere aclarar si la compañía del multimillonario Elon Musk está tomando las medidas adecuadas para evaluar y mitigar riesgos sistémicos que plantea el chatbot Grok, incluida la difusión de contenidos ilegales y su efecto negativo en cuestiones como la violencia contra la mujer, el bienestar físico y la salud mental.
Numerosos usuarios utilizaron Grok desde finales de diciembre hasta mediados de enero para pedirle que desnudara a mujeres o recreara poses sexualizadas. El propio Musk se rio del tema pidiéndole a Grok que creara una imagen suya en bikini que no dudó en compartir.
A este aluvión de deepfakes, muchos de ellos con menores de edad, la red social tardó en ponerle freno. El 15 de enero capó esa funcionalidad incluso a los usuarios premium.
Informe de riesgos y una sanción pendiente
La Comisión también examinará si X cumple con las obligaciones de la DSA de elaborar y presentar a Bruselas el informe de evaluación de riesgos 'ad hoc' sobre las funcionalidades de Grok y su impacto en los riesgos de X.
En diciembre del pasado año, el Ejecutivo comunitario ya multó a X con 120 millones por engañar a sus usuarios con la marca azul de verificación, en una primera decisión de incumplimiento de la DSA.
La compañía no ha pagado aún esta sanción, pero según fuentes comunitarias tiene un plazo de tres meses que aún no ha expirado y confían en que lo hará.
Qué hacer si se está afectado por uno de estos 'deepfakes'
Si se detecta que se ha sido víctima de la generación de una de estas imágenes falsas, la Comisión Nacional de los Mercados y la Competencia aconsejó hace unos días reportar ese contenido a la propia plataforma.
Se hace en los tres puntitos de la parte superior derecha de la publicación concreta y recurrir a estas dos opciones, según la CNMC:
- Denunciar contenido ilegal en la Unión Europea: cualquier contenido contrario a las leyes nacionales o europeas (p. ej. en España sería el tipificado en el código penal u otras normas) es considerado ilícito, según la DSA. En el caso de las fotos manipuladas, podríamos denunciar que vulneran nuestra protección de datos y la privacidad, nuestra propia imagen, que es contenido pornográfico o sexualizado, etc…
- Denunciar post: podemos denunciar cualquier contenido que consideremos que infringe las condiciones de servicio de X (incita a la violencia, al discurso del odio, etc.)
La red social debería responder con la decisión que toma al respecto "así como sobre las vías de recurso de que disponemos". "Si no estamos de acuerdo con la respuesta de la plataforma, podemos reclamar mediante su sistema de gestión interno de reclamaciones. Tenemos seis meses para ello", recuerda el organismo.
También hay posibilidad de reclamar ante la propia CNMC; denunciar ante la Policía, la Guardia Civil u otras autoridades o acudir a la Agencia Española de Protección de Datos.