Víctima de deepfakes de Grok AI critica al gobierno británico por retrasar medidas de protección

Jess Davies, presentadora de Gales, ha criticado duramente la lentitud del gobierno británico para implementar leyes que protejan a las víctimas de imágenes íntimas falsas generadas por inteligencia artificial. Según Davies, imágenes explícitas suyas fueron creadas utilizando el chatbot Grok AI y compartidas sin su consentimiento cuando el software estaba disponible gratuitamente para más de 500 millones de usuarios en la plataforma X.

Davies ha acusado a Elon Musk, propietario de X, de "monetizar el abuso de imágenes" después de que la plataforma anunciara la semana pasada que solo los usuarios de pago podrán acceder a la función de imágenes de Grok AI a través de su sitio web, según reporta la BBC.

El gobierno británico ha anunciado que esta semana entrará en vigor una nueva ley que convertirá en ilegales las imágenes creadas por IA, a pesar de que la legislación estaba lista desde junio de 2025, después de que se clasificara como un "delito prioritario".

Cuando la BBC solicitó comentarios, X se remitió a un comunicado donde afirmaba que "cualquier persona que use o induzca a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

Davies, residente en Penarth, Vale of Glamorgan, condenó a Grok AI en una publicación en X en Nochevieja tras observar un aumento en el número de imágenes íntimas no consentidas publicadas en el sitio. Sin embargo, después de hablar públicamente, descubrió que se habían creado imágenes suyas generadas por IA sin su consentimiento.

"Es terrible decir que te vuelves insensible al ver este contenido gráfico todo el tiempo", declaró Davies a la BBC. "Pero realmente no puedes prepararte para que te quiten el consentimiento de esta manera, y además por parte de completos desconocidos que son anónimos en internet".

Esta no es la primera vez que Davies es víctima de abuso de imágenes íntimas, y lleva tiempo abogando por el fortalecimiento de la Ley de Seguridad en Línea, que es aplicada por Ofcom para hacer que internet sea más seguro para las personas en el Reino Unido, especialmente para los niños.

### ¿Qué es Grok AI?

Grok es un chatbot de IA desarrollado por X, la red social propiedad de Elon Musk. Responde a las solicitudes de los usuarios de X cuando lo etiquetan en una publicación y se utiliza a menudo para dar reacciones o más contexto a los comentarios de otros usuarios, pero las personas en X también han podido editar imágenes cargadas a través de su función de edición de imágenes con IA.

Aunque se lanzó en noviembre de 2023, recientemente han surgido informes de que el chatbot estaba siendo utilizado para crear imágenes explícitas de personas sin su consentimiento, que luego comparte públicamente en la plataforma.

Si bien en el Reino Unido es ilegal compartir deepfakes íntimos no consentidos de adultos, hasta el anuncio de esta semana no ha sido un delito penal utilizar una herramienta de IA para crearlos, a pesar de la legislación aprobada en junio de 2025.

Los deepfakes son videos, imágenes o clips de audio creados con inteligencia artificial para parecer reales.

Ofcom, el regulador en línea del Reino Unido, ha iniciado una investigación para determinar si Grok AI ha infringido las leyes de seguridad en línea, algo que Musk afirma que viola la libertad de expresión.

Anteriormente disponible para todos los usuarios, X ha limitado ahora el uso de la función de imágenes del chatbot a aquellos que pagan una cuota mensual, pero se ha informado que todavía es posible utilizar el chatbot para crear imágenes de forma gratuita a través de su aplicación.

### "El gobierno se arrastró los pies"

Aunque Davies calificó la nueva ley como "positiva", señaló que los activistas y las víctimas "han estado esperando" durante los últimos seis meses.

"No sé por qué el gobierno se arrastró los pies durante tanto tiempo", dijo a la BBC. "Ya sabíamos que la legislación estaba lista y lista para funcionar, y habría protegido a las víctimas. Piensen en cuántas víctimas ya hay por esto". Añadió que con una acción más rápida "podría haber sido diferente".

Davies afirmó que todavía podía crear imágenes de sí misma en lencería y en un micro tanga a través de la aplicación Grok. "No debería estar generando estas imágenes", dijo. "En términos de monetizarlo, creo que es muy ofensivo para todas las víctimas. Cuando se trata de esto, [Elon Musk] compró una plataforma de redes sociales y es responsable de la seguridad de los usuarios".

### "Avivando los fuegos de la misoginia extrema"

Después de hablar en el programa Women's Hour de BBC Radio 4 a principios de este mes, la Dra. Daisy Dixon de la Universidad de Cardiff dijo que había visto más imágenes no consentidas de sí misma creadas. La profesora de filosofía cree que esto es una "respuesta directa" a hablar sobre Grok AI y al anuncio de la nueva ley.

Dixon dijo: "He visto una verdadera escalada en lo que están haciendo los usuarios, mucha gente, muchos hombres se están enfadando mucho. Todavía veo a Grok generando imágenes de mí misma. Ser vestida de ciertas maneras y ser puesta en ciertas posiciones sexualizadas contra nuestra voluntad, se siente como si alguien hubiera secuestrado tu sentido de autocomprensión. Esencialmente te estás viendo a ti misma en estas situaciones, y sientes que no tienes control sobre cómo te presentas en línea".

Dixon, sin embargo, dijo que su experiencia de usar X era un reflejo más amplio de las actitudes hacia las mujeres y las niñas en línea y "en la sociedad".

"Debido a este sentido de ataque a la libertad de expresión, esto realmente está avivando los fuegos de la misoginia extrema que ya existía", dijo. "Básicamente están atacando toda nuestra existencia digital; si no nos gusta, entonces no deberíamos publicarlo en absoluto. Necesitamos recordar que esto no se trata de X la plataforma, son los usuarios y necesitamos preguntarnos por qué tantos hombres se sienten obligados a hacer esto en primer lugar".

El lunes, el primer ministro Sir Keir Starmer advirtió que X podría perder el "derecho a autorregularse" si la plataforma no puede controlar su chatbot de IA.

Liz Kendall, secretaria de Estado de Ciencia, Innovación y Tecnología, dijo que los deepfakes íntimos no consentidos creados por Grok son ilegales y "una afrenta a la sociedad decente".

"Las vidas pueden ser y han sido devastadas por este contenido, que está diseñado para acosar, atormentar y violar la dignidad de las personas. No son imágenes inofensivas; son armas de abuso dirigidas desproporcionadamente contra mujeres y niñas, y son ilegales", afirmó Kendall según la BBC.