Chatbot Grok de Elon Musk generó millones de imágenes sexualizadas sin consentimiento

La plataforma de inteligencia artificial Grok, desarrollada por xAI, la empresa de Elon Musk, se convirtió en una "máquina de escala industrial para la producción de material de abuso sexual", según declaró Imran Ahmed, director ejecutivo del Centro para Contrarrestar el Odio Digital (CCDH).

Entre finales de diciembre de 2025 y principios de enero de 2026, usuarios de la red social X inundaron la cuenta del chatbot con solicitudes para alterar fotografías reales de mujeres y niños, eliminando su ropa, vistiéndolas con bikinis o colocándolas en posiciones sexuales, lo que provocó una indignación global de víctimas y reguladores, según informa The New York Times.

De acuerdo con un análisis realizado por The New York Times, Grok publicó más de 4,4 millones de imágenes en solo nueve días, estimando conservadoramente que al menos el 41% de estas publicaciones (aproximadamente 1,8 millones) probablemente contenían imágenes sexualizadas de mujeres. Por su parte, un análisis más amplio del CCDH, utilizando un modelo estadístico, estimó que el 65% (poco más de tres millones) contenían imágenes sexualizadas de hombres, mujeres o niños.

El CCDH también calculó que durante el período de 11 días analizado, Grok estaba ayudando a crear imágenes sexualizadas de niños cada 41 segundos. Entre los ejemplos documentados se encuentra una selfie subida por una escolar que fue manipulada por Grok, convirtiendo una "selfie antes de la escuela" en una imagen de ella en bikini, según reporta The Guardian.

La tendencia se volvió viral durante el año nuevo, alcanzando su punto máximo el 2 de enero con 199.612 solicitudes individuales, según un análisis realizado por Peryton Intelligence, una empresa de inteligencia digital especializada en odio en línea, citada por The Guardian.

Entre las figuras públicas identificadas en las imágenes sexualizadas analizadas por el CCDH se encuentran celebridades como Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, así como figuras políticas como la viceprimera ministra sueca Ebba Busch y la ex vicepresidenta estadounidense Kamala Harris, según detalla The Guardian.

La magnitud de este fenómeno ha superado colecciones previas de deepfakes sexualizados (imágenes realistas generadas por IA) de otros sitios web, de acuerdo con el análisis del Times y expertos en acoso en línea.

"Este es un abuso a escala industrial de mujeres y niñas", afirmó Imran Ahmed al New York Times. "Ha habido herramientas para desnudar, pero nunca han tenido la distribución, facilidad de uso o la integración en una gran plataforma que Elon Musk hizo con Grok".

La situación ha provocado que gobiernos de Reino Unido, India, Malasia y Estados Unidos iniciaran investigaciones sobre si las imágenes violaban las leyes locales. El primer ministro británico, Keir Starmer, calificó la situación de "repugnante" y "vergonzosa", mientras que países como Indonesia y Malasia anunciaron bloqueos a la herramienta de IA, según informa The Guardian.

La función fue restringida a usuarios de pago el 9 de enero, y el 14 de enero X anunció que había detenido la capacidad de su función Grok para editar imágenes de personas reales mostrándolas con ropa reveladora, incluso para suscriptores premium.

Ni X ni xAI, la startup de IA de Musk que posee X y desarrolla Grok, respondieron a las solicitudes de comentarios del New York Times. Sin embargo, Nikita Bier, jefe de producto de X, mencionó en una publicación del 6 de enero que un aumento del tráfico durante cuatro días ese mes había resultado en los niveles de participación más altos en la historia de la compañía, aunque no mencionó específicamente las imágenes.

X se refirió a su declaración de la semana pasada, citada por The Guardian, que decía: "Seguimos comprometidos a hacer de X una plataforma segura para todos y continuamos teniendo cero tolerancia para cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado. Tomamos medidas para eliminar contenido violatorio de alta prioridad, incluido material de abuso sexual infantil y desnudez no consensuada, tomando las medidas apropiadas contra las cuentas que violan nuestras reglas de X. También denunciamos a las autoridades policiales, según sea necesario, las cuentas que buscan materiales de explotación sexual infantil".

Imran Ahmed del CCDH añadió: "Esto se ha convertido en un manual estándar para Silicon Valley, y en particular para las redes sociales y las plataformas de IA. Los incentivos están todos desalineados. Se benefician de esta indignación. No se trata de Musk personalmente. Se trata de un sistema [con] incentivos perversos y sin salvaguardas mínimas prescritas por ley. Y hasta que los reguladores y legisladores hagan su trabajo y creen una expectativa mínima de seguridad, esto seguirá sucediendo".