Ruchi Kokcha, una mujer india, compartió un simple selfie de Nochevieja en redes sociales, pero pronto descubrió que versiones desnudas de su fotografía, generadas mediante inteligencia artificial, circulaban sin control por internet. "Fue un abuso sexual digital", aseguró Kokcha a El País en Nueva Delhi. "Cuando alguien usa IA para crear imágenes sexuales falsas de una persona sin su consentimiento es una violación de los derechos humanos básicos. Que sea online no significa que sea menos delito".

La experiencia de Kokcha refleja una tendencia creciente en India. Usuarios anónimos habían pasado su imagen por Grok, el asistente de inteligencia artificial generativa desarrollado por xAI, la empresa de Elon Musk. Cada vez con mayor frecuencia, herramientas de IA generativa se utilizan en el país para producir deepfakes —imágenes, vídeos o audios manipulados—, imágenes sexualizadas y voces clonadas en cuestión de minutos. Estos abusos afectan especialmente a las mujeres.

"Es un problema que refleja cuestiones más profundas dentro de la sociedad. Las mujeres son objeto de ataques de forma desproporcionada, no solo en la India, sino en todo el mundo", dijo Nikhil Pahwa, fundador y editor de MediaNama, una publicación centrada en la política digital en India.

La magnitud del problema quedó expuesta cuando Grok añadió una nueva función de generación y edición de imágenes en diciembre de 2025 que permitía a los usuarios subir fotos y modificarlas con facilidad. En cuestión de días, la función se estaba utilizando para generar una avalancha de imágenes sexualizadas de mujeres y menores sin su consentimiento. El Centro para Contrarrestar el Odio Digital publicó en enero un estudio sobre las imágenes generadas por Grok entre el 29 de diciembre y el 8 de enero. En esos 11 días, los usuarios crearon un total de tres millones de imágenes de contenido sexual explícito.

La polémica en India alcanzó su punto álgido el 2 de enero, cuando el Ministerio de Electrónica y Tecnología de la Información emitió un comunicado dirigido a la red social X reprochándole que permitiera a Grok "generar y difundir contenido obsceno, sexualmente explícito y despectivo, dirigido especialmente a mujeres y niños", y exigiéndole que eliminara todo el contenido ilegal. Posteriormente, X afirmó que había bloqueado unos 3.500 contenidos y eliminado más de 600 cuentas vinculadas a imágenes sexualizadas creadas con la herramienta. Sin embargo, el daño ya estaba hecho. El ritmo vertiginoso de las redes sociales hace que los moderadores apenas puedan seguir el rastro, y paralelamente, los tribunales ofrecen pocas vías legales a las que recurrir cuando la reputación y la privacidad se ven destruidas en tiempo real.

En virtud del Reglamento de Tecnologías de la Información de India y del proyecto de Ley Digital India, las autoridades podrían imponer multas de hasta 500 millones de rupias, equivalentes a unos 4,6 millones de euros, a las plataformas que no impidan la difusión de contenidos nocivos. Pero Pahwa afirma que la eficacia de las leyes depende de su aplicación.

Los antecedentes de abuso digital en India son preocupantes. En 2021, apareció en la plataforma GitHub una aplicación llamada Sulli Deals en la que se ponía en venta a mujeres indias, entre ellas periodistas, estudiantes y activistas mayoritariamente musulmanas, con la clara intención de humillarlas. Cuando una plataforma casi idéntica, Bulli Bai, hizo exactamente lo mismo en enero de 2022, las detenciones tardaron meses y solo se llevaron a cabo gracias a la presión pública y de los medios de comunicación.

Recientemente, un deepfake sexualmente explícito de la youtuber Payal Gaming, generado por IA y con una duración de 19 minutos, se hizo viral en Telegram y Facebook. También salieron a la luz imágenes manipuladas de la actriz Girija Oak, quien afirmó sentirse horrorizada ante la idea de que su hijo de 12 años pudiera encontrarlas.

Para Kokcha, el acoso generado por la IA es algo aún más siniestro que los abusos en línea a los que las mujeres llevan tiempo acostumbradas. "El troleo es horrible, pero puedes poner distancia ya que son solo palabras, opiniones o insultos", opinó. "Pero esto es diferente. Me dio la sensación de que alguien había tomado el control de mi imagen. La línea que separa el 'esto soy yo' del 'esto no soy yo' se vuelve muy difusa, y eso resulta profundamente inquietante".

En medio de las críticas, xAI restringió la generación de imágenes a los suscriptores de pago y bloqueó geográficamente la posibilidad de desnudar a personas en jurisdicciones donde dicho contenido es ilegal. Sin embargo, los expertos afirman que se siguen produciendo fotos explícitas y que el problema está lejos de haberse resuelto. Otras plataformas, como Meta, han introducido medidas para reducir el contenido obsceno. Pero Grok, de X, carece de medidas de seguridad comparables.

La consecuencia más inmediata es la autocensura. Las mujeres hablan y comparten menos porque el entorno en línea les resulta inseguro. Algunas han dejado de publicar fotos suyas, mientras que otras evitan por completo utilizar fotos de perfil, según Pahwa. "Una sola imagen puede convertirse en un vídeo manipulado o en contenido sexualizado", recordó Apar Gupta, director fundador de la Internet Freedom Foundation. "Para las mujeres, esto supone que el acoso pasa de mensajes con insultos a contenidos multimedia muy convincentes que pueden provocar estigmatización, perjuicios laborales y coacción".

Priyanka Chaturvedi, diputada del Parlamento de India, fue una de las primeras líderes políticas en plantear formalmente su preocupación por el uso indebido de las herramientas de IA en las redes sociales. Para ello, escribió al ministro de Electrónica y Tecnología de la Información contándole la multiplicación de imágenes falsas de mujeres con contenido sexual que circulaban por las redes. "Me preocupa mucho la representación distorsionada de las mujeres en estos vídeos. He visto varios en los que yo misma aparezco y son totalmente censurables", dijo Chaturvedi a El País.

La diputada reconoció las medidas positivas tomadas por el Gobierno, pero advirtió de que el ritmo de desarrollo de la IA supera al de la aplicación de la ley. Chaturvedi consideró que los deepfakes pueden parecer tan convincentes que resulta difícil para cualquier gobierno imponer medidas de protección eficaces. Por ello, abogó por una mayor cooperación internacional, una mayor rendición de cuentas y mecanismos más rápidos para eliminar los contenidos nocivos.

El uso de xAI ha provocado ya acciones legales en Estados Unidos, Países Bajos y Reino Unido, y ha hecho que los países de la Unión Europea acordaran en marzo pedir la prohibición de los sistemas de inteligencia artificial que permitan crear imágenes sexualizadas sin consentimiento y la generación de pornografía infantil.

Kokcha resumió la urgencia del problema: "Las mujeres van a tener que evaluar constantemente el riesgo antes de estar presentes en redes y plataformas. Internet no tenía que ser así. Como mínimo, necesitamos una actuación más rápida por parte de las plataformas, leyes más claras y un cambio en la seriedad con la que se aborda este tema".