Las aplicaciones "nudify" utilizan inteligencia artificial para generar imágenes sexualizadas falsas de personas reales sin su consentimiento. Según la ley de California, cualquier actividad que "facilite deliberadamente" o "ayude imprudentemente" la creación de pornografía deepfake no consentida es delito. En 2025, California amplió estas protecciones permitiendo a las víctimas emprender acciones civiles contra terceros que faciliten la distribución de este material.

A pesar de estas regulaciones bien conocidas, Apple y Google han continuado hospedando estas aplicaciones y obteniendo ganancias de ellas. El Fiscal de la Ciudad de San Francisco David Chiu declaró: "Apple y Google se están beneficiando de aplicaciones que explotan a mujeres y niñas generando deepfakes íntimos no consentidos. Aunque las empresas han cortado vínculos con algunas aplicaciones problemáticas, Apple y Google tienen la responsabilidad de ser proactivas y vigilantes para prevenir abuso sexual."

Las cartas enviadas por la oficina de Chiu a ambas empresas, revisadas por TechCrunch, señalan que las compañías "han estado advertidas" sobre su rol en "procesar pagos por compras ilegales durante casi un año" pero han continuado haciéndolo. Según los documentos, ambas empresas han recibido advertencias repetidas sobre el alojamiento de estas aplicaciones.

En enero y nuevamente en abril, el Proyecto de Transparencia Tecnológica emitió reportes y envió cartas a ambas compañías documentando que había "decenas de aplicaciones" en sus tiendas que "vendían imágenes íntimas no consentidas deepfake a cambio de pagos" procesados por las firmas. El reporte de abril del Proyecto de Transparencia Tecnológica acusó a Google y Apple de haber "dirigido intencionalmente" a usuarios hacia estas aplicaciones, calificando a ambas empresas como "participantes clave en la propagación de herramientas de inteligencia artificial que pueden convertir personas reales en imágenes sexualizadas."

Chiu indicó a la revista Wired que ambas empresas probablemente han ganado "millones de dólares en comisiones" de aplicaciones que ofrecían estos servicios. Las cartas de la oficina del Fiscal advierten que Apple y Google podrían enfrentar sanciones civiles por violar la ley y solicitan que contacten a la ciudad dentro de 28 días.

Cuando fue contactada por comentarios, una portavoz de Apple declaró que las aplicaciones nudify están prohibidas en su App Store, añadiendo: "Hemos removido tres de las aplicaciones en cuestión y estamos en proceso de terminar las cuentas de desarrollador de estas aplicaciones de nuestro programa. Estamos en contacto con cuatro otras que necesitan abordar violaciones de política o arriesgan ser removidas también."

Un portavoz de Google afirmó que las cinco aplicaciones de Play Store mencionadas en la carta de Chiu habían sido suspendidas de Google Play. "Cuando se nos reportan violaciones, investigamos y tomamos acción rápida, lo que en el caso de estas aplicaciones ha incluido suspender cientos de aplicaciones que violan políticas y restringir términos de búsqueda relacionados como 'nudify' en nuestra tienda," agregó el portavoz.

La pornografía deepfake ha sido principalmente un problema para celebridades femeninas, aunque las aplicaciones nudify hacen posible que cualquier persona con una foto disponible públicamente sea objetivo. El acceso a estas herramientas ha democratizado la capacidad de crear este tipo de contenido abusivo, permitiendo que cualquiera con una fotografía pueda ser victimizado, independientemente de su estatus público.

Esta acción de San Francisco representa un punto de inflexión en la aplicación de leyes contra el abuso sexual facilitado por tecnología. Las regulaciones de California de 2025 establecieron un marco legal claro, pero la persistencia de Apple y Google en monetizar estas aplicaciones a pesar de las advertencias subraya la brecha entre las regulaciones existentes y su cumplimiento efectivo. Las sanciones civiles potenciales y los plazos de 28 días establecidos por la ciudad podrían establecer un precedente para acciones similares en otras jurisdicciones.