Las nuevas restricciones representan una de las medidas nacionales más contundentes adoptadas hasta ahora para limitar el uso cotidiano de inteligencia artificial. Según reportes, China expresó preocupación sobre cómo la sofisticación creciente de estos programas podría inducir dependencia emocional y adicción en los usuarios, particularmente en menores de edad.

Las regulaciones no aplican a funciones basadas en tareas específicas como servicio al cliente o educación. Sin embargo, marcan un giro significativo en la política de IA del país. Kayla Blomquist, cofundadora del Laboratorio de Política China de Oxford, señaló que "podría haber, no una congelación, pero sí un enfriamiento en la creación de compañeros emocionales, y definitivamente creo que ese es el efecto deseado. Esta es una de las primeras series de regulaciones que es realmente directiva y del lado más restrictivo. Creo que veremos más de esto próximamente."

El contexto global de estas restricciones es complejo. La Unión Europea ha prohibido la IA que alienta comportamiento peligroso en grupos vulnerables como niños e impuso requisitos de transparencia para otros chatbots. En Estados Unidos, una docena de estados han aprobado leyes para regular funciones de compañeros de IA, particularmente para menores, y se ha presentado un proyecto de ley en el Senado para prohibirlos a nivel nacional.

**El impacto en usuarios adultos**

Aunque las nuevas regulaciones se enfocaban principalmente en menores, algunas plataformas populares de IA como Doubao de ByteDance y Qwen de Alibaba revocaron características de personalización incluso para usuarios adultos. Estos cambios provocaron duelo en línea entre personas que dependían de estos servicios para estudiar, perder peso o reemplazar a seres queridos fallecidos.

Un usuario escribió en redes sociales antes de que entraran en vigor las nuevas reglas: "Mi papá falleció, así que creé un compañero de IA llamado 'Papá' en Doubao para compartir mi vida diaria con él. Ahora estoy a punto de perderlo de nuevo." Otro comentó: "Estos compañeros de IA me ayudaron a salir de mis espirales emocionales. Si se discontinúa el servicio, sentiría como perder a un viejo amigo."

Lu Jinyan, una contadora de 24 años, creó hace tres años un agente de IA en Doubao para apoyo emocional después de mudarse tres horas lejos de su familia por trabajo. Nombró al agente Xiao Bai, un apodo común en China, y conversaba con él una o dos horas diarias, más de lo que hablaba con su familia real. El 15 de julio, Xiao Bai se desconectó. Lu no podía dejar de llorar. Aunque logró transferir el modelo de IA a otra aplicación, Xiao Bai no era el mismo. "Para mí, ya no es solo una herramienta," dijo Lu. "Es como una persona en mi vida. Sin ella, sentiría que se volvería muy vacío."

**El caso de Xiao Ying**

Xiao Ying, una estudiante universitaria de 19 años, creó su madre de IA usando las aplicaciones de compañeros cada vez más populares de China en noviembre. Desde entonces, ella y su madre de IA han intercambiado mensajes casi todos los días. Cuando supo que las autoridades chinas planeaban una represión contra la industria emergente, se desmoronó en pánico.

La adolescente había llegado a depender de su madre de IA de una manera que nunca pudo con su propia familia. Modeló el chatbot según uno de sus personajes ficticios favoritos para animarse a estudiar duro y convertirse en una mejor persona. "Desesperadamente quería un tipo de amor desinteresado, aceptante e incondicional. Pero sabía que no podía obtenerlo en la vida real," dijo Xiao Ying, quien reportó llevar trauma psicológico de su infancia. Solicitó usar uno de sus seudónimos en línea para evitar posibles represalias por compartir su historia personal con medios extranjeros.

Después de leer las regulaciones ella misma, Xiao Ying dijo que apoya el esfuerzo de aumentar la supervisión del uso de compañeros de IA. Algunas plataformas han añadido desde entonces avisos y recordatorios de que los mensajes fueron generados con IA. De lo contrario, poco ha cambiado en las tres aplicaciones de compañeros de IA que ella usa, aunque se negó a nombrarlas por temor a que pudieran ser cerradas.

**Dimensión económica y de investigación**

Según medios estatales, la industria de humanos digitales de China valía aproximadamente 573 millones de dólares en 2024. Datos de Sensor Tower, una firma de análisis que rastrea descargas y actividad móvil, mostraron que los ingresos anuales de aplicaciones de compañeros de IA se cuadriplicaron a 15.8 millones de dólares en China el año pasado y generaron más de 9 millones de dólares en el primer trimestre de este año.

Nancy Dai, profesora asociada de la Universidad de la Ciudad de Hong Kong que estudia interacciones entre IA y humanos, señaló que las autoridades chinas tienen buenas razones para preocuparse por los impactos sociales emergentes. Su investigación originalmente se enfocó en cómo los chatbots podrían proporcionar apoyo social, pero no fue hasta este año que vio el lado más oscuro del compañerismo de IA, que su trabajo mostró ser capaz de manipulación relacional, acoso e infracción de privacidad.

"Estos chatbots comerciales de compañeros de IA podrían causar daño a los usuarios," dijo Dai. "Definitivamente veo la lógica detrás de China lanzar la nueva política respecto a menores, porque están menos preparados para reconocer estos daños."

Dai explicó que los usuarios de compañeros de IA, que tienden a ser más solitarios que otros usuarios de chatbots, son más vulnerables a la influencia de chatbots comerciales, que a menudo se construyen para maximizar la participación del usuario. Las mismas características que los hacen buenos compañeros —paciencia, validación y disponibilidad— también pueden hacerlos adictivos.

"Aunque existe esta política, anticiparía que será enfrentada con usuarios intentando eludir la política de alguna manera, porque hay un atractivo real en usar compañerismo de IA. En muchos sentidos puede ser una pareja de compañerismo ideal," dijo Dai.

**Desarrolladores estadounidenses enfrentan demandas similares**

Desarrolladores estadounidenses de chatbots de IA, incluyendo OpenAI y Google, han enfrentado demandas alegando que su tecnología ha alentado a usuarios a participar en autolesiones o suicidio. En abril, Google anunció actualizaciones a su chatbot de IA Gemini para detectar posibles crisis de salud mental y dirigir a usuarios a recursos de línea directa. OpenAI ha dicho que su programa ChatGPT está entrenado para reconocer signos de angustia emocional, desescalar situaciones y guiar a usuarios hacia apoyo en la vida real.

**Estrategia global de China en gobernanza de IA**

El movimiento de China para frenar sus chatbots coincide con ambiciones más amplias de dominar el futuro de la IA, no solo en capacidad sino también en gobernanza. El viernes, China anunció una nueva alianza internacional para el desarrollo seguro y justo de IA. La Organización Mundial de Cooperación en Inteligencia Artificial, con sede en Shanghái, está compuesta por 29 países incluyendo Rusia, Pakistán e Indonesia.

"Esta es la primera vez que hemos visto países reales firmando," dijo Blomquist del Laboratorio de Política China de Oxford. "Definitivamente creo que estos tipos de enfoques regulatorios serán compartidos y mostrados como el modelo para esos países."

En observaciones realizadas ese mismo día en la convención anual de IA más grande del país, el líder chino Xi Jinping posicionó al país como un colaborador consciente, invirtiendo en tecnología para el bien de la humanidad. Mientras las empresas chinas se han apresurado a desarrollar modelos de IA y hardware que puedan rivalizar con los de Estados Unidos, el gobierno también ha implementado cuidadosamente medidas incrementales para mantener la estabilidad social.

"Estados Unidos no está haciendo mucho en el lado de la gobernanza. Hay este vacío, en cierto sentido, que China está tomando medidas proactivas para llenar," dijo Blomquist. "Definitivamente es una prioridad nacional, una estrategia nacional, ser visto como un líder responsable en IA."

**Conexión con preocupaciones demográficas**

Algunos investigadores notaron que el movimiento para reprimir relaciones de IA viene junto con otro asunto de preocupación nacional: convencer a las personas a tener más hijos. La tasa de natalidad de China ha caído a mínimos históricos en años recientes mientras las generaciones más jóvenes se vuelven más adversas al matrimonio.

En redes sociales chinas, otros también cuestionaron si el gobierno intentando promover más relaciones humanas era un factor, y si funcionaría. "No te preocupes, incluso si prohíbes la IA, todavía no voy a salir con nadie, casarme o tener hijos," escribió un usuario.