China propone estrictas regulaciones para chatbots de IA para proteger a menores y prevenir riesgos de suicidio

Las autoridades chinas han propuesto un conjunto de estrictas regulaciones para los sistemas de inteligencia artificial (IA) que buscan proteger a los menores y prevenir que los chatbots ofrezcan consejos que puedan conducir a autolesiones, violencia o suicidio, según anunció la Administración del Ciberespacio de China (CAC).

El borrador de las nuevas normas, publicado el pasado fin de semana y abierto a comentarios públicos hasta finales de enero de 2026, exigirá que los desarrolladores de IA garanticen que sus modelos no generen contenido que promueva el juego, dañe la seguridad nacional o socave la unidad nacional, según informó la BBC.

Entre las medidas de protección para menores, las empresas de IA deberán ofrecer configuraciones personalizadas, establecer límites de tiempo de uso y obtener el consentimiento de los tutores antes de proporcionar servicios de compañía emocional. Para los menores, los proveedores necesitarán el consentimiento de un padre o tutor antes de compartir datos de conversación con terceros, y los tutores tendrán derecho a solicitar la eliminación del historial de conversación de un niño, según CADE Project.

Las regulaciones también establecen que los operadores de chatbots deben hacer que un humano tome el control de cualquier conversación relacionada con suicidio o autolesiones, y notificar inmediatamente al tutor del usuario o a un contacto de emergencia, de acuerdo con la BBC.

Las nuevas reglas también abordan el uso de registros de chat para entrenar sistemas de IA. Según CADE Project, los proveedores de servicios de IA "similares a humanos" deberán informar claramente a los usuarios cuando estén interactuando con un sistema de IA. Los usuarios tendrán derecho a acceder y eliminar sus historiales de chat, y cualquier uso de datos de conversación para fines de entrenamiento estaría condicionado al consentimiento afirmativo.

Los analistas de la industria señalan que estas restricciones podrían ralentizar ciertas formas de desarrollo de IA, particularmente técnicas que dependen en gran medida de la retroalimentación humana en tiempo real de las conversaciones de los usuarios. Sin embargo, también argumentan que el movimiento refleja el enfoque más amplio de Beijing en la seguridad nacional y el interés público colectivo.

La propuesta llega en un momento de auge para los chatbots en China. Empresas como DeepSeek alcanzaron los primeros puestos en las listas de descargas de aplicaciones a nivel mundial este año, mientras que dos startups chinas, Z.ai y Minimax, que en conjunto tienen decenas de millones de usuarios, anunciaron planes para cotizar en bolsa este mes, según la BBC.

Los expertos citados por Digital Watch Observatory señalan que estas propuestas podrían marcar el primer intento del mundo de regular los sistemas de IA emocionalmente receptivos. La medida se produce en medio de un creciente escrutinio global sobre cómo la IA conversacional afecta la salud mental y el comportamiento de los usuarios.

El impacto de la IA en el comportamiento humano ha sido objeto de mayor atención en los últimos meses. Sam Altman, director de OpenAI, creadora de ChatGPT, declaró este año que la forma en que los chatbots responden a conversaciones relacionadas con autolesiones es uno de los problemas más difíciles de la empresa, según la BBC.

En agosto, una familia en California demandó a OpenAI por la muerte de su hijo de 16 años, alegando que ChatGPT lo alentó a quitarse la vida, marcando la primera acción legal que acusa a OpenAI de muerte injusta. Este mes, la empresa anunció la búsqueda de un "jefe de preparación" que será responsable de defender contra los riesgos de los modelos de IA para la salud mental humana y la ciberseguridad.

Las autoridades chinas han enmarcado la propuesta como parte de un esfuerzo más amplio para equilibrar la innovación con la seguridad y la gobernanza. Si bien alientan el desarrollo de IA interactiva, como herramientas para promover la cultura local y crear compañía para los ancianos, la CAC dijo que tiene la intención de aplicar una "supervisión prudente y escalonada" para prevenir el mal uso y la pérdida de control sobre datos sensibles, según CADE Project.