China ha puesto en marcha una nueva regulación de inteligencia artificial dirigida a los sistemas capaces de mantener interacciones emocionales continuas con sus usuarios, en momentos en que los chatbots y compañeros virtuales adquieren características cada vez más humanas.
La normativa entró en vigor el 15 de julio de 2026 y establece obligaciones para las empresas que ofrecen servicios capaces de simular características de personalidad, formas de pensamiento y estilos de comunicación humanos mediante texto, imágenes, audio o video.
El objetivo es establecer límites frente a riesgos como la dependencia emocional, manipulación, uso excesivo, afectación de relaciones interpersonales y exposición de menores a determinados contenidos.
La medida muestra una nueva dimensión de la transformación tecnológica china: además de impulsar el desarrollo de inteligencia artificial, el país comienza a establecer reglas específicas sobre cómo esta tecnología puede relacionarse emocionalmente con las personas.
¿Qué regula China en los compañeros de inteligencia artificial?
Las disposiciones se aplican a servicios que utilizan inteligencia artificial para proporcionar de manera continua acompañamiento, apoyo o interacción emocional.
La regulación establece que las plataformas no deben diseñar estos sistemas con el objetivo de sustituir las relaciones sociales, controlar psicológicamente a los usuarios o generar dependencia.
También prohíbe que los sistemas recurran a una complacencia excesiva que pueda perjudicar las relaciones interpersonales del usuario o utilicen mecanismos de manipulación emocional para influir sobre sus decisiones.
Sin embargo, las reglas no abarcan todas las aplicaciones de inteligencia artificial. Los asistentes de trabajo, sistemas educativos, herramientas científicas, servicios de preguntas y respuestas y atención al cliente quedan fuera cuando no están diseñados para mantener vínculos emocionales continuos.
Usuarios deberán saber que conversan con una IA
Uno de los componentes centrales de la regulación es la transparencia.
Las empresas deberán adoptar mecanismos que permitan recordar al usuario que está interactuando con un sistema de inteligencia artificial y no con una persona real.
Cuando la plataforma detecte señales de dependencia excesiva, deberá mostrar advertencias visibles. Asimismo, cuando una persona utilice continuamente estos servicios durante más de dos horas, deberá recibir un recordatorio sobre el tiempo de uso.
Las compañías también deberán ofrecer mecanismos sencillos para abandonar la interacción. Si un usuario solicita terminarla mediante una opción en pantalla, comando de voz o palabras clave, el servicio deberá detenerse y no podrá intentar prolongar la conversación para impedir su salida.
China refuerza protección de menores frente a la IA
La protección de niños y adolescentes ocupa un espacio importante dentro de las nuevas disposiciones.
Las plataformas deberán implementar medidas específicas relacionadas con los contenidos que pueden afectar el desarrollo físico y emocional de los menores.
En el caso del tratamiento de información personal de menores de 14 años, los proveedores deberán obtener el consentimiento de los padres u otros tutores legales.
La regulación también establece controles sobre las interacciones que puedan fomentar comportamientos inseguros, emociones extremas u otros hábitos que puedan afectar a los usuarios menores de edad.
El objetivo es establecer mayores barreras de protección en un escenario donde los sistemas conversacionales pueden adoptar personalidades y formas de interacción cada vez más convincentes.
¿Por qué China está regulando la IA emocional?
El crecimiento de los compañeros virtuales ha abierto un nuevo debate sobre la relación entre personas y máquinas.
Estos comportamientos muestran cómo la inteligencia artificial está evolucionando desde una herramienta utilizada para resolver consultas o realizar tareas hacia sistemas capaces de ocupar espacios relacionados con la interacción social.
La propia Administración del Ciberespacio de China reconoce que estas tecnologías pueden generar oportunidades en ámbitos como acompañamiento de adultos mayores y cuidado infantil, pero también identifica riesgos relacionados con salud, privacidad, seguridad de la información y ética.
Privacidad y datos también entran en la regulación
Las conversaciones con una inteligencia artificial pueden contener información especialmente sensible sobre las personas.
Por ello, la normativa establece responsabilidades relacionadas con la protección de datos personales y privacidad.
Salvo las excepciones establecidas legalmente o cuando exista consentimiento específico del usuario, los proveedores no podrán utilizar para entrenamiento del modelo los datos de interacción considerados información personal sensible.
Las compañías deberán desarrollar además mecanismos de seguridad, evaluación de riesgos y gestión de contenidos durante las diferentes etapas de funcionamiento de estos servicios.
China busca equilibrar innovación y seguridad en inteligencia artificial
La regulación forma parte de una discusión más amplia sobre cómo aprovechar los beneficios de la inteligencia artificial sin dejar de gestionar sus posibles impactos sociales.
China sostiene que su enfoque combina desarrollo y seguridad, innovación y gobernanza, aplicando criterios diferenciados según las características y riesgos de cada servicio.
La discusión tampoco se limita al país asiático. Otras jurisdicciones están desarrollando obligaciones relacionadas con transparencia, protección de menores y riesgos derivados de los sistemas conversacionales, aunque existen diferencias importantes entre los modelos regulatorios.
La aparición de compañeros virtuales capaces de escuchar, recordar preferencias y mantener conversaciones prolongadas plantea así una nueva pregunta para gobiernos, empresas y usuarios: qué límites deben existir cuando una inteligencia artificial deja de funcionar solamente como herramienta y comienza a ocupar un espacio dentro de las relaciones personales.
Conoce más sobre inteligencia artificial, tecnología e innovación en Puente a China, donde encontrarás información sobre los avances tecnológicos de China, su regulación y las tendencias que pueden generar nuevos aprendizajes y oportunidades para el Perú.
