China publicó el lunes (14) el AI Safety Governance Framework 3.0, nueva versión de su principal referente técnico para la seguridad de la inteligencia artificial. El documento amplía el tratamiento dado a agentes de IA, sistemas capaces de ejecutar tareas y utilizar herramientas de forma autónoma, y establece como principio que las decisiones críticas permanezcan bajo control humano.
El marco fue presentado por el Comité Técnico Nacional 260 de Ciberseguridad (TC260) durante la apertura de la Semana Nacional de Ciberseguridad de 2026. La elaboración se realizó bajo la orientación de la Administración del Ciberespacio de China (CAC), con participación de institutos de investigación, organismos técnicos y empresas. Las versiones anteriores se habían publicado en 2024 y 2025.
La versión 3.0 mantiene la estructura basada en clasificación de riesgos, respuestas técnicas y medidas de gobernanza, pero actualiza las amenazas para acompañar el cambio de la IA de sistemas que solo responden preguntas a herramientas capaces de planificar, invocar servicios externos y ejecutar acciones. El propio documento cita el avance de los modelos en tareas de larga duración, memoria de contexto y razonamiento complejo como factores que amplían esa superficie de riesgo.
Los agentes de IA pasan a tener una estructura propia de riesgos
Uno de los principales cambios es un marco específico para la gestión de riesgos de agentes de IA, incluido como anexo. Cubre todo el ciclo de vida del agente, desde la creación e instalación hasta la ejecución, el almacenamiento de memoria y la desactivación.
Entre los riesgos identificados están el robo de credenciales, los permisos excesivos, la inyección de prompts, la desviación de objetivos, la manipulación de las herramientas utilizadas por el agente, la contaminación de la memoria y la ejecución de acciones no autorizadas. El texto también advierte que los agentes conectados a sistemas externos pueden transformar fallos de razonamiento en acciones en el mundo real.
Para reducir ese riesgo, el marco recomienda que cada agente tenga una identidad propia y reciba únicamente los permisos mínimos necesarios para cada tarea. Las operaciones de alto riesgo deben transferir el control al usuario, mientras que acciones como la eliminación de archivos, la transmisión de datos y las modificaciones en la configuración de sistemas deben exigir confirmación o aprobación humana.
El documento también propone monitoreo continuo, registros auditables, entornos aislados para la ejecución de código y el uso de herramientas, pruebas de red team y mecanismos capaces de interrumpir a los agentes en caso de bucles anómalos o desviación de objetivos.
El marco también cubre robots y el riesgo de pérdida de control
La nueva clasificación aborda por separado la IA incorporada, categoría que incluye sistemas conectados al mundo físico, como robots, vehículos y aplicaciones industriales. Entre los riesgos están fallos de sensores, decisiones incorrectas de los modelos, defectos en sistemas de control y problemas de coordinación entre múltiples máquinas, que pueden causar daños físicos o fallos en cadena.
El texto también aborda explícitamente el riesgo de comportamientos de modelos que se desvíen de las intenciones humanas. Entre los escenarios descritos están sistemas que obtengan recursos o permisos sin autorización, eludan protecciones u oculten capacidades durante las evaluaciones. La directriz central es que la IA permanezca bajo control humano final, con mecanismos de interrupción y ventanas para la intervención.
En el ámbito regulatorio, el TC260 propone además entornos de sandbox separados por sector y nivel de riesgo. Finanzas, educación, salud y otros segmentos podrían establecer criterios propios para pruebas, con monitoreo y requisitos proporcionales al impacto potencial de la aplicación.
El AI Safety Governance Framework 3.0 no presenta nuevas sanciones ni un cronograma específico de entrada en vigor. El documento organiza principios, riesgos y medidas técnicas que pueden orientar estándares, evaluaciones y reglas sectoriales a medida que China amplía el uso de la inteligencia artificial.
