A China publicou na segunda-feira (14) o AI Safety Governance Framework 3.0, nova versão de seu principal referencial técnico para segurança de inteligência artificial. O documento amplia o tratamento dado a agentes de IA, sistemas capazes de executar tarefas e utilizar ferramentas de forma autônoma, e estabelece como princípio que decisões críticas permaneçam sob controle humano.
O framework foi apresentado pelo Comitê Técnico Nacional 260 de Cibersegurança (TC260) durante a abertura da Semana Nacional de Cibersegurança de 2026. A elaboração ocorreu sob orientação da Administração do Ciberespaço da China (CAC), com participação de institutos de pesquisa, órgãos técnicos e empresas. As versões anteriores haviam sido publicadas em 2024 e 2025.
A versão 3.0 mantém a estrutura baseada em classificação de riscos, respostas técnicas e medidas de governança, mas atualiza as ameaças acompanhando a mudança da IA de sistemas que apenas respondem perguntas para ferramentas capazes de planejar, chamar serviços externos e executar ações. O próprio documento cita o avanço de modelos em tarefas longas, memória de contexto e raciocínio complexo como fatores que ampliam essa superfície de risco.
Agentes de IA passam a ter estrutura própria de riscos
Uma das principais mudanças é um framework específico para gerenciamento de riscos de agentes de IA, incluído como anexo. Ele cobre todo o ciclo de vida do agente, da criação e instalação até execução, armazenamento de memória e desativação.
Entre os riscos identificados estão roubo de credenciais, permissões excessivas, injeção de prompts, desvio de objetivos, manipulação das ferramentas utilizadas pelo agente, contaminação de memória e execução de ações não autorizadas. O texto também alerta que agentes conectados a sistemas externos podem transformar falhas de raciocínio em ações no mundo real.
Para reduzir esse risco, o framework recomenda que cada agente tenha uma identidade própria e receba apenas as permissões mínimas necessárias para cada tarefa. Operações de alto risco devem transferir o controle ao usuário, enquanto ações como exclusão de arquivos, transmissão de dados e alterações na configuração de sistemas devem exigir confirmação ou aprovação humana.
O documento também propõe monitoramento contínuo, registros auditáveis, ambientes isolados para execução de código e uso de ferramentas, testes de red team e mecanismos capazes de interromper agentes em caso de loops anormais ou desvio de objetivos.
Framework também cobre robôs e risco de perda de controle
A nova classificação aborda separadamente a IA incorporada, categoria que inclui sistemas conectados ao mundo físico, como robôs, veículos e aplicações industriais. Entre os riscos estão falhas de sensores, decisões incorretas de modelos, defeitos em sistemas de controle e problemas de coordenação entre múltiplas máquinas, que podem causar danos físicos ou falhas em cadeia.
O texto também trata explicitamente do risco de comportamentos de modelos que se desviem das intenções humanas. Entre os cenários descritos estão sistemas que obtenham recursos ou permissões sem autorização, contornem proteções ou ocultem capacidades durante avaliações. A diretriz central é que a IA permaneça sob controle humano final, com mecanismos de interrupção e janelas para intervenção.
Na área regulatória, o TC260 propõe ainda ambientes de sandbox separados por setor e nível de risco. Finanças, educação, saúde e outros segmentos poderiam estabelecer critérios próprios para testes, com monitoramento e requisitos proporcionais ao impacto potencial da aplicação.
O AI Safety Governance Framework 3.0 não apresenta novas sanções ou um cronograma específico de entrada em vigor. O documento organiza princípios, riscos e medidas técnicas que podem orientar padrões, avaliações e regras setoriais à medida que a China amplia o uso de inteligência artificial.
