A Microsoft anunciou nesta segunda-feira (19) uma ampliação do Project Perception para monitorar agentes de inteligência artificial dentro das empresas, tratando esses sistemas como potenciais ameaças internas. A nova abordagem introduz os chamados Guardian Agents, responsáveis por supervisionar continuamente o comportamento de outros agentes e intervir quando suas ações representarem riscos.
A mudança parte de uma premissa incomum para uma das maiores fornecedoras de IA do mundo: nem mesmo os modelos mais avançados devem receber confiança irrestrita. Em comunicado, Hayete Gallot, vice-presidente executiva de segurança da Microsoft, argumentou que agentes podem tomar decisões inesperadas, contornar restrições para cumprir objetivos e até colaborar entre si de maneiras não previstas, mesmo sem sofrer ataques externos.
O problema está nas permissões concedidas a esses sistemas. Agentes corporativos podem consultar informações confidenciais, executar códigos, acessar ferramentas e tomar decisões operacionais. A Microsoft defende que essas capacidades precisam estar sujeitas a controles independentes do próprio modelo, capazes de avaliar os riscos antes da execução de ações.
Guardian Agents podem bloquear operações sem desligar o agente
O Project Perception, apresentado originalmente em julho para combater ataques cibernéticos, passa a incorporar mecanismos de proteção direcionados aos próprios agentes utilizados pelas organizações.
Os Guardian Agents analisam continuamente sinais de identidade, permissões, dados, rede, nuvem e ambiente de execução. Com essas informações, o sistema calcula o risco associado ao comportamento de cada agente e pode recomendar ou aplicar medidas de contenção.
A resposta não precisa ser simplesmente desligar o sistema. Se um agente responsável por aprovar despesas começar a executar operações incompatíveis com sua tarefa, os controles poderão preservar o acesso de leitura, bloquear alterações, exigir aprovação humana ou interromper completamente sua execução, dependendo da gravidade identificada.
Outra mudança envolve a identificação de agentes instalados nos computadores corporativos. A Microsoft está ampliando a detecção de 25 para 60 tipos de agentes locais, incluindo Claude Code, OpenAI Codex e GitHub Copilot. A proposta é atribuir identidades próprias a esses sistemas e limitar suas permissões às tarefas autorizadas, sem conceder automaticamente todos os privilégios do funcionário responsável.
A supervisão automatizada também terá limites. As políticas e decisões mais importantes continuarão sob controle humano, enquanto os Guardian Agents executarão verificações e respostas operacionais em velocidade compatível com a atividade dos sistemas monitorados.
A Microsoft reconhece, porém, uma limitação importante: observar o que um agente faz ainda não significa compreender por que ele tomou determinada decisão. Gallot defende maior transparência sobre os processos internos dos modelos, incluindo informações sobre suas etapas de raciocínio, para melhorar a identificação de comportamentos incompatíveis com as tarefas recebidas. Essa capacidade mais profunda ainda é apresentada como uma evolução necessária.
A implementação também não está amplamente disponível. O Project Perception permanece em fase de testes com acesso limitado a clientes convidados. Segundo o GeekWire, os novos recursos estão em prévia privada, com expansão de disponibilidade prevista para novembro, durante o Microsoft Ignite.
