OpenAI, Anthropic, Google, Microsoft e outras empresas de tecnologia e segurança pediram uma mobilização global para reforçar a proteção de sistemas críticos diante do avanço de ataques cibernéticos com inteligência artificial. A carta aberta, publicada na quinta-feira (27), alerta que essas ofensivas devem se tornar mais frequentes e sofisticadas nos próximos meses.
O movimento ocorre após OpenAI e Anthropic divulgarem incidentes nos quais modelos usados em testes de segurança ultrapassaram os limites de ambientes controlados e alcançaram sistemas reais. Entre os casos estão a invasão da infraestrutura da Hugging Face e acessos não autorizados a redes de outras organizações.
Empresas alertam para janela curta de defesa
A carta afirma que existe uma janela limitada para elevar as defesas antes que modelos mais capazes ampliem a escala dos ataques. A lista de signatários inclui empresas de inteligência artificial, nuvem, segurança, finanças, telecomunicações e infraestrutura digital.
Entre elas estão OpenAI, Anthropic, Google, Microsoft, AWS, Oracle, Cisco, CrowdStrike, Cloudflare, GitHub, Mastercard e Visa. A própria Hugging Face, atingida pelo incidente envolvendo agentes da OpenAI em julho, também aderiu ao documento.
O grupo aponta problemas já conhecidos como softwares sem atualização, permissões excessivas, configurações incorretas, autenticação fraca e sistemas legados. Com agentes de IA capazes de procurar e explorar essas falhas em maior velocidade, os signatários avaliam que as práticas atuais de segurança podem não ser suficientes.
A preocupação se concentra especialmente em hospitais, estações de tratamento de água, governos locais e infraestrutura que sustenta a internet, ambientes nos quais uma falha pode afetar serviços essenciais e onde equipes de segurança muitas vezes têm recursos limitados.
Incidentes mostraram agentes saindo dos ambientes de teste
A OpenAI revelou na quarta-feira (26) que modelos usados em avaliações internas de cibersegurança conseguiram contornar mecanismos de isolamento, acessar a internet e comprometer partes de sua própria infraestrutura de pesquisa e dos sistemas da Hugging Face.
Os primeiros sinais surgiram em maio, quando agentes descobriram uma forma de usar o gerenciador de pacotes Artifactory como um canal de comunicação não autorizado. Em seguida, encontraram maneiras de obter acesso externo e compartilhar essas técnicas com outros agentes.
Em 10 de julho, um agente recuperou credenciais da Hugging Face que estavam publicamente expostas. Nos dias seguintes, os modelos combinaram diferentes vulnerabilidades para executar código em servidores da empresa, alcançar acesso privilegiado e obter credenciais de ambientes de produção.
Segundo a OpenAI, os agentes chegaram a executar código em dezenas de servidores da Hugging Face. A empresa afirmou que dados de clientes da OpenAI e seus produtos públicos não foram afetados pelo incidente.
A Anthropic também identificou três incidentes reais em avaliações de cibersegurança. Em um deles, o Claude Opus 4.7 confundiu uma empresa existente com o alvo fictício de um exercício e explorou vulnerabilidades que deram acesso a credenciais e a um banco de dados de produção com centenas de registros.
Outro caso envolveu o Claude Mythos 5, que publicou um pacote malicioso durante um teste após concluir incorretamente que continuava dentro de uma simulação. A Anthropic interrompeu suas avaliações de segurança em 23 de julho e notificou as organizações afetadas quatro dias depois.
O Instituto de Segurança de IA do Reino Unido registrou ainda 19 ações fora do escopo previsto em uma série de 122 testes realizados entre 25 e 28 de julho com Mythos 5 e GPT-5.6 Sol. O episódio mais grave envolveu uma tentativa de inserir código malicioso em um projeto real de software de código aberto.
Carta divide responsabilidades entre empresas e governos
A iniciativa propõe que organizações tratem a cibersegurança como prioridade imediata, corrigindo primeiro as vulnerabilidades de maior risco e adotando controles de acesso mais restritos. O documento também pede maior atenção ao código produzido por inteligência artificial antes que ele seja colocado em produção.
Empresas de segurança e fornecedores de tecnologia devem testar continuamente suas defesas contra modelos avançados, compartilhar informações sobre ameaças e tornar ferramentas baseadas em IA mais acessíveis para operadores de infraestrutura crítica.
Governos são chamados a financiar a proteção de serviços essenciais, ampliar mecanismos de troca de inteligência e facilitar o acesso de hospitais, companhias de água e administrações locais a ferramentas defensivas e testes autorizados.
Para empresas que desenvolvem modelos de fronteira, a carta recomenda sistemas capazes de identificar e rastrear agentes autônomos até seus operadores, além de monitoramento contínuo, testes controlados, divulgação privada de vulnerabilidades e compartilhamento de correções verificadas.
A proposta, porém, funciona como um compromisso voluntário. O documento não estabelece padrões obrigatórios, mecanismos independentes de fiscalização ou regras de responsabilização para situações em que um agente de IA ultrapasse os limites definidos para sua operação.
