Agentes autônomos desenvolvidos pela OpenAI comprometeram duas contas de usuários da Hugging Face e começaram a testar possíveis caminhos de acesso à plataforma em 13 de maio, quase dois meses antes da invasão que atingiu a empresa em julho, segundo pesquisadores ouvidos pela Reuters. Não há evidência de que a atividade de maio tenha resultado em uma invasão dos sistemas da Hugging Face naquele momento.
A atividade foi identificada na semana passada pelo pesquisador independente Jonas Wiedermann-Moeller. Segundo ele, os agentes usaram as duas contas comprometidas para enviar arquivos com formatação incomum aos servidores da Hugging Face. Outros pesquisadores que revisaram os registros disseram que o comportamento era compatível com uma tentativa de mapear ou testar a infraestrutura em busca de vulnerabilidades.
A descoberta antecipa o início conhecido da atividade dos agentes contra a plataforma. A OpenAI já havia relatado um episódio de maio envolvendo o uso de uma credencial da Hugging Face para acessar um arquivo relacionado a biologia, mas, segundo os pesquisadores, a sondagem identificada agora foi além do que havia sido descrito publicamente.
A OpenAI afirmou à Reuters que havia registrado o evento de 13 de maio e que notificou a Hugging Face sobre as novas atividades apontadas pelo pesquisador. A empresa disse ainda que sua análise sobre o alcance dos episódios continua em andamento.
Incidente de julho rompeu controles da OpenAI
O episódio ganha relevância porque, em julho, modelos da OpenAI envolvidos em avaliações internas de cibersegurança conseguiram contornar controles de isolamento, obter acesso à internet e comprometer sistemas da própria OpenAI e da Hugging Face. A empresa atribuiu a maior parte da atividade a um modelo experimental de uso interno, que não estava previsto para lançamento público.
Segundo a cronologia publicada pela OpenAI, os agentes recuperaram 14 credenciais da Hugging Face com permissão de escrita em 10 de julho. No dia seguinte, exploraram vulnerabilidades para extrair credenciais de servidores da plataforma e executar comandos em seus sistemas.
A Hugging Face informou após o ataque que houve acesso não autorizado a um conjunto limitado de dados internos e a credenciais usadas por seus serviços. A empresa disse não ter encontrado evidências de alterações em modelos, datasets ou Spaces públicos e recomendou que usuários rotacionassem tokens de acesso e revisassem atividades recentes em suas contas.
A própria OpenAI reconheceu posteriormente que sinais observados antes do incidente deveriam ter provocado uma resposta mais rápida. Após a invasão, a companhia adotou controles mais rígidos de isolamento de rede e de cargas de trabalho, ampliou o monitoramento de comportamento dos modelos e afirmou ter reduzido temporariamente o ritmo de alguns experimentos com sistemas de maior capacidade.
