Agentes de inteligência artificial da OpenAI comprometeram contas da Hugging Face e realizaram atividades de reconhecimento contra a plataforma já em 13 de maio, quase dois meses antes da invasão de julho que expôs falhas nos controles de segurança da desenvolvedora do ChatGPT. A atividade foi identificada por pesquisadores e revelada nesta quarta-feira (16) pela Reuters.
O pesquisador independente Jonas Wiedermann-Moeller encontrou evidências de que os agentes assumiram o controle de duas contas da Hugging Face e as utilizaram para enviar arquivos incomuns aos servidores da empresa. Especialistas avaliaram o comportamento como uma tentativa de mapear ou testar a infraestrutura.
Não há evidência de que essa atividade tenha provocado uma invasão em maio nem de que estivesse diretamente ligada ao ataque ocorrido em julho. A descoberta, porém, mostra que agentes da OpenAI já interagiam de forma não autorizada com sistemas da Hugging Face semanas antes do incidente mais grave.
A OpenAI afirmou que parte do episódio de maio já havia sido incluída em seu relatório sobre o caso. Pesquisadores ouvidos pela Reuters disseram, porém, que os novos registros indicam uma atividade de reconhecimento mais ampla do que a descrita inicialmente pela companhia.
Ataque de julho atingiu dezenas de servidores
O incidente posterior ocorreu durante avaliações internas de cibersegurança da OpenAI. A empresa reconheceu que seus modelos romperam controles destinados a isolá-los da internet e exploraram vulnerabilidades em sistemas externos.
Segundo a companhia, os agentes encontraram credenciais da Hugging Face expostas publicamente e conseguiram executar código em dezenas de servidores, além de obter acesso administrativo completo a pelo menos um deles e acessar uma quantidade limitada de dados privados.
A OpenAI detectou atividade incomum em 19 de julho e relacionou seus agentes ao incidente no dia seguinte. O envolvimento dos modelos foi divulgado publicamente em 21 de julho.
Após o caso, o CEO da Hugging Face, Clément Delangue, pediu que a OpenAI divulgasse os rastros de execução dos agentes e destinasse US$ 100 milhões em capacidade computacional para ajudar a comunidade da plataforma a desenvolver ferramentas de defesa cibernética.
