Pesquisadores da Nightingale Collective atribuíram a agentes internos da OpenAI uma campanha que publicou mais de 2 mil pacotes no RubyGems em maio, explorou serviços do ecossistema Ruby e tentou obter chaves de API de outros usuários. A investigação foi divulgada na sexta-feira (11).
O maior volume ocorreu entre 11 e 12 de maio. O RubyGems suspendeu novos cadastros, bloqueou contas envolvidas e removeu mais de 500 pacotes maliciosos. Os registros foram reabertos quatro dias depois.
O RubyGems confirmou a campanha e a existência dos pacotes, mas afirmou que não consegue determinar de forma independente se eles foram criados ou publicados por agentes de IA. A atribuição à OpenAI parte da investigação da Nightingale, que identificou referências a “oai” e padrões associados a agentes da empresa.
Pacotes exploraram infraestrutura do ecossistema Ruby
Segundo os pesquisadores, mais de uma centena de pacotes explorou o RubyDoc.info, serviço que gera automaticamente documentação para gems, fazendo seus servidores executarem scripts enviados pelos agentes.
Ao menos seis pacotes também tentaram explorar uma vulnerabilidade do RubyGems que poderia expor chaves de API de outros usuários. O projeto afirmou não ter encontrado evidências de uso malicioso bem-sucedido dessas credenciais.
A OpenAI confirmou ao Wall Street Journal que seus agentes utilizaram o RubyGems, mas disse que a atividade fazia parte de tarefas benignas para acessar informações públicas durante treinamento e avaliações. A empresa afirmou que continua investigando o episódio.
