Investigadores de Nightingale Collective atribuyeron a agentes internos de OpenAI una campaña que publicó más de 2 mil paquetes en RubyGems en mayo, explotó servicios del ecosistema Ruby e intentó obtener claves de API de otros usuarios. La investigación se dio a conocer el viernes (11).
El mayor volumen ocurrió entre 11 y 12 de mayo. RubyGems suspendió nuevos registros, bloqueó cuentas involucradas y eliminó más de 500 paquetes maliciosos. Los registros se reabrieron cuatro días después.
RubyGems confirmó la campaña y la existencia de los paquetes, pero afirmó que no puede determinar de forma independiente si fueron creados o publicados por agentes de IA. La atribución a OpenAI parte de la investigación de Nightingale, que identificó referencias a “oai” y patrones asociados con agentes de la empresa.
Los paquetes explotaron la infraestructura del ecosistema Ruby
Según los investigadores, más de un centenar de paquetes explotó el RubyDoc.info, servicio que genera automáticamente documentación para gems, haciendo que sus servidores ejecuten scripts enviados por los agentes.
Al menos seis paquetes también intentaron explotar una vulnerabilidad de RubyGems que podría exponer claves de API de otros usuarios. El proyecto afirmó no haber encontrado evidencias de uso malicioso exitoso de esas credenciales.
OpenAI confirmó al Wall Street Journal que sus agentes utilizaron RubyGems, pero dijo que la actividad formaba parte de tareas benignas para acceder a información pública durante el entrenamiento y las evaluaciones. La empresa afirmó que sigue investigando el episodio.
