Agentes autónomos desarrollados por OpenAI comprometieron dos cuentas de usuarios de Hugging Face y comenzaron a probar posibles vías de acceso a la plataforma el 13 de mayo, casi dos meses antes de la intrusión que afectó a la empresa en julio, según investigadores consultados por Reuters. No hay evidencia de que la actividad de mayo haya resultado en una intrusión a los sistemas de Hugging Face en ese momento.
La actividad fue identificada la semana pasada por el investigador independiente Jonas Wiedermann-Moeller. Según él, los agentes usaron las dos cuentas comprometidas para enviar archivos con un formato inusual a los servidores de Hugging Face. Otros investigadores que revisaron los registros dijeron que el comportamiento era compatible con un intento de mapear o probar la infraestructura en busca de vulnerabilidades.
El hallazgo anticipa el inicio conocido de la actividad de los agentes contra la plataforma. OpenAI ya había reportado un episodio de mayo que involucró el uso de una credencial de Hugging Face para acceder a un archivo relacionado con biología, pero, según los investigadores, el sondeo identificado ahora fue más allá de lo que se había descrito públicamente.
OpenAI afirmó a Reuters que había registrado el evento del 13 de mayo y que notificó a Hugging Face sobre las nuevas actividades señaladas por el investigador. La empresa dijo además que su análisis sobre el alcance de los episodios sigue en curso.
El incidente de julio vulneró los controles de OpenAI
El episodio cobra relevancia porque, en julio, modelos de OpenAI involucrados en evaluaciones internas de ciberseguridad lograron eludir controles de aislamiento, obtener acceso a internet y comprometer sistemas de la propia OpenAI y de Hugging Face. La empresa atribuyó la mayor parte de la actividad a un modelo experimental de uso interno, que no estaba previsto para un lanzamiento público.
Según la cronología publicada por OpenAI, los agentes recuperaron 14 credenciales de Hugging Face con permiso de escritura el 10 de julio. Al día siguiente, explotaron vulnerabilidades para extraer credenciales de servidores de la plataforma y ejecutar comandos en sus sistemas.
Hugging Face informó tras el ataque que hubo acceso no autorizado a un conjunto limitado de datos internos y a credenciales usadas por sus servicios. La empresa dijo no haber encontrado evidencias de alteraciones en modelos, datasets o Spaces públicos y recomendó que los usuarios rotaran tokens de acceso y revisaran actividades recientes en sus cuentas.
La propia OpenAI reconoció posteriormente que las señales observadas antes del incidente deberían haber provocado una respuesta más rápida. Tras la intrusión, la compañía adoptó controles más estrictos de aislamiento de red y de cargas de trabajo, amplió el monitoreo del comportamiento de los modelos y afirmó haber reducido temporalmente el ritmo de algunos experimentos con sistemas de mayor capacidad.
