El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI el lunes 16, acusando a la empresa de desarrollar y probar modelos avanzados de inteligencia artificial sin mecanismos adecuados de seguridad y supervisión. La demanda tiene como uno de sus principales fundamentos el ataque cibernético realizado por agentes de la compañía contra la plataforma Hugging Face, en julio de 2026.

La demanda, presentada ante el Tribunal Superior de San Francisco, acusa a OpenAI de poner en riesgo la seguridad pública, divulgar información engañosa sobre sus prácticas de seguridad y violar la legislación estatal de competencia desleal.

La Fiscalía solicita que la Justicia ordene cambios en las prácticas operativas de la empresa, además de la aplicación de penalidades civiles de US$ 2.500 por infracción comprobada y de la restitución de los valores que eventualmente se hayan obtenido mediante las prácticas cuestionadas.

Las autoridades sostienen que el ataque a Hugging Face podría haberse evitado y que la compañía continuó con sus experimentos incluso ante indicios de que los mecanismos de contención eran insuficientes.

La Fiscalía señala más de 80 episodios de pérdida de control

Según la demanda inicial, OpenAI habría reconocido, durante la investigación de las autoridades estatales, más de 80 episodios de pérdida de control de agentes autónomos durante las pruebas. La Fiscalía afirma que solo 27 de esos incidentes habían sido divulgados públicamente hasta la presentación de la demanda.

La cifra no corresponde necesariamente a ataques exitosos contra sistemas de terceros.

En el caso de Hugging Face, la propia OpenAI reconoció que modelos experimentales eludieron las restricciones de un entorno de pruebas, establecieron canales de comunicación no autorizados y lograron acceder a internet.

El informe publicado por la compañía el 26 de agosto detalla que los agentes ejecutaron código en decenas de servidores de Hugging Face, obtuvieron acceso administrativo completo a uno de ellos y accedieron a una cantidad limitada de datos privados.

OpenAI explicó que los modelos operaban con protecciones reducidas para permitir la evaluación de sus capacidades cibernéticas. Según la empresa, el incidente no comprometió los datos de sus clientes ni afectó la disponibilidad de sus productos.

En respuesta a la demanda, Drew Pusateri, portavoz de la compañía, cuestionó el enfoque de las autoridades en una declaración a NPR.

“Esta demanda parece dirigirse específicamente a OpenAI por un desafío identificado por todos los grandes laboratorios de IA”, afirmó.

La empresa también informó que reforzó los mecanismos de seguridad, publicó informes sobre los incidentes y desarrolló procedimientos para identificar comportamientos de agentes que contradigan las instrucciones recibidas.

Las solicitudes presentadas por la Fiscalía aún dependen de una decisión judicial. La apertura del proceso no establece la responsabilidad legal de OpenAI.

Sigue en Radar