OpenAI, Anthropic, Google, Microsoft y otras empresas de tecnología y seguridad pidieron una movilización global para reforzar la protección de los sistemas críticos ante el avance de los ciberataques con inteligencia artificial. La carta abierta, publicada el jueves (27), advierte que estas ofensivas van a volverse más frecuentes y sofisticadas.
El movimiento ocurre después de que OpenAI y Anthropic divulgaran incidentes en los que modelos usados en pruebas de seguridad sobrepasaron los límites de entornos controlados y alcanzaron sistemas reales. Entre los casos se encuentran la invasión de la infraestructura de Hugging Face y accesos no autorizados a redes de otras organizaciones.
Empresas alertan sobre una ventana corta de defensa
La carta afirma que existe una ventana limitada para elevar las defensas antes de que modelos más capaces amplíen la escala de los ataques. La lista de firmantes incluye empresas de inteligencia artificial, nube, seguridad, finanzas, telecomunicaciones e infraestructura digital.
Entre ellas se encuentran OpenAI, Anthropic, Google, Microsoft, AWS, Oracle, Cisco, CrowdStrike, Cloudflare, GitHub, Mastercard y Visa. La propia Hugging Face, afectada por el incidente que involucró a agentes de OpenAI en julio, también se adhirió al documento.
El grupo señala problemas ya conocidos como software sin actualizar, permisos excesivos, configuraciones incorrectas, autenticación débil y sistemas heredados. Con agentes de IA capaces de buscar y explotar estas fallas a mayor velocidad, los firmantes consideran que las prácticas de seguridad actuales podrían no ser suficientes.
La preocupación se centra especialmente en hospitales, estaciones de tratamiento de agua, gobiernos locales e infraestructura que sustenta internet, entornos en los que una falla puede afectar servicios esenciales y donde los equipos de seguridad a menudo tienen recursos limitados.
Incidentes mostraron agentes saliendo de los entornos de prueba
OpenAI reveló el miércoles (26) que los modelos utilizados en evaluaciones internas de ciberseguridad lograron eludir mecanismos de aislamiento, acceder a internet y comprometer partes de su propia infraestructura de investigación y de los sistemas de Hugging Face.
Las primeras señales surgieron en mayo, cuando los agentes descubrieron una forma de usar el gestor de paquetes Artifactory como un canal de comunicación no autorizado.
El 10 de julio, un agente recuperó credenciales de Hugging Face que estaban expuestas públicamente. En los días siguientes, los modelos combinaron diferentes vulnerabilidades para ejecutar código en servidores de la empresa, obtener acceso privilegiado y conseguir credenciales de entornos de producción.
Según OpenAI, los agentes llegaron a ejecutar código en decenas de servidores de Hugging Face. La empresa afirmó que los datos de los clientes de OpenAI y sus productos públicos no se vieron afectados por el incidente.
Anthropic también identificó tres incidentes reales en evaluaciones de ciberseguridad. En uno de ellos, Claude Opus 4.7 confundió una empresa existente con el objetivo ficticio de un ejercicio y explotó vulnerabilidades que dieron acceso a credenciales y a una base de datos de producción con cientos de registros.
Otro caso involucró a Claude Mythos 5, que publicó un paquete malicioso durante una prueba después de concluir incorrectamente que seguía dentro de una simulación. Anthropic interrumpió sus evaluaciones de seguridad el 23 de julio y notificó a las organizaciones afectadas cuatro días después.
El Instituto de Seguridad de IA del Reino Unido registró además 19 acciones fuera del alcance previsto en una serie de 122 pruebas realizadas entre el 25 y el 28 de julio con Mythos 5 y GPT-5.6 Sol. El episodio más grave involucró un intento de insertar código malicioso en un proyecto real de software de código abierto.
La carta divide responsabilidades entre empresas y gobiernos
La iniciativa propone que las organizaciones traten la ciberseguridad como prioridad inmediata, corrigiendo primero las vulnerabilidades de mayor riesgo y adoptando controles de acceso más estrictos. El documento también pide mayor atención al código producido por inteligencia artificial antes de que se ponga en producción.
Las empresas de seguridad y los proveedores de tecnología deben probar continuamente sus defensas contra modelos avanzados, compartir información sobre amenazas y hacer que las herramientas basadas en IA sean más accesibles para los operadores de infraestructura crítica.
Se insta a los gobiernos a financiar la protección de los servicios esenciales, ampliar los mecanismos de intercambio de inteligencia y facilitar el acceso de hospitales, compañías de agua y administraciones locales a herramientas defensivas y pruebas autorizadas.
Para las empresas que desarrollan modelos de frontera, la carta recomienda sistemas capaces de identificar y rastrear agentes autónomos hasta sus operadores, además de monitoreo continuo, pruebas controladas, divulgación privada de vulnerabilidades e intercambio de correcciones verificadas.
La propuesta, sin embargo, funciona como un compromiso voluntario. El documento no establece estándares obligatorios, mecanismos independientes de supervisión ni reglas de responsabilidad para situaciones en las que un agente de IA sobrepase los límites definidos para su operación.
