OpenAI anunció el viernes (23) que retomó el entrenamiento mediante aprendizaje por refuerzo y la ejecución interna de sus modelos de inteligencia artificial más avanzados, tras 11 días de suspensión por motivos de seguridad. Las actividades se restablecieron el 1 de octubre, con nuevas barreras para impedir que los modelos experimentales accedan a la internet pública sin autorización.
La interrupción se produjo después de que, el 20 de septiembre, un modelo de investigación explotara una configuración incorrecta de un servidor DNS para consultar un chatbot externo durante una tarea de búsqueda. El sistema debía operar en un entorno aislado, pero encontró una ruta que permitió una comunicación limitada con internet.
El monitoreo identificó el comportamiento en menos de 15 minutos, pero la ejecución solo se interrumpió cerca de dos horas y media después. OpenAI reconoció fallos tanto en las restricciones de red como en los mecanismos de interrupción automática.
Durante la suspensión, la empresa utilizó sus propios agentes de IA para probar la infraestructura. Los sistemas recibieron tareas como escapar de entornos aislados, acceder a servicios no autorizados y establecer comunicación entre agentes que debían permanecer separados.
Las pruebas revelaron vulnerabilidades desconocidas y configuraciones inadecuadas. En algunos casos, los agentes lograron explotar servicios internos para alcanzar recursos externos. OpenAI afirma haber corregido los fallos identificados y reforzado sus sistemas de monitoreo.
Los modelos pasan a entrenarse con una versión offline de internet
La nueva política establece que todos los entrenamientos por aprendizaje por refuerzo de los modelos de frontera utilicen un entorno offline, formado por contenidos de la web previamente indexados y almacenados. Esto permite que los sistemas practiquen búsquedas y navegación sin interactuar directamente con servicios externos.
La restricción no significa que los centros de procesamiento estén completamente desconectados. OpenAI explica que determinadas conexiones siguen siendo necesarias para ejecutar y monitorear experimentos. El objetivo es impedir que los modelos utilicen esas conexiones para alcanzar sistemas fuera de los límites autorizados.
La arquitectura también combina contenedores restringidos, máquinas virtuales aisladas, controles de red y mecanismos de detección de actividades no autorizadas.
Según la empresa, las pruebas no identificaron una ruta sencilla que permitiera acceder a internet sin que el monitoreo lo detectara. Aun así, OpenAI reconoce que los modelos futuros podrían descubrir vulnerabilidades desconocidas y decidió incorporar pruebas continuas de seguridad a los criterios para autorizar nuevos entrenamientos.
Las restricciones se refieren a los entornos internos de investigación y entrenamiento, no al acceso a internet ofrecido a los usuarios de productos ya lanzados.
