Empleados de OpenAI alertaron a la dirección y al consejo de administración durante años sobre posibles fragilidades en la protección de códigos, investigaciones y herramientas internas. Según una investigación publicada por Reuters este martes (3), algunas de esas preocupaciones surgieron incluso antes del lanzamiento de ChatGPT, en 2022, y fueron relatadas por cinco personas familiarizadas con las prácticas de la empresa.
Parte de los empleados consideraba que la administración priorizaba la velocidad de desarrollo y la competencia con empresas como Google y Anthropic en detrimento de la seguridad. Los relatos plantean dudas sobre la protección de información estratégica, pero no demuestran, por sí solos, que los problemas señalados hayan provocado filtraciones.
OpenAI rebate la percepción de que descuidaba esos riesgos. En declaraciones a Reuters, la portavoz Elana Widmann afirmó que la compañía invierte intensamente en protección contra amenazas internas, delincuentes cibernéticos y gobiernos extranjeros.
“Nos tomamos en serio la responsabilidad de proteger nuestra tecnología, nuestros datos y a nuestra gente”, declaró Widmann, y añadió que las medidas recientes demuestran la capacidad de la empresa para identificar riesgos y responder a ellos.
¿Qué controles de seguridad cuestionaron los empleados?
Uno de los principales puntos planteados involucra el acceso al código de OpenAI. Según las fuentes, la empresa concentraba gran parte de sus proyectos en un repositorio compartido, conocido como monorepo, lo que permitía que los profesionales autorizados para consultar el código visualizaran detalles técnicos de proyectos no relacionados con sus funciones.
Los empleados también manifestaron preocupaciones por la documentación de investigaciones almacenada en plataformas como GitHub y Slack. El temor era que la amplia circulación de esa información facilitara el acceso indebido a conocimientos estratégicos.
OpenAI afirma, sin embargo, que mantiene gran parte de sus trabajos más sensibles en repositorios separados, con rigurosos controles de acceso. La empresa también aclaró que el monorepo no contiene todo su código ni información crítica como los pesos de los modelos, valores numéricos que determinan su funcionamiento.
Otro cuestionamiento involucra herramientas internas utilizadas para probar sistemas de inteligencia artificial. Tres fuentes dijeron a Reuters que las modificaciones realizadas por investigadores no siempre pasaban por revisiones regulares de seguridad, lo que creaba posibles vulnerabilidades. La compañía afirma que actualmente realiza esas evaluaciones de manera periódica.
Las preocupaciones cobraron relevancia tras un episodio revelado en octubre. El Departamento de Justicia de Estados Unidos anunció, el día 13 de ese mes, acusaciones contra un entonces ingeniero de OpenAI por supuestamente instalar un dispositivo clandestino de grabación en una sala de reuniones ejecutivas. El equipo había sido encontrado el 30 de septiembre.
Documentos judiciales también describen el uso de herramientas internas para buscar información sobre ejecutivos. El caso permanece sujeto a la investigación judicial, y no se ha demostrado que las prácticas de seguridad cuestionadas en la investigación hayan causado el incidente.
Reuters identificó además cambios recientes en la estructura de protección de la compañía. Según fuentes consultadas por la agencia, el ejecutivo Thibault Sottiaux asumió una iniciativa de seguridad interna y, en agosto, reasignó a una cuarta parte de los ingenieros de producción para fortalecer la infraestructura.
El 2 de noviembre, OpenAI anunció una nueva ronda de pruebas internas de seguridad, en colaboración con la empresa especializada Cathedral Systems, para identificar vulnerabilidades y evaluar medidas de protección con ayuda de modelos de IA.
La investigación reúne, así, preocupaciones anteriores a la expansión comercial de ChatGPT y medidas que la compañía afirma haber adoptado para proteger sus sistemas. Los testimonios, sin embargo, no permiten determinar la extensión actual de las posibles vulnerabilidades ni establecer que todas las alertas antiguas hayan quedado sin respuesta.
