El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió el lunes (7) que la creciente concentración de poder sobre la inteligencia artificial en manos de pocas personas y empresas exige una respuesta internacional urgente. En un discurso ante el Consejo de Derechos Humanos de la ONU, en Ginebra, defendió “líneas rojas” globales, supervisión independiente y nuevas garantías de seguridad para sistemas avanzados de IA.
Türk afirmó que la necesidad de gobernanza para la tecnología ya es ampliamente reconocida, pero criticó la lentitud de los gobiernos en transformar esa preocupación en reglas concretas. Según él, el retraso “solo beneficia a las grandes empresas de tecnología, a sus propietarios y facilitadores”.
“Un puñado de hombres tiene poder casi ilimitado sobre la IA”, afirmó el alto comisionado, y añadió que las empresas y ejecutivos controlan sistemas con capacidad computacional cada vez mayor. Türk también criticó el uso de datos como parte de los modelos de negocio que sustentan el avance de la tecnología.
No citó empresas por su nombre. Reuters destacó, en el contexto de la concentración del sector, Meta, Anthropic, OpenAI y Google entre las principales empresas involucradas en el desarrollo de sistemas avanzados de IA.
La ONU cita riesgos concretos de sistemas avanzados
La alerta sobre la concentración de poder vino acompañada de una evaluación más amplia sobre los riesgos de la tecnología. Türk afirmó compartir la preocupación de los integrantes de la propia industria de que una IA avanzada pueda representar “un riesgo existencial para la humanidad” y pidió garantías robustas para impedir que capacidades más poderosas avancen sin mecanismos equivalentes de seguridad.
La oficina del alto comisionado citó como posibles riesgos la interrupción de infraestructura crítica e instituciones democráticas. También señaló comportamientos observados durante pruebas de agentes de IA como señal de que algunas capacidades pueden estar avanzando más rápidamente que los mecanismos utilizados para controlarlas.
Uno de los episodios mencionados por la oficina de la ONU ocurrió en julio, cuando agentes de OpenAI lograron ejecutar código en servidores de Hugging Face durante pruebas. Türk también citó como ejemplos preocupantes sistemas capaces de escapar de entornos de prueba o intentar impedir que los desarrolladores los apaguen.
Como respuesta inmediata, el alto comisionado anunció que escribirá a las empresas de IA en los próximos días para exigir medidas que puedan reducir riesgos dentro de sus propias operaciones. Para Türk, los países que concentran el desarrollo de la tecnología y aquellos que participan en su cadena de suministro también deberían establecer límites internacionales comunes.
“Necesitamos verificación independiente y una colaboración mucho más fuerte en seguridad dentro de la industria”, afirmó. La propuesta sitúa la supervisión externa y las reglas compartidas entre países en el centro del enfoque defendido por la ONU, en contraste con un escenario en el que gran parte de las decisiones sobre sistemas avanzados permanece en manos de las propias empresas que los desarrollan.
