OpenAI, Anthropic, Google, Meta, Nvidia y otras empresas de tecnología firmaron, el martes (29), un acuerdo voluntario con el gobierno de Estados Unidos para establecer controles de seguridad y auditorías externas sobre sistemas avanzados de inteligencia artificial. El compromiso se anunció tras una reunión entre Donald Trump y ejecutivos del sector en la Casa Blanca.
El documento, denominado White House Accord on Super Intelligence, establece cuatro niveles de supervisión para el desarrollo y la utilización de modelos de IA. La iniciativa prevé verificaciones independientes, pero no crea obligaciones legales ni mecanismos gubernamentales de fiscalización.
El acuerdo prevé controles internos y auditorías independientes
Las empresas se comprometieron a monitorear las capacidades y el comportamiento de sus modelos, incluidos los riesgos de seguridad cibernética y las amenazas biológicas y químicas.
El acuerdo también prevé equipos internos para verificar los controles de seguridad, auditorías externas independientes para evaluar su eficacia y comités en los consejos de administración responsables de supervisar los resultados y dar seguimiento a la corrección de fallos.
Las compañías acordaron además realizar reuniones periódicas para compartir prácticas y desarrollar estándares comunes de seguridad.
El compromiso no prevé sanciones por incumplimiento
A pesar de la participación de auditores independientes, el acuerdo no exige la divulgación pública de los resultados, no establece un calendario obligatorio de evaluaciones y no prevé penalidades específicas.
La implementación permanece bajo la responsabilidad de las empresas. Trump afirmó que considera crear un consejo de aproximadamente diez integrantes para dar seguimiento a la seguridad de la tecnología, pero su composición y sus atribuciones aún no se han definido.
El enfoque contrasta con el adoptado por la Unión Europea, cuyo AI Act establece obligaciones legales para los proveedores de modelos de IA considerados de riesgo sistémico, incluyendo evaluaciones de seguridad y notificación de incidentes graves.
El acuerdo estadounidense admite la posibilidad de transformar en el futuro sus directrices en regulación, pero no establece un plazo para ese cambio.
