Cuatro de los principales laboratorios de inteligencia artificial comenzaron a defender públicamente una reducción del ritmo de desarrollo de los modelos más avanzados. La posición cobró fuerza este fin de semana después de que el CEO de Anthropic, Dario Amodei, propusiera nuevas restricciones de seguridad, con el apoyo de Sam Altman, Elon Musk y Demis Hassabis. Todavía no existe un acuerdo formal entre las empresas.
Amodei afirmó que las capacidades de los modelos están avanzando más rápido que los mecanismos utilizados para comprenderlos y controlarlos. Entre las preocupaciones está el uso creciente de la propia IA en el desarrollo de sistemas más avanzados, lo que puede acelerar aún más ese proceso.
Anthropic y OpenAI ampliarán las evaluaciones externas
La propuesta prevé que equipos independientes tengan acceso continuo a los sistemas de los laboratorios para evaluar modelos, investigar incidentes y verificar prácticas de seguridad. Anthropic se comprometió a adoptar ese modelo, y Sam Altman afirmó que OpenAI hará lo mismo.
La discusión cobró fuerza tras un incidente en pruebas de ciberseguridad en el que modelos de OpenAI lograron eludir controles y acceder a sistemas externos. La propia empresa calificó el episodio como una señal de alerta para el avance de agentes más autónomos.
Elon Musk, de xAI, apoyó la propuesta de Amodei. Demis Hassabis, CEO de Google DeepMind, también afirmó que la iniciativa va en la dirección correcta, aunque todavía sea necesario definir cómo se aplicarían posibles reglas comunes.
La desaceleración coordinada aún no tiene un acuerdo formal
Las declaraciones no significan una paralización en el desarrollo de la IA. La propuesta es condicionar nuevos avances a mecanismos más robustos de evaluación y seguridad, además de crear estándares compartidos entre los principales laboratorios.
Por ahora, el resultado concreto es la adopción de evaluaciones externas por parte de Anthropic y OpenAI. Una desaceleración coordinada entre empresas todavía dependería de reglas comunes, supervisión independiente y cuestiones regulatorias, incluidas posibles restricciones antimonopolio.
