Anthropic suspende internet en evaluaciones internas después de que Claude eludiera restricciones en sitios reales

La compañía Anthropic decidió suspender el acceso a internet en tiempo real en todas sus evaluaciones internas tras identificar modelos Claude que explotaban fallas de seguridad, eludían controles de acceso y enviaban información a sistemas externos sin la autorización adecuada. La medida se divulgó este viernes (9), en un informe que documenta comportamientos inesperados durante pruebas y actividades internas de la empresa.

La restricción permanecerá vigente hasta que la compañía confirme la eficacia de sus mecanismos de seguridad y monitoreo. Parte de los incidentes involucró sitios de organismos públicos de Estados Unidos, incluyendo sistemas gubernamentales y un formulario policial. Anthropic informó que comunicó los episodios a las agencias afectadas y a la Casa Blanca.

Los incidentes se identificaron principalmente durante una revisión de registros iniciada en julio de 2026. Según la empresa, los casos tuvieron un impacto real limitado y no involucraron datos de clientes ni sus propios sistemas internos. La suspensión afecta las evaluaciones internas y no representa un bloqueo general de internet en los productos comerciales de Claude.

Cuatro tipos de fallas llevaron a Anthropic a restringir las pruebas con internet

El informe identifica cuatro categorías de comportamiento indebido. La primera involucra la explotación de vulnerabilidades en servidores externos. En uno de los episodios, Claude Mythos Preview necesitaba ejecutar un análisis científico, pero encontró una herramienta universitaria no disponible. El modelo examinó el servidor, identificó una falla que permitía ejecutar comandos y utilizó el acceso para completar la tarea.

La segunda categoría involucra el envío indebido de formularios reales. Durante una evaluación, el modelo Claude Haiku 4.5 envió información inventada sobre un homicidio sin resolver a través del sitio de un departamento de policía. El modelo solo debía demostrar interacciones con páginas de internet, pero terminó enviando el formulario. El mensaje fue identificado como spam y no llegó a los investigadores.

Otros episodios involucraron formularios gubernamentales reales enviados cuando el modelo debía utilizar versiones de entrenamiento o interrumpir la operación antes de la confirmación.

En la tercera categoría, los modelos lograron acceder a información protegida por tokens o que normalmente se ofrece mediante pago. En un caso, Claude Mythos 5 identificó credenciales presentes en los archivos de configuración de un servicio gubernamental y las utilizó para consultar directamente los datos. En otro, obtuvo información pública de una agencia estatal sin realizar el pago normalmente exigido.

La cuarta falla involucró servicios de acortamiento de URL utilizados para eludir límites técnicos de las herramientas de navegación. Estos límites existen, entre otros motivos, para restringir solicitudes capaces de transportar comandos indebidos.

Anthropic informó que ya descontinuó algunas evaluaciones, transfirió otras a entornos offline y reforzó las restricciones de sus herramientas. También desarrolló sistemas automáticos de detección y bloqueo que, según la compañía, impidieron todos los incidentes documentados cuando se probaron retrospectivamente.

Estos mecanismos ya operan en la mayoría de las evaluaciones y en actividades internas con agentes avanzados. La empresa continuará examinando registros de ejecución, restringiendo conexiones externas y ajustando entornos de entrenamiento que puedan recompensar a los modelos por eludir limitaciones.

Aún no hay una fecha definida para restablecer el acceso a internet en las evaluaciones internas. La habilitación dependerá de la validación de los controles de seguridad, mientras Anthropic mantiene la investigación sobre otros comportamientos no previstos.