Cloudflare AI Gateway es una capa de control para el tráfico de aplicaciones de IA, con análisis, caché, limitación de solicitudes, enrutamiento y fallback.
Para qué sirve
- Controlar y observar llamadas a modelos y proveedores
- Aplicar caché y limitación de solicitudes al tráfico de IA
- Enrutamiento y fallback entre proveedores
Cómo funciona
- El tráfico de IA pasa por la red de Cloudflare
- Las políticas de caché, límite y enrutamiento se configuran en la capa
- Métricas centralizadas de uso y rendimiento
Integraciones
- Se conecta a modelos y proveedores mediante una interfaz común
- Corre en el borde de la red de Cloudflare
Puntos fuertes
- Análisis y observabilidad del tráfico de IA
- Caché y limitación de solicitudes en el borde
- Enrutamiento y fallback entre proveedores
Puntos de atención
- Requiere infraestructura o cuenta en Cloudflare
- La capa adicional añade un punto de dependencia
- Las funciones varían según el proveedor integrado