Vercel AI Gateway es un gateway de Vercel para conectar aplicaciones a diferentes modelos y proveedores de IA mediante una interfaz unificada, con enrutamiento, facturación centralizada, fallback y observabilidad.
Para qué sirve
- Unificar llamadas a modelos y proveedores en una sola interfaz
- Monitorear uso, costos y rendimiento de las llamadas
- Centralizar facturación, observabilidad, enrutamiento y fallback entre proveedores
Cómo funciona
- La aplicación usa el gateway como punto único de llamadas
- Métricas y registros centralizados de las solicitudes
- Políticas de enrutamiento y fallback configurables
Integraciones
- Se conecta a modelos y proveedores mediante una API común
- Gestiona claves y configuraciones por entorno
Puntos fuertes
- Interfaz unificada para múltiples proveedores
- Observabilidad centralizada de las llamadas
- Enrutamiento, fallback y facturación centralizados
Puntos de atención
- La integración y los recursos disponibles varían según el modelo y el proveedor
- La capa adicional añade un punto de dependencia
- Se aplican las políticas de datos del proveedor