O Vercel AI Gateway é um gateway da Vercel para conectar aplicações a diferentes modelos e provedores de IA por uma interface unificada, com roteamento, faturamento centralizado, fallback e observabilidade.
Para que serve
- Unificar chamadas a modelos e provedores em uma única interface
- Acompanhar uso, custos e desempenho das chamadas
- Centralizar faturamento, observabilidade, roteamento e fallback entre provedores
Como funciona
- A aplicação passa a usar o gateway como ponto único de chamadas
- Métricas e logs centralizados das requisições
- Políticas de roteamento e fallback configuráveis
Integrações
- Conecta-se a modelos e provedores por uma API comum
- Gerencia chaves e configurações por ambiente
Pontos fortes
- Interface unificada para múltiplos provedores
- Observabilidade centralizada das chamadas
- Roteamento, fallback e faturamento centralizados
Pontos de atenção
- A integração e os recursos disponíveis variam conforme o modelo e o provedor
- A camada extra adiciona um ponto de dependência
- Políticas de dados do provedor se aplicam ao uso