O Portkey (EUA) é um gateway de IA que fica entre a aplicação e os provedores de modelos. Ele centraliza roteamento, fallback, limites de uso, guardrails e observabilidade em um único painel, com uma versão open source para self-hosting e planos gerenciados.
Para que serve
- Roteamento de chamadas entre OpenAI, Anthropic, Google, Azure, Bedrock e outros provedores
- Fallback e retentativas automáticas quando um provedor falha ou passa do limite
- Balanceamento de carga entre chaves e implantações do mesmo modelo
- Guardrails de entrada e saída, além de detecção de dados sensíveis
- Logs, métricas e custo por requisição em um painel único
Como funciona
- A aplicação chama um endpoint compatível com o formato OpenAI
- O gateway aplica políticas, escolhe o provedor e registra a requisição
- Chaves virtuais dão acesso por projeto, equipe ou usuário
- A versão open source pode rodar em infraestrutura própria com Docker
Modelos e provedores
- Catálogo com centenas de modelos de dezenas de provedores
- Suporte a modelos de texto, imagem, áudio e embeddings
- Provedores podem ser adicionados por chave própria (BYOK)
Preços públicos
- Versão open source gratuita para self-hosting
- Plano Developer gratuito com limite mensal de logs
- Plano Production pago por volume de logs
- Enterprise com SSO, VPC e opções de residência de dados
Pontos fortes
- Um painel para roteamento, custo e governança
- Versão open source sem dependência do serviço gerenciado
- Guardrails e políticas sem alterar o código da aplicação
Pontos de atenção
- Recursos de governança variam entre open source e planos pagos
- Requer configuração de chaves e políticas antes de produção
- A camada extra adiciona um ponto de dependência