O SambaNova (Estados Unidos) é a empresa por trás do SambaCloud, plataforma de inferência em nuvem para modelos abertos de grande porte. A API é compatível com o cliente OpenAI e com a Messages API da Anthropic, o que permite reaproveitar código existente trocando apenas a chave e a URL base.
Para que serve
- Executar modelos abertos de texto, imagem e áudio por API gerenciada
- Servir aplicações, agentes e fluxos de RAG a partir de um endpoint único
- Prototipar no portal self-service e escalar o uso conforme a demanda
Como funciona
- O desenvolvedor cria a conta no portal, gera a chave e aponta o cliente para a URL base
- Cada conta pode manter várias chaves de API ativas
- Os limites de requisições e de tokens variam entre a camada gratuita e a camada de desenvolvedor
- A cobrança acompanha o consumo, com acerto comercial para volumes maiores
- Os prompts não são usados para treinar modelos, segundo a política oficial de privacidade
Modelos e infraestrutura
- Modelos de produção e de pré-visualização de fornecedores como Meta, DeepSeek, MiniMax e OpenAI
- Execução em hardware próprio RDU, projetado para inferência de modelos grandes
- Recursos de geração de texto, visão, áudio, embeddings, chamadas de função e cache de prompt
- Para ambientes dedicados, a empresa oferece o SambaStack, instalado na infraestrutura do cliente
Pontos fortes
- API compatível com OpenAI e Anthropic reduz o esforço de migração
- Portal self-service com camada gratuita para testes
- Privacidade declarada: a plataforma não coleta prompts nem dados do usuário
Pontos de atenção
- O foco são modelos abertos hospedados; não é um roteador entre provedores externos
- Recursos corporativos dedicados e instalação local exigem o produto SambaStack
- Os limites da camada gratuita são baixos, o que pede a camada paga para produção