SambaNova (Estados Unidos) es la empresa detrás de SambaCloud, plataforma de inferencia en la nube para modelos abiertos de gran tamaño. La API es compatible con el cliente OpenAI y con la Messages API de Anthropic, lo que permite reutilizar código existente cambiando solo la clave y la URL base.
Para qué sirve
- Ejecutar modelos abiertos de texto, imagen y audio por API gestionada
- Servir aplicaciones, agentes y flujos de RAG desde un endpoint único
- Prototipar en el portal self-service y escalar el uso según la demanda
Cómo funciona
- El desarrollador crea la cuenta en el portal, genera la clave y apunta el cliente a la URL base
- Cada cuenta puede mantener varias claves de API activas
- Los límites de peticiones y de tokens varían entre la capa gratuita y la capa de desarrollador
- El cobro acompaña el consumo, con acuerdo comercial para volúmenes mayores
- Los prompts no se usan para entrenar modelos, según la política oficial de privacidad
Modelos e infraestructura
- Modelos de producción y de vista previa de proveedores como Meta, DeepSeek, MiniMax y OpenAI
- Ejecución en hardware propio RDU, diseñado para inferencia de modelos grandes
- Recursos de generación de texto, visión, audio, embeddings, llamadas a funciones y caché de prompt
- Para entornos dedicados, la empresa ofrece SambaStack, instalado en la infraestructura del cliente
Puntos fuertes
- API compatible con OpenAI y Anthropic reduce el esfuerzo de migración
- Portal self-service con capa gratuita para pruebas
- Privacidad declarada: la plataforma no recoge prompts ni datos del usuario
Puntos de atención
- El foco son modelos abiertos alojados; no es un router entre proveedores externos
- Funciones corporativas dedicadas e instalación local exigen el producto SambaStack
- Los límites de la capa gratuita son bajos, lo que pide la capa de pago para producción