A Together AI é uma plataforma de infraestrutura para executar e servir modelos de IA, com opções de inferência voltadas a aplicações e cargas de trabalho de produção.
Para que serve
- Executar e servir modelos de IA por API
- Hospedar modelos em infraestrutura gerenciada
- Atender aplicações com necessidade de inferência contínua
Como funciona
- O usuário escolhe um modelo e obtém um endpoint de inferência
- A plataforma gerencia a infraestrutura de execução
- Integra-se a aplicações por API padrão
Recursos
- Inferência para modelos abertos e personalizados
- Opções de implantação gerenciada e dedicada
- Infraestrutura para produção
Pontos fortes
- Foco em produção e escala
- Suporte a modelos abertos e próprios
- Infraestrutura gerenciada
Pontos de atenção
- Requer integração técnica para uso em produção
- Recursos variam conforme o plano e o modelo
- Políticas de dados da plataforma se aplicam ao uso