Writer lançou, na quinta-feira, o modelo de IA Palmyra X6 e novas atualizações em sua infraestrutura para agentes. A empresa afirma que a combinação reduzirá em até 50% os custos de clientes em tarefas básicas. Informou a TechCrunch na quinta-feira (13).
Modelo e infraestrutura
O Palmyra X6 é uma variação de pós-treinamento do modelo aberto GLM-5.2, da Z.ai. Segundo a Writer, o sistema oferece capacidades prontas para implantação a um preço menor. As novidades já estão disponíveis para clientes desde quinta-feira.
A estratégia prioriza tarefas complexas e de múltiplas etapas, executadas de forma mais rápida e com menos tokens. A empresa aposta na otimização da infraestrutura como principal alavanca de redução de gastos.
Pesquisa interna
Um estudo de pesquisadores da Writer testou pequenas mudanças na eficiência da infraestrutura em vários modelos e encontrou queda média de 40% nos custos. “A infraestrutura é o único componente cuja eficiência se multiplica por todos os modelos que uma organização executa, presentes e futuros”, escreveram os autores.
Visão do CEO
O CEO da Writer, May Habib, afirmou que as empresas estão cansadas de perseguir benchmarks e desejam redução de custos. “A explosão de custos é sem precedentes para os clientes, assim como o grau em que os CIOs estão desistindo dos laboratórios”, disse, acrescentando que os grandes laboratórios não sabem ajudar empresas a obter benefícios da IA.
Para os clientes, a experiência continua agnóstica em relação ao modelo: o Palmyra X6 ficará ao lado de outros modelos da Writer ou de modelos externos importados por meio do Azure ou do Amazon Bedrock.
