Writer lanzó el jueves el modelo de IA Palmyra X6 y nuevas actualizaciones en su infraestructura para agentes. La empresa afirma que la combinación reducirá los costos de los clientes en tareas básicas hasta en un 50%. Informó TechCrunch el jueves (13).
Modelo e infraestructura
El Palmyra X6 es una variación de post-entrenamiento del modelo abierto GLM-5.2, de Z.ai. Según Writer, el sistema ofrece capacidades listas para implementación a un precio menor. Las novedades ya están disponibles para los clientes desde el jueves.
La estrategia prioriza tareas complejas y de múltiples etapas, ejecutadas de forma más rápida y con menos tokens. La empresa apuesta por la optimización de la infraestructura como principal palanca de reducción de gastos.
Investigación interna
Un estudio de investigadores de Writer probó pequeños cambios en la eficiencia de la infraestructura en varios modelos y encontró una caída promedio del 40% en los costos. “La infraestructura es el único componente cuya eficiencia se multiplica por todos los modelos que una organización ejecuta, presentes y futuros”, escribieron los autores.
Visión del CEO
El CEO de Writer, May Habib, afirmó que las empresas están cansadas de perseguir benchmarks y desean reducción de costos. “La explosión de costos no tiene precedentes para los clientes, así como el grado en que los CIOs están renunciando a los laboratorios”, dijo, y agregó que los grandes laboratorios no saben ayudar a las empresas a obtener beneficios de la IA.
Para los clientes, la experiencia sigue siendo agnóstica en cuanto al modelo: el Palmyra X6 estará junto a otros modelos de Writer o modelos externos importados a través de Azure o Amazon Bedrock.
