Amazon anunció este lunes (19) el TorchNeuron, una herramienta que permite ejecutar código desarrollado con PyTorch en los aceleradores de inteligencia artificial Trainium, de AWS, sin necesidad de reescribir las aplicaciones. Según la empresa, la migración puede realizarse con un simple cambio de configuración, lo que reduce una de las principales dificultades que enfrentan los desarrolladores que desean utilizar chips alternativos a los de Nvidia.
El software estará disponible de forma gratuita y como código abierto el 20 de octubre, durante la PyTorch Conference North America. Amazon informó que la herramienta tendrá licencia Apache 2.0 y ofrecerá soporte para los aceleradores Trainium2 y Trainium3.
PyTorch es un framework de aprendizaje automático mantenido por Meta y ampliamente utilizado en el desarrollo de modelos de IA. Aunque no es exclusivo de Nvidia, su integración con el ecosistema CUDA representa una ventaja importante para el fabricante, que lleva más de una década invirtiendo en herramientas para ejecutar aplicaciones de inteligencia artificial en sus GPUs.
Con TorchNeuron, Amazon pretende reducir la necesidad de adaptaciones de software para utilizar su propia infraestructura. La herramienta también ofrece integración con recursos de compilación, procesamiento distribuido y desarrollo de operaciones personalizadas para los chips Trainium.
En una entrevista con Reuters, Colin Brace, vicepresidente de software de Annapurna Labs, la división de chips de Amazon, resumió la estrategia: “La idea ha sido encontrar a los clientes donde ya están.”
Según el ejecutivo, más de 30 clientes iniciales ya utilizan TorchNeuron, incluidas empresas que desarrollan aplicaciones de robótica, modelos del mundo e inteligencia artificial para voz. Brace afirmó que la migración a los chips de Amazon puede proporcionar ahorros significativos, pero no presentó resultados independientes que permitan comparar los costos entre las plataformas.
TorchNeuron ya aparecía en la documentación técnica de AWS en versiones de acceso restringido. El anuncio de octubre marca, por tanto, una nueva etapa de distribución pública, y no el surgimiento de la tecnología.
La promesa de ejecutar código sin reescritura tampoco significa compatibilidad irrestricta con todas las aplicaciones PyTorch. El soporte efectivo y el rendimiento siguen sujetos a las características de los modelos y a las funcionalidades implementadas por AWS.
