A Amazon anunciou nesta segunda-feira (19) o TorchNeuron, uma ferramenta que permite executar código desenvolvido com PyTorch nos aceleradores de inteligência artificial Trainium, da AWS, sem precisar reescrever as aplicações. Segundo a empresa, a migração pode ser feita com uma simples alteração de configuração, reduzindo uma das principais dificuldades enfrentadas por desenvolvedores que desejam utilizar chips alternativos aos da Nvidia.
O software será disponibilizado gratuitamente e com código aberto em 20 de outubro, durante a PyTorch Conference North America. A Amazon informou que a ferramenta terá licença Apache 2.0 e oferecerá suporte aos aceleradores Trainium2 e Trainium3.
O PyTorch é um framework de aprendizado de máquina mantido pela Meta e amplamente utilizado no desenvolvimento de modelos de IA. Embora não seja exclusivo da Nvidia, sua integração com o ecossistema CUDA representa uma vantagem importante para a fabricante, que investe há mais de uma década em ferramentas para executar aplicações de inteligência artificial em suas GPUs.
Com o TorchNeuron, a Amazon pretende reduzir a necessidade de adaptações de software para utilizar sua própria infraestrutura. A ferramenta também oferece integração com recursos de compilação, processamento distribuído e desenvolvimento de operações personalizadas para os chips Trainium.
Em entrevista à Reuters, Colin Brace, vice-presidente de software da Annapurna Labs, divisão de chips da Amazon, resumiu a estratégia: “A ideia tem sido encontrar os clientes onde eles já estão.”
Segundo o executivo, mais de 30 clientes iniciais já utilizam o TorchNeuron, incluindo empresas que desenvolvem aplicações de robótica, modelos de mundo e inteligência artificial para voz. Brace afirmou que a migração para os chips da Amazon pode proporcionar economias significativas, mas não apresentou resultados independentes que permitam comparar os custos entre as plataformas.
O TorchNeuron já aparecia na documentação técnica da AWS em versões de acesso restrito. O anúncio de outubro marca, portanto, uma nova etapa de distribuição pública, e não o surgimento da tecnologia.
A promessa de executar código sem reescrita também não significa compatibilidade irrestrita com todas as aplicações PyTorch. O suporte efetivo e o desempenho continuam sujeitos às características dos modelos e às funcionalidades implementadas pela AWS.
