O The Information informou que a Nvidia está desenvolvendo o Nemotron 4, uma família de modelos de linguagem de código aberto, cuja maior versão deve ter ao menos 1 trilhão de parâmetros — o dobro do tamanho do Nemotron 3 Ultra.
O lançamento mais cedo possível seria no outono do hemisfério Norte. A Nvidia triplicou seus gastos com computação em nuvem para treinamento interno de modelos, chegando a US$ 28 bilhões até 2031.
Escala ainda abaixo de modelos chineses
Mesmo na escala de 1 trilhão de parâmetros, a Nvidia alcançaria um nível que laboratórios chineses já superaram. O Kimi K3, da Moonshot AI, tem 2,8 trilhões de parâmetros, e o DeepSeek V4 Pro tem 1,6 trilhão.
No lançamento do Nemotron 3 Ultra, em junho, o modelo foi o mais forte entre os modelos abertos dos Estados Unidos no Artificial Analysis Intelligence Index, mas ficou atrás do Kimi K2.6. Na versão atual do índice, o Nemotron 3 Ultra marca 38 pontos, enquanto o Kimi K3 fica em torno de 60.
A Nvidia também integra a lista de signatários de uma petição contra a regulação de modelos abertos, enquanto o governo Trump avalia proibições direcionadas a modelos chineses específicos. O Nemotron 4, porém, colocaria a empresa em concorrência direta com grandes clientes, como a OpenAI.
