Investigadores del Instituto de Tecnología de Massachusetts (MIT) utilizaron el GPT-6 Astra, de OpenAI, para corregir un fallo en el modelo Qwen3.5-0.8B, de Alibaba, sin realizar un nuevo entrenamiento. En el experimento divulgado el 2 de noviembre, la tasa de aciertos de Qwen en la prueba matemática MATH-500 pasó de 7,9% a 48,1% tras una intervención en una pequeña parte de los parámetros de la red neuronal.
El trabajo fue realizado por Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, investigadores del laboratorio MIT CSAIL. La técnica, denominada Weight-Space Programming, permite que un modelo de lenguaje examine los pesos numéricos de otra red neuronal, identifique problemas de funcionamiento y proponga cambios directamente en esos valores.
A diferencia del ajuste fino convencional, que utiliza datos y algoritmos de optimización para actualizar parámetros, Astra recibió acceso a los pesos de Qwen mediante un entorno de Python y ejemplos de problemas matemáticos para evaluar sus intervenciones. Se prohibió el uso de entrenamiento y de cálculos de gradientes.
El sistema identificó que Qwen a menudo entraba en ciclos repetitivos durante el razonamiento, consumiendo todo el límite de generación disponible antes de presentar una respuesta. Para corregir el comportamiento, Astra modificó componentes de dos capas de la red neuronal, la 15 y la 19, actuando sobre aproximadamente 0,016% de los parámetros, según la estimación divulgada por los investigadores.
La intervención produjo mejoras en diferentes evaluaciones. En GSM8K, otra prueba matemática, la tasa de aciertos pasó de 13,8% a 67,1%. En IFEval, que mide la capacidad de seguir instrucciones, el resultado aumentó de 21% a 62,3%.
El porcentaje de respuestas que alcanzaban el límite de 32.768 tokens cayó de 93% a 33,1%. Esto indica que una parte sustancial de la mejora se produjo porque el modelo dejó de repetir sus propios razonamientos y logró concluir respuestas que antes quedaban interrumpidas.
Una auditoría muestra que los ajustes de configuración también mejoran a Qwen
Una evaluación independiente publicada el 3 de noviembre por el investigador Carlos Toledo confirmó que los archivos disponibles presentan cambios en los componentes identificados por el estudio. El análisis encontró 130.188 valores efectivamente modificados, aunque la intervención abarcó 131.072 posiciones en los pesos de la red.
La auditoría también identificó una salvedad importante en la comparación de rendimiento. Al ejecutar el Qwen original sin ninguna modificación en los pesos, pero con el modo de razonamiento desactivado y otras configuraciones de generación recomendadas por el fabricante, Toledo obtuvo 44% de acierto en MATH-500.
Ese resultado no constituye una comparación directa con la versión modificada por Astra, pues las pruebas utilizaron configuraciones diferentes. Sin embargo, demuestra que la puntuación inicial de 7,9% estuvo fuertemente influenciada por los ciclos repetitivos que presentó el modelo en las condiciones elegidas por el MIT.
Los propios investigadores también encontraron limitaciones al aplicar el enfoque a Gemma 3 270M, de Google. Como ese modelo no presentaba el mismo problema persistente de repetición, los cambios no produjeron una mejora matemática significativa.
El estudio, divulgado como informe técnico y aún sin revisión por pares, presenta resultados iniciales sobre la posibilidad de utilizar modelos avanzados para diagnosticar y modificar otras redes neuronales. Los autores pusieron a disposición los registros de los experimentos y una versión editada de Qwen para permitir nuevas evaluaciones.
