Un equipo del Instituto Tecnológico de Massachusetts (MIT) ha demostrado que es posible mejorar un modelo de inteligencia artificial sin necesidad de reentrenarlo desde cero. Los investigadores usaron un segundo modelo de lenguaje para analizar los pesos, los parámetros internos que definen el comportamiento de la red neuronal, y detectaron cuáles estaban provocando fallos sistemáticos en las respuestas.

El método, denominado Astra, consistió en retocar únicamente el 0,016 % de los pesos de Qwen, uno de los modelos de código abierto de Alibaba. Tras la intervención, el rendimiento del modelo en pruebas matemáticas subió del 7,9 % al 48,1 %, un salto considerable que los propios investigadores califican de inesperado.

Los autores del estudio reconocen dos limitaciones importantes. En primer lugar, la investigación aún no ha pasado la revisión de pares, por lo que sus resultados deben interpretarse con cautela. En segundo lugar, la técnica solo funciona cuando el modelo presenta fallos concretos que puedan identificarse y eliminarse; no permite añadir capacidades nuevas.

Si los resultados se confirman, el hallazgo tendría implicaciones para la industria: sugiere que los modelos ya desplegados pueden mejorarse sin los altos costes de cómputo que exige el reentrenamiento completo, lo que podría democratizar el acceso a modelos de mayor rendimiento.