Una nueva investigación publicada en arXiv ha revelado un hallazgo preocupante sobre los modelos de lenguaje diseñados para razonamiento extendido: cuanto más tiempo dedicas estos modelos a procesar una pregunta, más probable es que cometan errores sistemáticos de tipo posicional.

El estudio, titulado More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models, documenta cómo los modelos que utilizan técnicas de cadena de pensamiento prolongado tienden a acumular errores a medida que expanden su proceso de razonamiento. El fenómeno se manifiesta especialmente cuando el modelo debe mantener información de múltiples pasos intermedios en contextos cada vez más largos.

Los investigadores descubrieron que el sesgo posicional se intensifica en dos direcciones: tanto al inicio como al final de secuencias largas de razonamiento. En el primer caso, el modelo otorga peso desproporcionado a la información inicial. En el segundo, la sobrecarga de trabajo cognitivo lleva a conclusiones prematuras que ignoran evidencia presentada anteriormente.

El hallazgo tiene implicaciones directas para el despliegue de estos modelos en aplicaciones críticas como diagnósticos médicos, análisis legales o ingeniería. En estos contextos, un modelo que razona durante varios minutos puede acumular suficientes errores posicionales como para llegar a conclusiones completamente incorrectas.

Los autores del estudio han propuesto varias técnicas para mitigar este sesgo, incluyendo arquitecturas de atención diferenciada y métodos de verificación cruzada que obligan al modelo a revisar sus supuestos antes de formular una respuesta final. Sin embargo, los investigadores reconocen que el problema requiere más estudio antes de que se puedan implementar soluciones confiables en producción.