Cómo se crean los LLM / Glosario

Cadena de pensamiento (chain of thought)

La cadena de pensamiento es el razonamiento paso a paso que un modelo de lenguaje escribe antes de su respuesta final. Los modelos de razonamiento se entrenan para producir cadenas largas y resolver problemas más difíciles.

En 2022 unos investigadores mostraron que bastaba con pedir a un modelo grande que escribiera su razonamiento paso a paso para que acertara más en problemas de matemáticas con enunciado. Escribir los pasos le da al modelo más texto en el que apoyarse antes de comprometerse con una respuesta.

Los modelos de razonamiento van más allá con entrenamiento. Practican con problemas de respuesta comprobable, como matemáticas y código, y el aprendizaje por refuerzo premia las cadenas que llegan al resultado correcto. Se refuerzan hábitos como revisar su propio trabajo, y pensar más tiempo suele ayudar.

Una cadena de pensamiento es útil, pero no es una ventana perfecta al interior del modelo. Los investigadores han visto que los pasos escritos no siempre reflejan lo que de verdad llevó a la respuesta, así que el resultado final hay que comprobarlo igualmente.