Como os LLMs são feitos / Glossário

Cadeia de pensamento (chain of thought)

Cadeia de pensamento é o raciocínio passo a passo que um modelo de linguagem escreve antes da resposta final. Modelos de raciocínio são treinados para produzir cadeias longas e resolver problemas mais difíceis.

Pesquisadores mostraram em 2022 que simplesmente pedir a um modelo grande que escrevesse o raciocínio passo a passo melhorava a precisão em problemas de matemática. Escrever os passos dá ao modelo mais texto para se apoiar antes de se comprometer com uma resposta.

Modelos de raciocínio vão além com treino. Eles praticam com problemas de resposta verificável, como matemática e código, e o aprendizado por reforço recompensa as cadeias que chegam ao resultado certo. Hábitos como conferir o próprio trabalho são reforçados, e pensar por mais tempo muitas vezes ajuda.

Uma cadeia de pensamento é útil, mas não é uma janela perfeita para dentro do modelo. Pesquisadores viram que os passos escritos nem sempre refletem o que realmente levou à resposta, então o resultado final ainda precisa ser conferido.