温度（Temperature）

温度（Temperature）は、言語モデルの出力を予測しやすくするか、ばらつかせるかを決める設定です。低いといちばんありそうなトークンにこだわり、高いとありそうにないトークンも出やすくなります。

モデルは次のトークンごとに、すべての候補に点数をつけて確率に変え、1つを引きます。温度はその前に点数を割り算します。1より小さいと本命がさらに強くなり、1より大きいと確率が平らになります。

低い温度は、事実、コード、データの取り出しなど、毎回同じ確かな答えがほしいときに向いています。高い温度はアイデア出しや創作に向いていますが、上げすぎると文章がおかしくなったり、意味が通らなくなったりします。

温度は、ほかのサンプリングのルールと組み合わせることがよくあります。いちばんありそうなk個のトークンだけから引くtop-kや、確率の大部分をしめる最小のトークンの組だけから引くtop-pなどです。