LLMができるまで / 用語集

LLMができるまで用語集

LLMができるまでの用語をやさしく解説。それぞれ短いビジュアルレッスンにつながっています。

AIアラインメント: AIアラインメントとは、AIのふるまいを人が意図し大切にすることに合わせる取り組みです。ふだんのお願いには役に立ち、知っていることには正直で、害をさけるよう注意深くします。
AIベンチマーク: AIベンチマークとは、試験問題、算数の問題、プログラミングの課題など、答えを確かめられる決まった問題のセットです。モデルの性能を測ってくらべるのに使います。
Chain-of-Thought（思考の連鎖）: Chain-of-Thought（思考の連鎖）は、言語モデルが最終的な答えの前に書き出す、一歩ずつの考えの道すじです。推論モデルは、難しい問題を解くために長い思考の連鎖を書くよう学習しています。
RLHF（人間のフィードバックによる強化学習）: RLHF（人間のフィードバックによる強化学習）は、2つの答えを人がくらべた結果をたくさん使って、人がどんな答えを好むかをモデルに教える学習方法です。
robots.txt: robots.txtは、Webサイトに置く小さなテキストファイルで、クローラーにどのページを訪れてよいか、だめかを伝えます。サイトの持ち主は、AIのクローラーに中身を集めないよう頼むのに使えます。
Transformer（トランスフォーマー）: Transformer（トランスフォーマー）は、いまの言語モデルのほとんどが使っているニューラルネットワークの設計です。文章のトークンをすべて同時に処理し、アテンションでトークンどうしが情報を伝え合います。
Webクローラー: Webクローラーは、Webページを自動で訪れて中身を保存し、リンクをたどってさらにページを見つけるプログラムです。言語モデルの学習に使う文章の多くはクローラーが集めています。
アテンション（注意機構）: アテンション（注意機構）は、Transformerの中で、各トークンがほかのトークンがどれくらい大事かを重みづけし、その重みに合わせて情報をまぜて取りこむ部分です。
コンテキストウィンドウ: コンテキストウィンドウとは、言語モデルが一度に受け取れる文章の最大量で、トークンの数で数えます。あなたのメッセージ、モデルの返事、貼りつけたファイル、見えない指示まで含みます。
スケーリング則: スケーリング則は、パラメータ、学習データ、計算量を増やすと、言語モデルの損失がなめらかに予測どおり下がることを示すパターンです。研究所はこれを使って、どれくらいの大きさで作るかを計画します。
ツール呼び出し（Function Calling）: ツール呼び出しとは、言語モデルが検索、電卓、カレンダーなどの外部ツールを使うための決まった形のリクエストを書き、まわりのソフトウェアがツールを動かして結果を返すことです。
トークナイザー: トークナイザーは、文章を言語モデルが読むかけら（トークン）に切り分け、それぞれを数字に変える道具です。モデルが出した数字を文章に戻すのもトークナイザーの仕事です。
パラメータ（モデルの重み）: パラメータは「重み」とも呼ばれる、AIモデルの中にある調整できる数字です。学習でこれを調整すると予測がよくなり、モデルが学んだことはすべてこの数字の中にたくわえられます。
ファインチューニング: ファインチューニングとは、事前学習ずみのモデルを、小さくしぼった例のセットでもう少し学習させることです。特定の作業が得意になったり、決まったふるまいをしたりするようになります。
ベースモデル（基盤モデル）: ベースモデルは、事前学習を終えたばかりの言語モデルです。指示に従うのではなく文章の続きを書くので、アシスタントとして働くにはさらに学習が必要です。
モデルカード: モデルカードは、AIモデルといっしょに公開される短い文書で、食品の成分表示のようなものです。モデルの用途、学習とテストの方法、わかっている限界とリスクを伝えます。
レッドチーミング: レッドチーミングとは、公開前に自分たちのAIシステムをわざと攻撃し、おかしなふるまいをさせようとすることです。本物のユーザーが出会う前に弱点を見つけて直します。
温度（Temperature）: 温度（Temperature）は、言語モデルの出力を予測しやすくするか、ばらつかせるかを決める設定です。低いといちばんありそうなトークンにこだわり、高いとありそうにないトークンも出やすくなります。
勾配降下法: 勾配降下法は、ほとんどのAIモデルを学習させる方法です。重みごとに損失が下がる方向を計算し、すべての重みをその方向に少しずつ動かすことを、何度もくり返します。
事前学習（プレトレーニング）: 事前学習は、言語モデルを作るときの最初でいちばん大きな工程です。大量の文章を読み、次のトークンを予測することをくり返して、人のラベルなしで学びます。
重複除去（デデュプリケーション）: 重複除去とは、データセットから同じ文章のコピーを見つけて取りのぞくことです。言語モデルが学習中に同じ文を何度も読まないようにします。
損失関数: 損失関数は、モデルの予測がどれくらいまちがっていたかを測る式です。学習では、この数字（損失、ロス）をできるだけ小さくしようとします。
知識蒸留: 知識蒸留とは、小さな「生徒」モデルに、大きな「先生」モデルの出力をまねるよう学習させることです。生徒は、ずっと小さなサイズで先生の力の多くを受けつぎます。
報酬モデル: 報酬モデルは、人間の評価者と同じように答えに点数をつける、別のAIモデルです。人の比較データで学習し、言語モデルをよりよい答えへ導くのに使われます。
埋め込み（エンベディング）: 埋め込み（エンベディング）とは、言葉やトークン、文、画像を、意味の空間の中の1つの点として表す数字のリストです。意味が似たものほど近くに集まります。
量子化: 量子化とは、AIモデルの重みを1つずつ少ないビット数（たとえば16ではなく4）でたくわえて、モデルを小さく速くすることです。そのかわり、少しの丸め誤差を受け入れます。