II-B1 LLMの学習と推論の違いを理解する

ChatGPTやGeminiに質問すると、まるでその場で考えて答えているように感じます。しかしAIの内部を分解すると、「学習（事前学習）」と「推論」というまったく性質の違う2つの工程が動いています。この違いを最初に理解しておくと、「AIはなぜ最新情報を知らないのか」「なぜRAGという仕組みが必要なのか」といった、この先の編II-Bで扱う技術がすべて一本の線でつながって見えてきます。

LLM（大規模言語モデル）とは何か

LLM（大規模言語モデル）とは、大量のテキストから単語の並び方の統計パターンを学習し、次に来る単語（トークン。詳しくはII-B2で扱います）を予測して文章を生成するAIモデルのことです。ChatGPT・Gemini・Claudeなど主要なAIサービスの頭脳部分にあたり、入力を数値化（エンコード）してから次の出力を予測するという処理を繰り返す点は各社共通しています（出典: AWS, 2026年7月確認）。

学習（事前学習）というフェーズ

学習（事前学習）は、Wikipedia・GitHub・書籍・Webクロールなど数兆語規模のテキストを使い、「次に来る語を当てる」という反復作業を通じてモデルのパラメータを調整していく工程です（出典: Elastic, 2026年7月確認）。この工程には数週間から数ヶ月規模の計算コストがかかるとされ、常に学習を回し続けるのは現実的ではないとされています（出典: 株式会社AX, 2026年7月確認）。学習は「一度きりで重い」工程であり、いったん終えたら、そのモデルの知識はそこで固定されます。

推論というフェーズ

推論は、学習を終えたモデルに実際に質問し、その都度答えを作らせる軽い工程です。推論はさらに2段階に分かれ、「入力を一括処理して文脈を組み立てる段階（プレフィル）」と、「直前までの生成結果を踏まえて次の1語を予測する処理を繰り返す段階（デコード）」から成り立っています（出典: arXiv「LLM Inference Unveiled」, 2026年7月確認）。イメージにすると、次のような流れです。

質問: 「AIOとは何ですか」

プレフィル(一括処理): 質問文全体を読み込み、文脈を組み立てる
デコード(1語ずつ生成):
  1語目 → 「AI」
  2語目 → 「検索」
  3語目 → 「最適化」
  …(直前までの生成結果を踏まえて次の1語を予測する処理の繰り返し)

質問するたびにこの2段階が動くため、学習に比べればずっと軽い処理で済みます。

なぜこの区別がAIOの土台になるのか

この2つの区別を知ると、AI検索の特性が見えてきます。学習は事前に終わっている一度きりの工程なので、学習を終えたあとに起きた出来事（新商品の発売・価格改定など）を、モデルは基本的に知りません。この「知識の締め切り」については次のII-B3で詳しく扱います。また、推論だけでは新しい情報を扱えないため、質問のたびに外部情報を検索してから答える仕組みが必要になります。これがRAGで、II-B5で仕組みを詳しく見ていきます。要するに、学習と推論の違いを押さえることが、この先の技術理解すべての出発点になるということです。

実践ステップ

1. 1
   自社（または担当している）サービスについてChatGPTに質問し、回答の中身がいつ頃の情報に基づいていそうか確認する
2. 2
   回答に出典や引用リンクが付いているか、それとも学習した記憶だけで答えているように見えるかを見分けてみる
3. 3
   「AIは考えているのではなく、統計的に次の言葉を予測している」という説明を、自分の言葉で1分間話せるように練習する
4. 4
   学習（重い・一度きり）と推論（軽い・都度）という2つのフェーズの違いを、簡単なメモか図にまとめておく
5. 5
   このメモは次のII-B2（トークンとコンテキスト）・II-B3（学習データカットオフ）を読む際の土台になるので保存しておく

このレッスンはテキストとスライドで学べます。スライドは上のビューアからご覧ください。