LLM推論向上のための推論時スケーリング手法の分類

**推論時間スケーリングのカテゴリー：LLM推論能力向上に向けて** **推論時間スケーリングのカテゴリー：LLM推論能力向上に向けて** ![](https://substackcdn.com/image/fetch/$s_!CfW_!,w_36,h_36,c_fill,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fbucketeer-e05bbc84-baa3-437e-9518-adb32be77984.s3.amazonaws.com%2Fpublic%2Fimages%2F61f4c017-506f-4e9b-a24f-76340dad0309_800x800.jpeg) Sebastian Raschka, PhD2026年1月24日∙ 有料会員向け321シェア推論スケーリングは、デプロイされたLLMの回答品質と精度を向上させる最も効果的な方法の一つとなっています。 その考え方は単純明快です。もし私たちが、もう少し多くの計算リソースと、推論時（モデルを使ってテキストを生成する時）にもう少し多くの時間を費やすことを厭わないなら、モデルにより良い答えを生成させることができるのです。 今日、主要なLLMプロバイダーはすべて、何らかの形の推論時間スケーリングに依存しています。また、これらの手法に関する学術文献も大きく増えています。 今年3月、私は推論スケーリングの状況の概要を書き、いくつかの初期技術をまとめました。 ![](https://substackcdn.com/image/fetch/$s_!IOSP!,w_140,h_140,c_fill,f_auto,q_auto:good,fl_progressive:steep,g_auto/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Faf9e2677-652a-4af1-9f57-dc0c253d2198_1448x1260.png) LLM推論モデル推論の現状 この記事では、以前の議論を一歩進め、さまざまなアプローチをより明確なカテゴリーに分類し、過去数ヶ月間に現れた最新の研究を紹介したいと思います。 『Build a Reasoning Model (From Scratch)』の推論スケーリングに関する完全な章を起草する過程で、私はこれらの手法の基本的な種類の多くを自分自身で試すことになりました。ハイパーパラメータチューニングを伴うと、これはすぐに数千回の実行に及び、章でより詳細に取り上げるべきアプローチを理解するために多くの思考と作業が必要でした。（章があまりにも大きくなったので、最終的には2つに分割し、両方とも現在早期アクセスプログラムで利用可能です。） 追記：私は特に、章（複数）の仕上がりに満足しています。基本モデルの精度を約15％から約52％まで向上させており、これまでの書籍の中で最もやりがいのある部分の一つとなっています。 以下に記すのは、最終的な章の流れには完全には合わなかったものの、それでも共有する価値のあるアイデア、メモ、論文の集まりです。 また、時間をかけてGitHubのボーナス資料により多くのコード実装を追加する予定です。 **目次（概要）** 推論時間スケーリング概要 連鎖的思考プロンプティング 自己一貫性 N個中ベストランキング 検証器を用いた棄却サンプリング 自己改善 解決経路の探索 結論、カテゴリー、組み合わせ ボーナス：プロプライエタリLLMは何を使っているのか？ 記事のウェブビューでは、左側のナビゲーションバーを使用して任意のセクションに直接ジャンプできます。 **1. 推論時間スケーリング概要** 推論時間スケーリング（推論計算スケーリング、テスト時間スケーリング、または単に推論スケーリングとも呼ばれる）は、推論時により多くの計算リソースと時間を割り当ててモデルの性能を向上させる手法の総称です。 この考え方は長い間存在しており、古典的な機械学習におけるアンサンブル手法は、推論時間スケーリングの初期の例と考えることができます。つまり、複数のモデルを使用することはより多くの計算リソースを必要としますが、より良い結果をもたらすことができます。 LLMの文脈においてさえ、この考え方は長い間存在していました。しかし、昨年OpenAIがo1発表ブログ記事の一つで推論時間スケーリングとトレーニングの関係図を示した際に、特に（再び）人気を博したことを覚えています（Learning to Reason with LLMs）。 ![](https://substackcdn.com/image/fetch/$s_!oiA2!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ffff769a2-8324-4fbd-8659-4615e4711ce2_1600x900.png) 図1：推論時（左）とトレーニング時（右）に追加リソースを費やすことは、一般的にモデルの精度を向上させる。 OpenAIのブログ投稿から引用したこの図は、LLMを改善するために使用できる2つの調整方法の背後にある考え方をうまく捉えていると思います。トレーニング時（より多くのデータ、より大きなモデル、より多くのまたはより長いトレーニング段階）または推論時に、より多くのリソースを費やすことができます。 実際には、実践的には両方を同時に行う方がさらに良いです：より強力なモデルをトレーニングし、追加の推論スケーリングを使用してそれをさらに良くするのです。 この記事では、図の左側の部分、すなわち推論時間スケーリング技術、つまりモデルの重みを変更しないトレーニング不要の技術にのみ焦点を当てます。 この投稿は有料購読者向けです。

LLM推論向上のための推論時スケーリング手法の分類

背景や根拠まで確認しますか？

調べる

選ぶ

サイト