思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

中間思考ステップの出力によりLLMの潜在的問題を解く力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

著者らはGSM8Kで、通常のプロンプトによる18%に対し、思考の途中を例示するCoTで57%の正解率を報告しました。PaLM 540Bでは、比較対象の特化型モデルを上回る結果でした。ほかの多段推論課題でも改善を報告しています。

特定ハードウェアや分散構成に対する依存性

著者らの結果は、大きな言語モデルに答えだけでなく途中の考え方の見本を示すと、一部の計算や常識問題で成績が上がることを示しています。別の問題でも同じなら、答え方の指示を工夫する価値があります。ただし、小さなモデルでは効果が弱く、書かれた途中説明が本当の理由を表すとも限りません。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

計算資源の大量投入や既存の標準的アプローチに依存していた。

中間思考ステップの出力によりLLMの潜在的問題を解く力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

通常のFew-shotプロンプトは『Q: 質問 → A: 答え』というペアを与えますが、CoTでは『Q: 質問 → A: まず〇〇を計算して、次に××だから、答えは△△』という中間ステップを挟みます。モデルは自己回帰的に直前の文章を参照しながら次の言葉を予測するため、自分で書いた思考ステップが次の推論の強固な足場となります。

著者らは、思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

その評価で著者らは、GSM8Kにおいて、PaLM 540Bの正解率が通常プロンプトの17.9%から56.9%へと3倍以上向上。SVAMP（難関算数問題）において、タスク特化型モデル（57.4%）を上回る68.9%を達成。MAWPSなどの幾何・代数問題においても一貫して人間平均に迫るスコアを記録

効果が確かめられたのは、十分に大きなモデルを使った計算、常識、記号操作などの問題です。小さなモデルでは同じ改善が見られず、書かれた途中説明が本当に答えを出した理由かも分かりません。

推論の各ステップで一度ハルシネーション（事実誤認）が混入すると、その後のステップすべてが誤った方向に誘導される。思考ステップを生成するためのトークン数が増加し、推論レイテンシとAPIコストが増大する

著者らの結果は、大きな言語モデルに答えだけでなく途中の考え方の見本を示すと、一部の計算や常識問題で成績が上がることを示しています。別の問題でも同じなら、答え方の指示を工夫する価値があります。ただし、小さなモデルでは効果が弱く、書かれた途中説明が本当の理由を表すとも限りません。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

計算資源の大量投入や既存の標準的アプローチに依存していた。

中間思考ステップの出力によりLLMの潜在的問題を解く力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

トランスフォーマーは固定の層数（計算深度）を持つため、複雑な問題を一発で答える（途中の説明）場合、定数ステップの演算しか行えません。CoTでは中間思考トークン列 途中の説明 を挟むことで、全体の結合確率 途中の説明 と分解されます。これにより、思考ステップの長さに比例してトランスフォーマーの計算グラフ（有効な深さ）が動的に拡大し、複雑な探索や計算が可能になります。

1. 数理的・アルゴリズム的アプローチの再設計による効率化。2. 入出力および内部状態の表現空間の調整。3. 実装レベルでのメモリ階層や並列化パイプラインの緊密な協調

著者らは、思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

PaLM 540B + CoTによりGSM8Kで56.9%を達成（当時の人間平均正解率約60%に肉薄）。Sports Understanding（スポーツの妥当性判断）で77.1%を記録し、通常Few-shotの54.3%を大幅上回る結果。Last Letter Concatenation（単語末尾の文字結合）などの記号推論で正解率が0%近辺から100%近くまで急伸

その条件で著者らは、PaLM 540B + CoTによりGSM8Kで56.9%を達成（当時の人間平均正解率約60%に肉薄）。Sports Understanding（スポーツの妥当性判断）で77.1%を記録し、通常Few-shotの54.3%を大幅上回る結果。Last Letter Concatenation（単語末尾の文字結合）などの記号推論で正解率が0%近辺から100%近くまで急伸

思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

既存資料で報告された失敗や切り分けの範囲は次の通りです。自己修正能力の限界：生成途中で誤りに気づいてバックトラック（後戻り）する機能が通常のCoTにはなく、誤った推論を最後まで完遂してしまう。プロンプトへの依存性：Few-shotの思考の質が低いと、モデルの出力も雑な思考パターンに引きずられる

正答率の改善は内部の問題を解く力が変わったためではなく、出力に中間計算を書くことで誤りを減らした結果とも解釈できます。生成された説明が内部計算に忠実かは、この評価からは分かりません。

自己修正能力の限界：生成途中で誤りに気づいてバックトラック（後戻り）する機能が通常のCoTにはなく、誤った推論を最後まで完遂してしまう。プロンプトへの依存性：Few-shotの思考の質が低いと、モデルの出力も雑な思考パターンに引きずられる

どの規模と課題で途中説明が有効になるのか。説明のもっともらしさと、答えに実際に使われた計算をどう区別するかが残ります。

著者らの結果は、大きな言語モデルに答えだけでなく途中の考え方の見本を示すと、一部の計算や常識問題で成績が上がることを示しています。別の問題でも同じなら、答え方の指示を工夫する価値があります。ただし、小さなモデルでは効果が弱く、書かれた途中説明が本当の理由を表すとも限りません。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

中間思考ステップの出力によりLLMの潜在的推論能力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

著者らは、PaLM 540Bを用いたGSM8Kで通常Few-shotの17.9%から56.9%へ向上。SVAMPベンチマークで68.9%を達成し当時のファインチューニングSOTAを更新。常識推論（StrategyQA等）および記号操作（Coin Flip等）で一貫したゲインを確認

特定ハードウェアや分散構成に対する依存性

報告された規模依存の改善が他の推論課題でも再現するなら、モデルを更新せずに中間推論を誘導するプロンプトが有効な制御手段になります。ただし、効果はモデル規模と課題に依存し、生成された推論過程の忠実性はこの評価だけでは保証されません。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

計算資源の大量投入や既存の標準的アプローチに依存していた。

中間思考ステップの出力によりLLMの潜在的推論能力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

プロンプト設計：各例題に問題 $Q$、自然言語による中間論理展開 $R$、最終解答 $A$ を構成。数理的観点では、一発予測 $P(A|Q)$ を $P(A|Q) = \sum_R P(A|Q, R) P(R|Q)$ と展開し、サンプリングによって最も確からしい推論パスを辿らせます。LaMDA, GPT-3, PaLM等の複数モデルファミリーでスケールごとの挙動を比較しました。

著者らは、思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

その評価で著者らは、GSM8KにおいてPaLM 540Bが56.9%を達成（100B未満のモデルでは効果がほぼゼロであることを実証）。StrategyQAで77.8%（ベースライン67.8%）、Sports Understandingで77.1%を記録。記号操作タスク（Last Letter Concatenation）で正解率0%から極大値への急激な創発を確認

射程は大規模モデルへのfew-shot例示と、算術・常識・記号推論の正答率です。小規模モデルでの弱い効果、例示への感度、生成されたrationaleの忠実性は別問題として残ります。

自己無矛盾性（Self-Consistency）のない単一サンプリングでは、誤った分岐に入った場合の復帰が不可能。小規模エッジモデル（7B〜13B）ではCoTの恩恵を受けにくいスケーリング制約

報告された規模依存の改善が他の推論課題でも再現するなら、モデルを更新せずに中間推論を誘導するプロンプトが有効な制御手段になります。ただし、効果はモデル規模と課題に依存し、生成された推論過程の忠実性はこの評価だけでは保証されません。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

計算資源の大量投入や既存の標準的アプローチに依存していた。

中間思考ステップの出力によりLLMの潜在的推論能力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

数理モデル：問題入力 $x \in \mathcal{X}$、最終解答 $y \in \mathcal{Y}$。通常の生成では $y = \operatorname{arg\,max}_{y} P_\theta(y|x)$。固定層数 $L$ のトランスフォーマーは計算ステップが有限（$O(L)$）。CoTでは中間系列 $r = (r_1, \dots, r_k) \in \mathcal{R}$ を生成。結合確率 $P_\theta(r, y | x) = \prod_{i=1}^k P_\theta(r_i | x, r_{<i}) \prod_{j=1}^m P_\theta(y_j | x, r, y_{<j})$。有効なアテンション計算ステップ数は $O(L \times (k + m))$ となり、問題の難易度に応じた動的な計算量割り当てが実現される。スケーリング分析：GPT-3（0.3B〜175B）、LaMDA（0.4B〜137B）、PaLM（8B〜540B）の各サイズにおいて、60B〜100Bを境界としてCoT精度が指数関数的に立ち上がる相転移現象（Phase Transition）を定量化。

1. 数理的・アルゴリズム的アプローチの再設計による効率化。2. 入出力および内部状態の表現空間の最適化。3. 実装レベルでのメモリ階層や並列化パイプラインの緊密な協調

1. 数理的・アルゴリズム的アプローチの再設計による効率化。2. 入出力および内部状態の表現空間の最適化。3. 実装レベルでのメモリ階層や並列化パイプラインの緊密な協調

著者らは、思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

GSM8K: PaLM 540B Standard Few-shot 17.9% → CoT 56.9%（改善幅 +39.0pt）。SVAMP: PaLM 540B Standard 31.7% → CoT 68.9%（改善幅 +37.2pt）。ASDiv: PaLM 540B Standard 49.3% → CoT 71.3%（改善幅 +22.0pt）。エラー分析：CoTエラーの主因は意味理解の失敗ではなく、計算ミス（8%）やステップ脱落（12%）であり、論理構成自体は高精度に維持されていることを解明

その条件で著者らは、GSM8K: PaLM 540B Standard Few-shot 17.9% → CoT 56.9%（改善幅 +39.0pt）。SVAMP: PaLM 540B Standard 31.7% → CoT 68.9%（改善幅 +37.2pt）。ASDiv: PaLM 540B Standard 49.3% → CoT 71.3%（改善幅 +22.0pt）。エラー分析：CoTエラーの主因は意味理解の失敗ではなく、計算ミス（8%）やステップ脱落（12%）であり、論理構成自体は高精度に維持されていることを解明

思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

既存資料で報告された失敗や切り分けの範囲は次の通りです。探索アルゴリズムの欠如：ビームサーチやMCTS（モンテカルロ木探索）のような体系的バックトラッキングを行わないため、局所最適解にトラップされやすい。サンプリング分散：プロンプト内のFew-shotの順序や表現の揺らぎに対する出力推論パスの感度

正答率の改善は内部の推論能力が変わったためではなく、出力に中間計算を書くことで誤りを減らした結果とも解釈できます。生成された説明が内部計算に忠実かは、この評価からは分かりません。

探索アルゴリズムの欠如：ビームサーチやMCTS（モンテカルロ木探索）のような体系的バックトラッキングを行わないため、局所最適解にトラップされやすい。サンプリング分散：プロンプト内のFew-shotの順序や表現の揺らぎに対する出力推論パスの感度

どの規模と課題で途中説明が有効になるのか。説明のもっともらしさと、答えに実際に使われた計算をどう区別するかが残ります。

報告された規模依存の改善が他の推論課題でも再現するなら、モデルを更新せずに中間推論を誘導するプロンプトが有効な制御手段になります。ただし、効果はモデル規模と課題に依存し、生成された推論過程の忠実性はこの評価だけでは保証されません。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

中間思考ステップの出力によりLLMの潜在的推論能力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

著者らは、PaLM 540BにおけるGSM8K正解率が17.9%から56.9%へ向上。SVAMPベンチマークで68.9%を達成。多様な記号・常識推論タスクでの大幅なスコア向上

特定ハードウェアや分散構成に対する依存性

CoT例示による改善が未評価タスクでも再現するなら、in-context learningで中間計算を外在化することが推論性能の一因だと考えられる。ただし創発的な規模依存性、例示への感度、rationale faithfulnessの未検証があり、正答率の向上を内部推論の解明と同一視できない。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

計算資源の大量投入や既存の標準的アプローチに依存していた。

中間思考ステップの出力によりLLMの潜在的推論能力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

データセット：GSM8K, SVAMP, ASDiv, AQuA, MAWPS（算数文章題）、CSQA, StrategyQA（常識推論）、Coin Flip, Last Letter Concatenation（記号推論）。各プロンプトにおいて $(x_i, r_i, y_i)$ を提示。モデルサイズ（〜540B）にわたるアブレーションを実施し、能力発現の閾値を特定しました。

著者らは、思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

その評価で著者らは、GSM8KでPaLM 540Bが56.9%を記録し、当時のファインチューニングモデルGPT-3 175B（33%）を上回ったと報告。StrategyQAにおいてFew-shotベースラインを10ポイント上回る精度を達成。プロンプト作成者の変更やFew-shot問題例の入れ替えに対しても安定した向上幅を維持

主張はsufficiently large LMに対するfew-shot CoTと算術・常識・記号推論ベンチマークに限られる。emergenceの境界、demonstration sensitivity、rationale faithfulnessは本評価から確定しない。

中間推論トークンによる計算コスト・レイテンシの増大。誤った前提から論理展開を開始した場合の不可逆な誤答出力

CoT例示による改善が未評価タスクでも再現するなら、in-context learningで中間計算を外在化することが推論性能の一因だと考えられる。ただし創発的な規模依存性、例示への感度、rationale faithfulnessの未検証があり、正答率の向上を内部推論の解明と同一視できない。

従来の技術では計算量、メモリ、または推論・学習効率において重大なボトルネックが存在していた。

計算資源の大量投入や既存の標準的アプローチに依存していた。

中間思考ステップの出力によりLLMの潜在的推論能力を解き放ち、後のReasoningモデル（o1/R1）へ直結した推論研究の始祖

確率論的定式化：条件付き生成 $P(y|x)$ に対し、潜在変数としての推論トレース $z \in \mathcal{Z}$ を導入。$P(y|x) = \sum_{z} P(y|x, z) P(z|x)$。Few-shotの文脈条件付けにより、事後分布 $P(z|x)$ を高確率な推論パスへ集約（Mode Collapse）。実験プロトコル：3つのモデルファミリー（GPT-3, LaMDA, PaLM）を用い、モデル規模を8段階（数百M〜540B）に変化させてスケーリング曲線を測定。頑健性実験では、異なるアノテーターによる8種類の思考スタイル、および数式のみの思考（Equation-only）との比較アブレーションを完備。

1. 数理的・アルゴリズム的アプローチの再設計による効率化。2. 入出力および内部状態の表現空間の最適化。3. 実装レベルでのメモリ階層や並列化パイプラインの緊密な協調

1. 数理的・アルゴリズム的アプローチの再設計による効率化。2. 入出力および内部状態の表現空間の最適化。3. 実装レベルでのメモリ階層や並列化パイプラインの緊密な協調

著者らは、思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

GSM8K 8-shot: PaLM 540B 56.9%（Standard: 17.9%）、GPT-3 175B 46.9%（Standard: 15.6%）。AQuA代数推論: PaLM 540B 35.8%（Standard: 25.5%）。Coin Flip（記号操作）: PaLM 540B 99.3%（Standard: 50.0%＝ランダム推測から解決へ遷移）。Ablation検証：Equation-onlyプロンプトではGSM8Kでスコアが低下（30%台）し、自然言語による意味的文脈形成が推論成功に不可欠であることを報告

その条件で著者らは、GSM8K 8-shot: PaLM 540B 56.9%（Standard: 17.9%）、GPT-3 175B 46.9%（Standard: 15.6%）。AQuA代数推論: PaLM 540B 35.8%（Standard: 25.5%）。Coin Flip（記号操作）: PaLM 540B 99.3%（Standard: 50.0%＝ランダム推測から解決へ遷移）。Ablation検証：Equation-onlyプロンプトではGSM8Kでスコアが低下（30%台）し、自然言語による意味的文脈形成が推論成功に不可欠であることを報告

思考の連鎖（Chain-of-Thought）プロンプティングによる大規模言語モデルの推論創発における顕著な性能向上と計算効率の改善を実証

既存資料で報告された失敗や切り分けの範囲は次の通りです。バックトラッキング機構の欠落：贪欲法（Greedy）またはTop-$p$サンプリングでは、初期の推論誤謬が不可逆的に蓄積される。プロンプト長によるコンテキストウィンドウの圧迫とAttention計算量の増加

正答率の改善は内部の推論能力が変わったためではなく、出力に中間計算を書くことで誤りを減らした結果とも解釈できます。生成された説明が内部計算に忠実かは、この評価からは分かりません。

バックトラッキング機構の欠落：贪欲法（Greedy）またはTop-$p$サンプリングでは、初期の推論誤謬が不可逆的に蓄積される。プロンプト長によるコンテキストウィンドウの圧迫とAttention計算量の増加

どの規模と課題で途中説明が有効になるのか。説明のもっともらしさと、答えに実際に使われた計算をどう区別するかが残ります。

CoT例示による改善が未評価タスクでも再現するなら、in-context learningで中間計算を外在化することが推論性能の一因だと考えられる。ただし創発的な規模依存性、例示への感度、rationale faithfulnessの未検証があり、正答率の向上を内部推論の解明と同一視できない。