論文の概要: SHAPE of Chain-of-Thought in Math Reasoning

• arxiv url: http://arxiv.org/abs/2608.28600v1
• Date: Sun, 28 Jun 2026 11:15:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.397386
• Title: SHAPE of Chain-of-Thought in Math Reasoning
• Title（参考訳）: SHAPE of Chain-of-Thought in Math Reasoning (特集 SHAPE of Chain-of-Thought)
• Abstract要約: 大規模言語モデル(LLM)は、数学的推論ベンチマークにおいて高い性能を達成するが、それらの推論の基礎となる数学的に意味のあるスキルはいまだ探索されていない。 textttSHAPEは、LLM推論を復号化するための理論的基盤診断フレームワークを提供する。
• 参考スコア（独自算出の注目度）: 11.890443775752194
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) achieve strong performance on mathematical reasoning benchmarks, yet the mathematically meaningful skills underlying their reasoning remain underexplored. We introduce \texttt{SHAPE}, a framework that analyzes Chain-of-Thought (CoT) trajectories through two lenses developed in mathematics education: (1) semantic spaces: the model's evolving mathematical interpretations of a problem (e.g., algebraic, geometric), and (2) heuristics: the specific mathematical actions taken within those spaces (e.g., simplifying the problem, working backward). We first use \texttt{SHAPE} to analyze the reasoning patterns of various models. Our findings reveal that the mathematical heuristics employed by a model better explain final answer correctness than traditional CoT features. Furthermore, models are likely to reach correct solutions by concentrating their reasoning effort within a few semantic spaces rather than exploring many disparate ones -- a pattern consistent with human behavior. Next, we utilize the \texttt{SHAPE} lens to evaluate whether post-training truly enhances mathematical proficiency. We find that reinforcement learning induces mode-seeking in heuristic usage. Lastly, we post-train LLMs by promoting diverse heuristics and demonstrate its effectiveness in improving accuracy. Overall, \texttt{SHAPE} provides a theoretically-grounded diagnostic framework for decoding LLM reasoning and offers a new path toward post-training LLMs for math reasoning. The code for our model is available at https://github.com/holi-lab/SHAPE-of-CoT
• Abstract（参考訳）: 大規模言語モデル(LLM)は、数学的推論ベンチマークにおいて高い性能を達成するが、それらの推論の基礎となる数学的に意味のあるスキルはいまだ探索されていない。 我々は,(1)意味空間:問題の数学的解釈(例えば,代数的,幾何学的)と(2)ヒューリスティックス:それらの空間内で取られた特定の数学的行動(例えば,問題を単純化し,後ろ向きに働く)について,意味空間:モデルの進化的数学的解釈を解析するフレームワークである「texttt{SHAPE}」を紹介した。 まず、さまざまなモデルの推論パターンを分析するために、‘texttt{SHAPE} を使います。 以上の結果から,モデルが用いた数学的ヒューリスティックスは,従来のCoT特徴よりも解答の正しさをよく説明できることがわかった。 さらに、モデルは、多くの異なるもの、つまり人間の振る舞いと整合したパターンを探索するよりも、いくつかの意味空間内で推論の取り組みに集中することによって、正しい解決策に達する可能性が高い。 次に,<texttt{SHAPE} レンズを用いて,ポストトレーニングが数学的習熟度を真に向上させるかどうかを評価する。 強化学習は, ヒューリスティックな使用法において, モード探索を誘導する。 最後に,多種多様なヒューリスティックスを推進し,その精度向上効果を示す。 全体として、‘texttt{SHAPE} は LLM 推論を復号化するための理論的な基盤的診断フレームワークを提供し、算数推論のためのポストトレーニング LLM への新たな経路を提供する。 私たちのモデルのコードはhttps://github.com/holi-lab/SHAPE-of-CoTで公開されています。

関連論文リスト

• One Example Shown, Many Concepts Known! Counterexample-Driven Conceptual Reasoning in Mathematical LLMs [75.95179490687018]
  証明生成のための数学的大規模言語モデルを活用することは、LLM研究の基本的なトピックである。 現状のLCMが証明できる能力は、学習中に関連する証明プロセスに遭遇したかどうかに大きく依存していると論じる。 人間の数学教育で一般的に用いられる「反例による防御」の教育的手法に触発されて,我々の研究は,反例を通して数学的推論と証明を行うLLMの能力を高めることを目的としている。
  論文  参考訳（メタデータ） (2025-02-12T02:01:10Z)
• From Next-Token to Mathematics: The Learning Dynamics of Mathematical Reasoning in Language Models [38.71041354422434]
  大規模言語モデル (LLM) は、数学的推論に関わる幅広い問題を解くために学習する。 オープンウェイトLLMの数学的推論能力は,事前学習と後学習の間にどのように発達するかを示す。
  論文  参考訳（メタデータ） (2024-07-01T01:56:28Z)
• GSM-Plus: A Comprehensive Benchmark for Evaluating the Robustness of LLMs as Mathematical Problem Solvers [68.77382332826167]
  大規模言語モデル (LLM) は、様々な数学的推論ベンチマークで顕著な性能を達成している。 1つの必須かつ頻繁な証拠は、数学の質問がわずかに変更されたとき、LLMは誤って振る舞うことができることである。 このことは, LLMの数学推論能力の頑健性を評価するために, 幅広い質問のバリエーションを試すことによるものである。
  論文  参考訳（メタデータ） (2024-02-29T15:26:14Z)
• InternLM-Math: Open Math Large Language Models Toward Verifiable Reasoning [98.53491178426492]
  InternLM2から事前学習を継続するILMs InternLM-Mathをオープンソースとして公開する。 我々は、連鎖推論、報酬モデリング、形式推論、データ拡張、コードインタプリタを、統一されたSeq2seqフォーマットで統一する。 我々の事前学習モデルは、微調整なしでMiniF2Fテストセットで30.3を達成する。
  論文  参考訳（メタデータ） (2024-02-09T11:22:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。