論文の概要: Memorize Theorems, Not Instances: Probing SFT Generalization through Mathematical Reasoning

• arxiv url: http://arxiv.org/abs/2605.09270v1
• Date: Sun, 10 May 2026 02:39:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.154949
• Title: Memorize Theorems, Not Instances: Probing SFT Generalization through Mathematical Reasoning
• Title（参考訳）: 例ではなく理論を記憶する:数学的推論によるSFT一般化の探索
• Authors: Ruiying Peng, Mengyu Yang, Jing Lei, Xiaohui Li, Xueyu Wu, Xinlei Chen,
• Abstract要約: Supervised Fine-Tuning (SFT) は記憶特異的適応に広く用いられている。 我々は、根本原因はそれ自体ではなく、その標的であると主張している。バニラSFTは、問題解対におけるモデルを利用して、刺激的な表面相関を推し進める。 本稿では,ルールの実行方法を教えることによって,明示的な定理の適用を監督するTheorem-SFTを提案する。
• 参考スコア（独自算出の注目度）: 26.04110582887738
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Supervised Fine-Tuning (SFT) is widely used for task-specific adaptation, yet recent work shows it systematically undermines reasoning generalization. We argue the root cause is not memorization itself, but its target: vanilla SFT drives models to exploit and memorize spurious surface correlations in problem-solution pairs, leaving them brittle to superficial input variations. To address this, we propose Theorem-SFT, which reorients supervision toward explicit theorem application by teaching models how rules are invoked rather than what answers look like. Theorem-SFT yields consistent gains across benchmarks and model families: +8.8% on MATH (LLaMA3.2-3B-Instruct) and +20.27% on GeoQA (Qwen2.5-VL-7B-Instruct) without modality-specific re-training. Fine-tuning MLP layers alone matches full-layers performance, implicating feed-forward components as the primary locus of reasoning rules. Our findings reframe the debate: Generalization failures stem not from memorization as a mechanism, but from memorizing the wrong inductive targets.
• Abstract（参考訳）: Supervised Fine-Tuning (SFT) はタスク固有の適応に広く用いられているが、最近の研究は推論の一般化を体系的に弱めていることを示している。 我々は根本原因は記憶そのものではなく,そのターゲットであると主張している。バニラSFTは,問題の解法対におけるスプリラスな表面相関を利用・記憶するためにモデルを駆動し,表面入力の変動に弱いままにしておく。 そこで本論文では, モデルに対して, 結果がどのようなものかではなく, どのようにルールが呼び出されるかを教えることによって, 明示的定理の適用を監督するTheorem-SFTを提案する。 Theorem-SFTはベンチマークとモデルファミリで一貫した利得を得る: +8.8%がMATH(LLaMA3.2-3B-インストラクタ)、+20.27%がGeoQA(Qwen2.5-VL-7B-インストラクタ)で、モダリティに特化しない。 微調整のMDP層だけではフルレイヤのパフォーマンスと一致し、フィードフォワード成分を推論ルールの第一軌跡として含んでいる。 一般化失敗は、メカニズムとしての記憶ではなく、誤った帰納的目標を記憶することに由来する。

関連論文リスト

• Rethinking Generalization in Reasoning SFT: A Conditional Analysis on Optimization, Data, and Model Capability [64.97610656176981]
  LLMポストトレーニングでは、教師付き微調整(SFT)が記憶し、強化学習(RL)が一般化される。 我々は、長いチェーン・オブ・シークレット(CoT)の監督でSFTを推論するこの主張を再考し、クロスドメインの一般化は欠落ではなく条件付きであることを見出した。
  論文  参考訳（メタデータ） (2026-04-08T03:11:16Z)
• On Multi-Step Theorem Prediction via Non-Parametric Structural Priors [50.16583672681106]
  本研究では,インコンテキスト学習(ICL)のレンズによる学習自由な定理予測について検討する。 本稿では,過去の解の時間的依存関係を有向グラフとしてエンコードし,推論中に探索空間を効果的に引き起こす明示的なトポロジ的制約を課すTheorem Precedence Graphsを提案する。 FormalGeo7kベンチマークの実験から,本手法は89.29%の精度を実現し,ICLベースラインを著しく上回り,最先端の教師付きモデルに適合することがわかった。
  論文  参考訳（メタデータ） (2026-03-05T06:08:50Z)
• Beyond Memorization: Testing LLM Reasoning on Unseen Theory of Computation Tasks [8.210112631285666]
  大規模言語モデル(LLM)は、形式的な言語タスクにおいて強力なパフォーマンスを示している。 正規言語を用いた決定論的有限オートマトン (DFA) 構築のためのベンチマークを導入する。 モデルが実際の質問に対して完璧に精度を達成し、タスクに対して84-90%を達成できることを示すが、その精度は目に見えない問題に対して急激に低下する。
  論文  参考訳（メタデータ） (2026-01-19T21:00:31Z)
• FairReason: Balancing Reasoning and Social Bias in MLLMs [54.26091556079722]
  MLLM(Multimodal Large Language Models)は、様々なタスクやモダリティにおいて、最先端の成果をすでに達成している。 近年の研究では、推論能力をさらに推し進めるために、先進的なプロンプトスキームと後続の微調整を探求している。
  論文  参考訳（メタデータ） (2025-07-30T19:57:22Z)
• Does Math Reasoning Improve General LLM Capabilities? Understanding Transferability of LLM Reasoning [75.31797502976802]
  幅広いタスクからなる20以上のオープンウェイト推論チューニングモデルを評価した。 数学で成功するほとんどのモデルは、利得を他の領域に移すことができない。 以上の結果から,標準のポストトレーニングレシピを再考する必要性が示唆された。
  論文  参考訳（メタデータ） (2025-07-01T05:23:05Z)
• When Thinking Fails: The Pitfalls of Reasoning for Instruction-Following in LLMs [19.354141845315276]
  連鎖推論は命令追従精度を著しく低下させる。 これは、推論によって引き起こされる命令追従の失敗を体系的に公開する最初の作業である。
  論文  参考訳（メタデータ） (2025-05-16T16:36:00Z)
• Right Question is Already Half the Answer: Fully Unsupervised LLM Reasoning Incentivization [47.04132451658664]
  我々の能力は、数学的および自由形式の自然推論のタスクにおいて、教師付きと競合する性能を達成します。 教師付き信号がなければ、Qwen2.5-Math-7B Baseの精度は30.7%から48.1%に向上する。
  論文  参考訳（メタデータ） (2025-04-08T08:48:51Z)
• The First Few Tokens Are All You Need: An Efficient and Effective Unsupervised Prefix Fine-Tuning Method for Reasoning Models [69.798277882245]
  大規模言語モデルの推論効率を向上させるために,Unsupervised Prefix Fine-Tuning (UPFT)を導入した。 UPFTはラベル付きデータや徹底的なサンプリングの必要性を取り除く。 実験の結果,UPFTは教師付き手法の性能と一致していることがわかった。
  論文  参考訳（メタデータ） (2025-03-04T18:56:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。