論文の概要: Collaborative Reasoning Distillation via Cross-Feedback and Coherent Curation

• arxiv url: http://arxiv.org/abs/2610.09587v1
• Date: Wed, 07 Oct 2026 07:31:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.775585
• Title: Collaborative Reasoning Distillation via Cross-Feedback and Coherent Curation
• Title（参考訳）: クロスフィードバックとコヒーレントキュレーションによる協調的推論蒸留
• Abstract要約: CRD(Collaborative Reasoning Distillation)は、コンパクトモデルにおける推論を強化するフレームワークである。 学生は予算制約でRQO(Reasoning Quality Optimization)を通じて訓練される。 我々のモデルであるCRD-4Bは、MATH-500で97.3%、AIME'25で70.3%を達成し、50Kのトレーニング例のみを用いてベースラインを超えた。
• 参考スコア（独自算出の注目度）: 6.801442879523926
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning capabilities are critical for advancing Large Language Models, yet current approaches either require massive computational budgets or struggle to effectively distill reasoning to smaller models. Standard distillation methods rely on outcome-based rewards, failing to distinguish between sound reasoning and lucky guesses. We propose Collaborative Reasoning Distillation (CRD), a framework that enhances reasoning in compact models through three innovations: (1) interactive cross-feedback where teachers iteratively critique each other's reasoning, (2) fine-grained step-wise quality assessment capturing logical validity independent of final answers, and (3) coherence-aware step stitching that synthesizes complementary strengths. Students are trained via Reasoning Quality Optimization (RQO) with budget constraints. Our model, CRD-4B, achieves 97.3% on MATH-500 and 70.3% on AIME'25, surpassing baselines while using only 50K training examples, up to 12 times smaller than the datasets of comparable models.
• Abstract（参考訳）: 推論能力は大規模言語モデルの発展に不可欠であるが、現在のアプローチでは膨大な計算予算を必要とするか、より小さなモデルに推論を効果的に蒸留するのに苦労している。 標準的な蒸留法は結果に基づく報酬に依存しており、音の推論とラッキーな推測を区別できない。 我々は,(1)教師同士の推論を反復的に批判するインタラクティブなクロスフィードバック,(2)最終回答とは無関係に論理的妥当性を把握したきめ細かい段階的品質評価,(3)相補的な強みを合成するコヒーレンス対応のステップステッチング,という3つの革新を通じて,コンパクトモデルにおける推論を強化するフレームワークである協調推論蒸留(CRD)を提案する。 学生は予算制約でRQO(Reasoning Quality Optimization)を通じて訓練される。 我々のモデルであるCRD-4Bは、MATH-500で97.3%、AIME'25で70.3%を達成し、50Kのトレーニング例のみを使用してベースラインを超えた。

関連論文リスト

• Teaching Language Models to Reason with Tools [73.21700643314917]
  emphHint-Engineeringは、推論経路内の最適点に様々なヒントを戦略的に注入する新しいデータ合成戦略である。 CoRTは効率を大幅に向上させ、32Bモデルのトークン使用量を約30%削減し、1.5Bモデルのトークン使用量を50%削減した。
  論文  参考訳（メタデータ） (2025-10-23T08:41:44Z)
• DRP: Distilled Reasoning Pruning with Skill-aware Step Decomposition for Efficient Large Reasoning Models [2.768827482823499]
  推定時間とチューニングに基づく蒸留を組み合わせたハイブリッドフレームワークであるDistilled Reasoning Pruning(トレース)を提案する。 トレースでトレーニングされたモデルは、精度を犠牲にすることなく、トークン効率を大幅に改善することを発見した。 さらに分析した結果,CoTの推論構造と学生の推論能力の整合性は,効果的な知識伝達と性能向上に不可欠であることが示唆された。
  論文  参考訳（メタデータ） (2025-05-20T06:15:15Z)
• RM-R1: Reward Modeling as Reasoning [81.50471199906738]
  Reasoning Reward Models (ReasRMs) は、報酬モデリングを推論タスクとして定式化する。 我々は推論指向のトレーニングパイプラインを提案し、ReasRMのファミリーであるRM-R1を訓練する。 我々のモデルは、平均して3つの報酬モデルベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-05-05T06:11:12Z)
• VAPO: Efficient and Reliable Reinforcement Learning for Advanced Reasoning Tasks [49.0793012627959]
  本稿では,価値に基づくパラダイム内での推論モデルに適した新しいフレームワークVAPOを提案する。 VAPOは最先端のスコアが$mathbf60.4$に達する。 同じ実験条件下で直接比較すると、VAPOはDeepSeek-R1-Zero-Qwen-32BとDAPOの結果を10点以上上回っている。
  論文  参考訳（メタデータ） (2025-04-07T14:21:11Z)
• The Surprising Effectiveness of Test-Time Training for Few-Shot Learning [59.309477460893916]
  言語モデル(LM)は、トレーニングディストリビューション内のタスクにおいて印象的なパフォーマンスを示しているが、しばしば構造的に新しいタスクで苦労している。 LMの推論と少数ショット学習能力を改善するメカニズムとして,テストタイムトレーニング(TTT)の有効性を検討する。 本研究は,新しいタスクにおける文脈内学習の限界を強調し,言語モデルの適応性を高めるためのテストタイムトレーニングの可能性を示した。
  論文  参考訳（メタデータ） (2024-11-11T18:59:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。