論文の概要: ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models
- arxiv url: http://arxiv.org/abs/2610.07803v1
- Date: Tue, 06 Oct 2026 05:56:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.834238
- Title: ThinkFuse: Trajectory-Aware Test-Time Fusion for Small Reasoning Models
- Title（参考訳）: ThinkFuse:小さな推論モデルのための軌道対応テスト時間融合
- Abstract要約: 小さな推論モデル(SRM)は複雑な推論タスクにおいて強い性能を示す。
既存のテスト時核融合法は、核融合をいつ起こすかを決定するために局所核融合信号に依存している。
我々は、信頼できない推論セグメントに選択的に介入する、トレーニング不要なテスト時間融合フレームワークThinkFuseを提案する。
- 参考スコア（独自算出の注目度）: 22.68583666994547
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Small reasoning models (SRMs) have shown strong performance on complex reasoning tasks by generating extended chain-of-thought trajectories, but they often fail to recover once their reasoning enters an erroneous path. Existing test-time fusion methods rely on local fusion signals to determine when to trigger fusion, which can be misled by transient uncertainty fluctuations and may reinforce unstable reasoning trajectories. We propose ThinkFuse, a training-free test-time fusion framework that selectively intervenes in unreliable reasoning segments. ThinkFuse compares segment-level uncertainty shifts with trajectory-level uncertainty trends to identify unstable reasoning points and fuse auxiliary reasoning paths into the primary model's trajectory. Extensive experiments demonstrate that ThinkFuse outperforms baselines on mathematical and knowledge-intensive reasoning benchmarks, with consistent gains across model-family combinations, and remains robust with a smaller primary model. Our analysis shows that ThinkFuse requires fewer fusion triggers and generates fewer tokens, highlighting the efficiency of selective triggering. Our code is available at https://github.com/js-lee-AI/ThinkFuse.
- Abstract（参考訳）: 小さな推論モデル(SRM)は、拡張されたチェーン・オブ・シークレットの軌道を生成することで複雑な推論タスクに強い性能を示すが、誤った経路に入ると回復に失敗することが多い。
既存のテスト時核融合法は、いつ核融合を起こすかを決定するために局所核融合信号に依存しており、これは過渡的な不確実性変動によって誤解され、不安定な推理軌道を補強する可能性がある。
我々は、信頼できない推論セグメントに選択的に介入する、トレーニング不要なテスト時間融合フレームワークThinkFuseを提案する。
ThinkFuseは、セグメントレベルの不確実性シフトと軌道レベルの不確実性傾向を比較して、不安定な推論ポイントを特定し、一次モデルの軌道に補助的推論パスを融合させる。
大規模な実験では、ThinkFuseは数学的および知識集約的な推論ベンチマークのベースラインを上回り、モデルとモデルの組み合わせで一貫した利得を示し、より小さなプライマリモデルで堅牢である。
我々の分析によると、ThinkFuseは核融合トリガーを減らし、トークンを減らし、選択的トリガーの効率を強調します。
私たちのコードはhttps://github.com/js-lee-AI/ThinkFuse.orgから入手可能です。
関連論文リスト
- When Confidence Rises Too Early: Detecting Shortcut Reasoning via Premature Answer Commitment [76.62469105933384]
大規模言語モデル (LLM) は、ある答えにたどり着くためのショートカットを頼りにし、その決定を合理化する。
ConfLensは、推論を通じて最終的な回答における信頼の進化を追跡するフレームワークです。
本稿では,解答コミットメントに対する確率分布のエントロピーを測定するために,DACS(Distributal Answer Commitment Score)を提案する。
論文 参考訳（メタデータ） (2026-09-28T13:00:25Z) - Efficient Test-Time Scaling via Temporal Reasoning Aggregation [5.87118425760756]
本稿では,効率的なテスト時間スケーリングのためのトレーニングフリーフレームワークであるTRACEを提案する。
TRACEは、多段階証拠の時間的集約に基づいて推論を終了するタイミングを決定する。
TRACEは1～2%の精度を保ちながら平均25～30%の推論トークン使用率を低下させることを示した。
論文 参考訳（メタデータ） (2026-04-19T07:39:40Z) - Early Stopping for Large Reasoning Models via Confidence Dynamics [55.67938134245981]
大きな推論モデルは複雑な問題を解決するために長い連鎖生成に依存している。
重要な課題は、いつモデルが推論を止めて最終回答を生み出すべきかを決定することです。
中間回答の信頼性のダイナミクスを利用して推論をいつ終了するかを判断する早期停止手法であるCoDE-Stopを提案する。
論文 参考訳（メタデータ） (2026-04-06T17:59:45Z) - Mitigating Overthinking in Large Reasoning Language Models via Reasoning Path Deviation Monitoring [35.58177960646011]
LRLMにおける過剰思考を緩和する早期退避法を提案する。
本手法は,既存手法に比べてバニラCoTよりも高い性能向上を実現している。
論文 参考訳（メタデータ） (2026-03-15T07:00:47Z) - Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching [66.39914384073145]
本稿では,安価な拡散サンプリング推論をステップレベル候補の再利用プールに変換する自己整合性フレームワークを提案する。
ステップレベルの再結合は、難しい問題に対して最も有益であることがわかった。
トレーニング不要のフレームワークは、6つの数学およびコーディングタスクの平均精度を最大2倍改善します。
論文 参考訳（メタデータ） (2026-02-26T11:08:39Z) - Beyond Rejection Sampling: Trajectory Fusion for Scaling Mathematical Reasoning [11.643707169039502]
構造化された監視構築プロセスとしてリジェクションサンプリングを再構成する微調整戦略であるTrajFusionを提案する。
具体的には、TrajFusionは、試行錯誤推論を明示的にモデル化する融合軌道を形成する。
複数のベンチマークによる大規模な実験は、TrajFusionがRFTを一貫して上回っていることを示している。
論文 参考訳（メタデータ） (2026-02-04T10:20:56Z) - Mitigating Cognitive Inertia in Large Reasoning Models via Latent Spike Steering [12.332146893333949]
大規模推論モデル(LRM)は、テスト時間計算をスケールすることで、優れた性能を実現している。
LRMは、しばしば認知的慣性(動作慣性)または剛性(方向慣性)のどちらかを過度に考える失敗パターンである認知的慣性(Cognitive Inertia)に悩まされる。
論文 参考訳（メタデータ） (2026-01-30T02:47:12Z) - Directional Reasoning Injection for Fine-Tuning MLLMs [51.53222423215055]
マルチモーダルな大言語モデル(MLLM)は急速に進歩しているが、その推論能力は強いテキストのみのモデルよりも遅れていることが多い。
このギャップを埋める既存の方法は、大規模マルチモーダル推論データや強化学習の監督された微調整に依存している。
この問題を解決するために,DRIFT(Directional Reasoning Injection for Fine-Tuning)を提案する。
論文 参考訳（メタデータ） (2025-10-16T18:06:46Z) - Deep Hidden Cognition Facilitates Reliable Chain-of-Thought Reasoning [33.30315111732609]
Chain of Thought (CoT)推論は驚くほど深い推論能力を示している。
しかし、その信頼性はしばしば中間段階のエラーの蓄積によって損なわれる。
本稿では,本モデルの固有精度符号化を利用したCoT推論精度の校正手法を提案する。
論文 参考訳（メタデータ） (2025-07-14T07:41:35Z) - Does Thinking More always Help? Mirage of Test-Time Scaling in Reasoning Models [130.5487886246353]
Wait"や"Let me rethink"といったプロンプトを使って思考トレースを拡張することで、パフォーマンスが向上します。
テスト時にもっと考えることは、本当により良い推論につながるのでしょうか?
過度に考える”という理由から,新たな思考による初期パフォーマンス改善の一貫したパターンと,それに続く低下を示す。
論文 参考訳（メタデータ） (2025-06-04T17:55:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。