論文の概要: Routes of Reasoning: Reading and Reshaping Test-Time Compute in MoE Models

• arxiv url: http://arxiv.org/abs/2611.05919v1
• Date: Wed, 04 Nov 2026 04:13:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 03:25:57.939361
• Title: Routes of Reasoning: Reading and Reshaping Test-Time Compute in MoE Models
• Title（参考訳）: 推論の経路: MoE モデルにおけるテスト時間計算の読み書き
• Abstract要約: 推論モデルは、計画、導出、検証など、異なる振る舞いにまたがるテスト時間計算を割り当てます。 トークンの予算やステアリングのような既存の介入は、特定の行動をターゲットにするのではなく、推論期間を規制する。 我々は,Mixture-of-Expertsルータが,動作制御のための自然な,トレーニング不要なインターフェースを提供することを示した。
• 参考スコア（独自算出の注目度）: 54.47588263857889
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning models allocate test-time compute across distinct behaviors such as planning, deriving, and verifying. However, models frequently "overthink," continuing to verify and re-derive long after finding a correct answer. This wastes expensive compute and can even degrade performance. Existing interventions, such as token budgets or steering, primarily regulate reasoning duration rather than targeting specific behaviors. In this work, we demonstrate that Mixture-of-Experts (MoE) routers provide a natural, training-free interface for behavioral control. We first split reasoning traces into sentence-level segments and label each with one of six reasoning behaviors (planning, execution, restatement, fact, reflection, and conclusion), so that every token carries the behavior of its segment. Linear probes on router logits predict this label nearly as well as probes on the residual stream, the model's full hidden state and the standard target for probing, while using about half as many features. These signals generalize: experts associated with a reasoning behavior on one dataset predict the same behavior on the others, across six datasets spanning five domains (math, code, science, knowledge, and commonsense). Building on this, we selectively edit expert router scores during inference to curb overthinking. Across four models and four benchmarks, this intervention reduces the number of generated tokens by a median of 30.4% (and up to 63.3%). Crucially, it encourages the model to stop once the problem is solved, rather than skipping essential reasoning steps. Accuracy never drops by more than 0.5 percentage points, and frequently improves. Ultimately, MoE routing offers both an interpretable lens into reasoning states and a lightweight mechanism for optimizing test-time compute.
• Abstract（参考訳）: 推論モデルは、計画、導出、検証など、異なる振る舞いにまたがるテスト時間計算を割り当てます。 しかし、モデルはしばしば「過大評価」され、正しい答えを見つけた後も検証と再帰が続けられた。 これは高価な計算を無駄にし、パフォーマンスを低下させる。 トークンの予算やステアリングのような既存の介入は、特定の行動をターゲットにするのではなく、推論期間を規制する。 本研究では,Mixture-of-Experts(MoE)ルータが,動作制御のための自然な,トレーニング不要なインターフェースを提供することを示す。 まず、推論トレースを文レベルのセグメントに分割し、それぞれに6つの推論動作(計画、実行、再帰、事実、リフレクション、結論)のうちの1つをラベル付けし、各トークンがそのセグメントの振る舞いを運ぶようにします。 ルータログ上の線形プローブは、このラベルと、残留ストリームのプローブ、モデルの完全な隠蔽状態、および探索の標準ターゲットをほぼ同時に予測し、約半分の機能を使用する。 これらのシグナルが一般化する: あるデータセット上の推論行動に関連する専門家は、5つのドメイン(マス、コード、科学、知識、常識)にまたがる6つのデータセットで、他のデータセット上で同じ振る舞いを予測します。 これに基づいて,提案手法では,提案手法を最適化するために,専門家のルータスコアを選択的に編集する。 4つのモデルと4つのベンチマークで、この介入により生成トークンの中央値が30.4%(最大63.3%)減少する。 重要なことは、本質的な推論ステップをスキップするのではなく、問題が解決したらモデルが停止するように促す。 精度は0.5ポイント以上低下せず、しばしば改善される。 最終的に、MoEルーティングは、解釈可能なレンズを推論状態に分割し、テスト時間計算を最適化するための軽量なメカニズムを提供する。

関連論文リスト

• Early Stopping in Large Reasoning Models: A Survey and Empirical Audit of Efficiency and Reliability [14.663367374051967]
  早期停止メソッドは、答えられる十分な推論が得られれば、停止することを目的としている。 数学的および科学的推論,コード生成,事実性タスクにおいて,5つの推論モデルにまたがる異なる手法を評価する。 また、後続の出口位置での正当性、モデルとタスク間の移動、停止後の推論継続、正当化品質の維持についても検討した。
  論文  参考訳（メタデータ） (2026-10-30T11:39:08Z)
• ThinkRetrieve: Retrieval-Augmented Reasoning Traces for Test-Time Scaling [60.48279351544583]
  ThinkRetrieveは大規模な推論モデルのためのテスト時間スケーリングフレームワークである。 それぞれの中間ステップで関連する例を検索し、思考トレースに直接注入する。 標準的なテスト時間スケーリングよりも精度が一貫して向上する。
  論文  参考訳（メタデータ） (2026-08-11T13:58:07Z)
• Understanding and Mitigating Premature Confidence for Better LLM Reasoning [76.16007941549857]
  現在の言語モデルからの思考の長い連鎖(CoT)は、しばしば論理的ギャップと不正な跳躍を含んでいる。 このような信号は、モデルの信頼性が推論中にどのように進化するかを示す。 これは、モデルを早期にコミットするのではなく、理由によってモデルの信頼性を更新するように訓練する強化学習の目標です。
  論文  参考訳（メタデータ） (2026-05-23T04:42:45Z)
• Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
  モデル・オーガニゼーションのベンチマークであるPandoを紹介します。 Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。 説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
  論文  参考訳（メタデータ） (2026-04-13T06:42:24Z)
• Reliable Control-Point Selection for Steering Reasoning in Large Language Models [28.288321095634128]
  ステアリングベクトルは、大規模言語モデルにおける推論動作を制御するためのトレーニング不要のメカニズムを提供する。 しかし、有効なベクトルを構成するには、モデルが隠した状態にある真の行動信号を特定する必要がある。 提案手法は,全ての検出された境界が真の行動信号を符号化していることを暗黙的に仮定して,チェーンオブソートトレースのキーワードマッチングによってこれらの挙動を検出する。 本研究では,コンテキスト依存的なトリガ確率を持つ事象として固有の推論動作を形式化する確率モデルを構築し,不安定な境界が操舵信号を弱めることを示す。
  論文  参考訳（メタデータ） (2026-04-02T14:48:56Z)
• Directional Reasoning Trajectory Change (DRTC): Identifying Critical Trace Segments in Reasoning Models [0.0]
  Directional Reasoning Trajectory Change (DRTC) は、単一のオン政治ロールアウトからロングフォーム推論を解釈するためのプロセス因果的なフレームワークである。 DRTCは不確実性と分布シフト信号を用いてピボット決定点を検出する。 各介入がモデルのログ確率軌道の方向をリダイレクトするかどうかを測定する。
  論文  参考訳（メタデータ） (2026-02-17T03:38:16Z)
• Probing the Trajectories of Reasoning Traces in Large Language Models [4.599673637363014]
  本研究では,大規模言語モデルにおける推論トレースの軌跡を探索するプロトコルを提案する。 得られた推論トークンの比率が大きくなるにつれて、精度と決定のコミットメントが一貫して増加することが分かっています。 軌道探索が推論モデルのより効率的かつ安全な展開のための診断を提供することを示す。
  論文  参考訳（メタデータ） (2026-01-30T16:45:16Z)
• Metacognitive Reuse: Turning Recurring LLM Reasoning Into Concise Behaviors [45.578570554635775]
  大規模言語モデル(LLM)は、思考の連鎖を拡大することによって、多段階の問題を解決する。 再帰的推論の断片を簡潔かつ再利用可能な「行動」に変換する簡単なメカニズムについて検討する。 これらの振る舞いは"振る舞いハンドブック"に格納され、推論時のモデルインコンテキストにそれらを供給するか、教師付き微調整によってパラメータに蒸留する。
  論文  参考訳（メタデータ） (2025-09-16T16:44:26Z)
• Inverse Scaling in Test-Time Compute [51.16323216811257]
  LRM(Large Reasoning Models)の推論長の延長は性能を低下させる。 モデルが長い理由付けをする場合には、5つの異なる障害モードを特定します。 これらの結果は、テストタイムの計算スケーリングはモデル機能の改善に引き続き期待できるが、問題のある推論パターンを必然的に補強する可能性があることを示唆している。
  論文  参考訳（メタデータ） (2025-07-19T00:06:13Z)
• Why do you think that? Exploring Faithful Sentence-Level Rationales Without Supervision [60.62434362997016]
  文レベルで忠実な論理を出力するモデルを作成するために,異なる訓練枠組みを提案する。 本モデルでは,各理性に基づいて各課題を個別に解決し,その課題を最もよく解決した者に高いスコアを割り当てることを学ぶ。
  論文  参考訳（メタデータ） (2020-10-07T12:54:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。