論文の概要: T-Router: Learning Thalamic Routing for Reasoning with Parameter-Efficient Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2609.39109v1
- Date: Wed, 30 Sep 2026 06:48:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.29506
- Title: T-Router: Learning Thalamic Routing for Reasoning with Parameter-Efficient Reinforcement Learning
- Title(参考訳): Tルータ:パラメータ効率のよい強化学習による推論のための視差ルーティング学習
- Abstract要約: 強化学習は、訓練済みモデルにコンパクトなトレーニング可能なインタフェースで推論を改善することを目的としている。
本稿では,完備した計算の再利用に適応するタラミックルータ(T-)を紹介する。
- 参考スコア(独自算出の注目度): 8.337615925841396
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Parameter-efficient reinforcement learning aims to improve reasoning with a compact trainable interface to a pretrained model. We introduce the Thalamic Router (T-Router), which concentrates adaptation on the reuse of completed computations. A compressed, addressable bank preserves block changes; a depth-recurrent controller conditions their selection and relative-scale writeback. This coupling gives thalamic context-dependent routing a concrete computational form: learn which earlier contributions a receiving layer uses, and with what influence. Correctness rewards train the interface while preserving backbone parameters and layer order. On an 8.95B-parameter backbone, T-Router allocates 41.73M parameters (0.466% of the backbone) and achieves 83.64 +/- 1.16 MathAvg after GSM8K RL, compared with 73.79 +/- 1.83 for full-parameter GRPO across three evaluation rounds. At a comparable parameter budget and with matched retries, it exceeds LoRA's 77.28 +/- 1.95 MathAvg, improving all three task families and raising mean AIME accuracy from 48.33 to 60.56. Capacity-controlled comparisons favor addressable block changes and recurrent context; separate search training extends the interface to tool-mediated reasoning. These results establish controlled computation reuse as an effective route to parameter-efficient reasoning reinforcement learning.
- Abstract(参考訳): パラメータ効率強化学習は、訓練済みモデルにコンパクトなトレーニング可能なインタフェースで推論を改善することを目的としている。
本稿では,T-Router(T-Router)について述べる。
圧縮されたアドレス可能なバンクはブロックの変更を保存し、深さを繰り返すコントローラはその選択と相対スケールの書き込みを条件とする。
この結合は、視床的な文脈依存的なルーティングに具体的な計算形式を与えます。
正確さは、バックボーンパラメータと層秩序を保持しながらインターフェイスをトレーニングする。
8.95Bのバックボーンでは、Tルーターは41.73Mパラメータ(バックボーンの0.466%)を割り当て、GSM8K RL以降の83.64 +/- 1.16 MathAvgを3回の評価ラウンドで73.79 +/- 1.83と比較した。
ロラの77.28 +/- 1.95 MathAvgを超え、3つのタスクファミリを改良し、平均AIMEの精度を48.33から60.56に引き上げている。
キャパシティ制御された比較では、アドレス可能なブロック変更と再帰的なコンテキストが好まれる。
これらの結果は、パラメータ効率の良い推論強化学習への効果的な経路として、制御された計算再利用を確立する。
関連論文リスト
- HM-ROUTER: Joint Model and Harness Routing for Agentic Systems [13.747163470791245]
HM-Intrepidは、クエリ毎にモデルとハーネスを共同で選択するルーティング方法である。
標準ポリアディックテンソル分解(CP)にインスパイアされた相互作用項を用いて、ルート間で共有されるモデルとハーネス表現を学習し、それらの互換性がクエリとどのように異なるかを把握する。
平均ルーティング精度は7.3ポイントと最も高い評価を受けたベースラインを超え、6つのベンチマークサブセットで評価されたコスト予算を全てリードする。
論文 参考訳(メタデータ) (2026-09-26T04:19:28Z) - RecGPT-Mobile-V2 Technical Report [22.10290138930905]
RecGPT-Mobile-V2は、意図的品質と実行効率をステージド設計の目的として扱うエンドツーエンドフレームワークである。
このフレームワークは異種間相互作用をエビデンス保存軌道に変換し、ドメイン適応と教師付きアライメントを通じてレコメンデーションネイティブ基盤を確立する。
オンライン検索分析では、クエリリコールチャネルは、確立されたリコールチャネルによってサーフェスされたインベントリに補完されるインベントリを検索することを示している。
論文 参考訳(メタデータ) (2026-08-25T09:23:17Z) - Mach-Mind-4-Flash Technical Report [0.0]
Mach-Mind-4-Flashは3Bアクティベートパラメータを持つMixture-of-Experts (MoE)エージェントモデルである。
トレーニング後の最適化は、事前学習計算をスケーリングすることなく、100B-パラメータクラスのモデルと同等かそれ以上のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-07-10T12:57:08Z) - RISER: Orchestrating Latent Reasoning Skills for Adaptive Activation Steering [62.63376387138257]
本稿では,アクティベーション空間における大規模言語モデル(LLM)推論を適応的に制御するプラグイン・アンド・プレイ介入フレームワークを提案する。
RISERは再利用可能な推論ベクトルのライブラリを構築し、軽量ルータを使用して各入力に対して動的に構成する。
ルーターは、タスクレベルの報酬の下で強化学習を通じて最適化され、緊急かつ構成的な方法で潜在する認知的プリミティブを活性化する。
論文 参考訳(メタデータ) (2026-01-14T08:04:33Z) - CoT-X: An Adaptive Framework for Cross-Model Chain-of-Thought Transfer and Optimization [5.857877898558651]
CoT(Chain-of-Thought)推論は、大規模言語モデル(LLM)の問題解決能力を高めるが、かなりの推論オーバーヘッドをもたらす。
本稿では、適応的推論要約フレームワークを用いて、異なるスケールとアーキテクチャのモデル間での効率的なCoT転送について検討する。
論文 参考訳(メタデータ) (2025-11-07T22:35:31Z) - Dr.LLM: Dynamic Layer Routing in LLMs [55.11953638340419]
Dr.LLMは、事前訓練されたモデルに軽量な層ごとのルータを装備し、ブロックをスキップ、実行、繰り返すように決定する、適合性のあるフレームワークである。
ARC(logic)とDART(math)では、Dr.LLMは平均で5つのレイヤを保存しながら、最大3.4%の精度向上を実現している。
論文 参考訳(メタデータ) (2025-10-14T17:51:26Z) - ALoRE: Efficient Visual Adaptation via Aggregating Low Rank Experts [71.91042186338163]
ALoREは、Kroneckerによって構築された超複素パラメータ化空間をAggregate Low Rank Expertsに再利用する新しいPETL法である。
巧妙な設計のおかげで、ALoREは無視できる余分なパラメータを保持し、凍ったバックボーンに強制的にマージできる。
論文 参考訳(メタデータ) (2024-12-11T12:31:30Z) - Building Math Agents with Multi-Turn Iterative Preference Learning [56.71330214021884]
本稿では,モデル性能をさらに向上させるために,補完的な直接選好学習手法について検討する。
既存の直接選好学習アルゴリズムは、もともとシングルターンチャットタスク用に設計されている。
この文脈に合わせたマルチターン直接選好学習フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-04T02:41:04Z) - WeGeFT: Weight-Generative Fine-Tuning for Multi-Faceted Efficient Adaptation of Large Models [8.481707805559589]
WeGeFT(Weight-Generative Fine-Tuning)は、トレーニング済みの重みから直接微調整重みを生成することを学習する新しい手法である。
この設計は、パラメータ、表現、計算、メモリの多面的効率を実現し、LoRAとその変種の性能を維持したり、超えたりしている。
論文 参考訳(メタデータ) (2023-12-01T16:33:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。