論文の概要: EntroRouter: Learning Efficient Model Routing via Entropy Regulation

• arxiv url: http://arxiv.org/abs/2606.29424v1
• Date: Sun, 28 Jun 2026 14:39:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.909205
• Title: EntroRouter: Learning Efficient Model Routing via Entropy Regulation
• Title（参考訳）: EntroRouter: エントロピー制御による効率的なモデルルーティング学習
• Abstract要約: エントロピー制御を主目的とする単一ラウンドルーティングフレームワークを提案する。 我々はEntroが最強の専門家の精度の98.3%を維持し、計算コストを48.25%削減していることを示した。
• 参考スコア（独自算出の注目度）: 45.88530258803968
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Model routing balances solution accuracy and computational cost by selecting among models of varying capabilities. While recent multi-round frameworks interleave reasoning and planning, we identify a structural failure mode termed Trust Region Collapse. We demonstrate that the deep coupling of reasoning and routing, exacerbated by the dominance of strong pre-training priors under sparse supervision, leads to degenerate local optima where capable experts are systematically suppressed. To decouple these processes, we propose $\textbf{EntroRouter}$, a single-round routing framework that treats entropy regulation as a core objective. We first initialize the policy via Soft Supervision, fitting a distribution of suitable models to establish a high-entropy prior for exploration. Subsequently, we stabilize Reinforcement Learning using a Soft Anchor, which utilizes offline capability estimates to orchestrate controlled entropy contraction within a safe trust region. Extensive experiments demonstrate that EntroRouter retains 98.3% of the strongest expert's accuracy while reducing computational costs by 48.25%.
• Abstract（参考訳）: モデルルーティングは、様々な能力のモデルの中から選択することで、解の精度と計算コストのバランスをとる。 最近のマルチラウンドフレームワークでは推論と計画がインターリーブされているが、Trust Region Collapseと呼ばれる構造的障害モードを特定している。 本研究は,厳格な事前学習の優位性による推論とルーティングの深い結合が,有能な専門家が体系的に抑制されるような局所的最適度を低下させることを示した。 これらのプロセスを分離するために、エントロピー制御をコア目的とする単一ラウンドルーティングフレームワークである$\textbf{EntroRouter}$を提案する。 我々はまず,ソフトスーパービジョンを通じてポリシーを初期化し,探索に先立って高エントロピーを確立するために適切なモデルの分布に適合する。 その後、オフライン能力推定を用いたソフトアンカーを用いた強化学習を安定化し、安全な信頼領域内で制御エントロピーの収縮を調整する。 大規模な実験では、EntroRouterは最強の専門家の精度の98.3%を維持し、計算コストを48.25%削減している。

関連論文リスト

• Adaptive Error Budget Allocation for Fault-Tolerant Quantum Resource Estimation: A Metaheuristic Approach [0.14323566945483496]
  システムレベルのリソース推定は、フォールトトレラントな量子コンピューティングツールチェーンの重要なコンポーネントである。 そこで我々は,Azure Quantum Resource Estor上で,微分自由探索を直接行うトレーニングフリー最適化フレームワークを提案する。 MQTベンチの31ファミリーから2から91キュービットに及ぶ433個の回路上で,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-08-16T07:14:29Z)
• Meta-Attention: Bayesian Per-Token Routing for Efficient Transformer Inference [0.0]
  本稿では,各トークンを最も適切な注意戦略に動的にルーティングするフレームワークであるMeta-Attentionを提案する。 決定論的または事前自由な学習ルーティングを使用する以前のルーティングアプローチとは異なり、Meta-Controllerは、トークン毎のメカニズム選択を後部推論として扱う。 この設計は、ソフトからハードへのルーティング遷移を制御し、アドホックな負荷分散損失を伴わずにルーティング崩壊を緩和し、より良い計算性能のトレードオフをもたらす、原則化されたルーティング不確実性推定を生成する。
  論文  参考訳（メタデータ） (2026-05-27T12:21:28Z)
• Flexible Routing via Uncertainty Decomposition [13.854691350572821]
  機械学習システムのパフォーマンスとコストのバランスをとるための主要な戦略は、クエリを低コストのモデルか高価なオラクルに動的にルーティングすることだ。 本稿では,不確実なクエリに対する不必要なオラクル呼び出しを回避するための,新しい不確実性対応ルータを提案する。
  論文  参考訳（メタデータ） (2026-05-08T14:39:57Z)
• ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
  ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。 我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-27T05:22:01Z)
• Robust Optimization Approach and Learning Based Hide-and-Seek Game for Resilient Network Design [10.37026246853005]
  本研究では、信号が許容しきい値以下になる前に、信号が限られた距離までしか転送できない、レジリエントで信頼性の高い通信ネットワークの設計について検討する。 過度な信号劣化が発生した場合、選択されたネットワークノードにインストールされた再生器を通して再生する必要がある。
  論文  参考訳（メタデータ） (2026-02-12T11:48:24Z)
• Conformal Thinking: Risk Control for Reasoning on a Compute Budget [60.65072883773352]
  大規模言語モデル(LLM)の推論により、トークンの予算が増加するにつれて、データセットレベルの精度が向上する。 我々は、予算設定問題をリスクコントロールとして再設定し、計算を最小化しながらエラー率を制限する。 我々のフレームワークは、モデルが自信のあるときに推論を停止する上位しきい値と、未解決のインスタンスを事前に停止させる新しい下位しきい値を導入する。
  論文  参考訳（メタデータ） (2026-02-03T18:17:22Z)
• ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
  ResADは正規化された残留軌道モデリングフレームワークである。 学習タスクを再編成し、慣性参照からの残留偏差を予測する。 NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
  論文  参考訳（メタデータ） (2025-10-09T17:59:36Z)
• Bayesian Mixture-of-Experts: Towards Making LLMs Know What They Don't Know [0.0]
  Mixture-of-Experts (MoE) は大規模で効率的な大規模言語モデルの構築を可能にした。 標準的な決定論的ルーティングメカニズムは、重大な制限を提示する。 この論文では、構造化されたtextbfBayesian MoEルーティングフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-28T12:07:35Z)
• Duality and Policy Evaluation in Distributionally Robust Bayesian Diffusion Control [8.863520091178335]
  予測端末数値ユーティリティの拡散制御問題について考察する。 コントローラは、基礎となる拡散の未知のドリフトに事前分布を課す。 実際には、前者は一般的に誤って指定され、モデルの誤特定の程度は、政策のパフォーマンスに重大な影響を与える可能性がある。 本稿では, ベースラインの分岐近傍で事前選択した相手に対して, コントローラがゲームをする, 分布的に堅牢なベイズ制御(DRBC)の定式化を導入する。
  論文  参考訳（メタデータ） (2025-06-24T03:58:49Z)
• Centaur: Robust End-to-End Autonomous Driving with Test-Time Training [84.78837437133234]
  我々は,手作業によるルールやコスト関数に頼ることなく,テストタイムトレーニングを通じてプランナーの行動を更新するCentaurを提案する。 本稿では,クラスタ・エントロピー(Cluster Entropy,クラスタ・エントロピー)と呼ばれる新しい不確実性尺度を開発した。
  論文  参考訳（メタデータ） (2025-03-14T17:59:41Z)
• PTEENet: Post-Trained Early-Exit Neural Networks Augmentation for Inference Cost Optimization [0.0]
  本稿では,DNNフィードフォワード推論プロセスに「ショートカット」を導入する手法について述べる。 提案手法は、前述した BranchyNet (Teerapittayanon et al., 2016) とEEnet (Demir, 2016) アーキテクチャに基づいて、メインネットワークとアーリーエグジットブランチを共同でトレーニングする。 これらの信頼度拡張の調整しきい値を定義することで、各ブランチから流出するデータの量と、モデルの速度と精度の全体的なトレードオフをリアルタイムで制御できる。
  論文  参考訳（メタデータ） (2025-01-05T11:35:08Z)
• Do Wider Neural Networks Really Help Adversarial Robustness? [92.8311752980399]
  モデルロバスト性は自然精度と摂動安定性のトレードオフと密接に関係していることを示す。 本稿では,ワイドモデル上でラムダ$を適応的に拡大するWidth Adjusted Regularization(WAR)手法を提案する。
  論文  参考訳（メタデータ） (2020-10-03T04:46:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。