論文の概要: Coverage-Maximizing Multinomial Subset Routing under Operational Constraints
- arxiv url: http://arxiv.org/abs/2608.16375v1
- Date: Mon, 17 Aug 2026 10:30:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.635185
- Title: Coverage-Maximizing Multinomial Subset Routing under Operational Constraints
- Title（参考訳）: 運用制約下における被覆最大化多項サブセットルーティング
- Abstract要約: 我々は,Multinomial Subset Routing (MSR)を紹介した。
各ラウンドで、学習者はマルチノミカルポリシーから$M$のエキスパートをサンプリングし、その結果、異なるサンプル専門家の集合がルーティングされたサブセットを形成する。
報酬はルーティングされたサブセットで最高のパフォーマンスのエキスパートにのみ依存します。
- 参考スコア（独自算出の注目度）: 6.499454916436427
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce Multinomial Subset Routing (MSR), a new online routing framework over $K$ experts in which the learner keeps a multinomial routing policy instead of a deterministic subset of experts. At each round, the learner samples $M$ experts i.i.d. from the multinomial policy, and the resulting set of distinct sampled experts forms the routed subset. The reward depends only on the best-performing expert(s) in the routed subset. This reward structure arises naturally in routing across specialized models but is not captured by standard combinatorial bandits or subset-selection methods, which optimize deterministic subsets and typically assume additive rewards. We require the selection to satisfy several long-term, two-sided operational constraints under bandit feedback, observing only the winner's reward each round. We propose OMD-Approachability, combining online mirror descent with Blackwell's Approachability, and prove it achieves $O(1/\sqrt{T})$ regret in both reward and constraint violation. We ground the framework in practical application domains and validate it empirically on a real-world crowdsourcing dataset.
- Abstract（参考訳）: 我々は,学習者が専門家の決定論的サブセットではなく,多項ルーティングポリシーを維持できる,Kドル以上の新しいオンラインルーティングフレームワークであるMultinomial Subset Routing(MSR)を紹介した。
各ラウンドで、学習者はマルチノミカルポリシーから$M$のエキスパートをサンプリングし、その結果、異なるサンプル専門家の集合がルーティングされたサブセットを形成する。
報酬はルーティングされたサブセットで最高のパフォーマンスのエキスパートにのみ依存します。
この報酬構造は、特殊モデルにまたがるルーティングにおいて自然に生じるが、決定論的部分集合を最適化し、典型的には加法的な報酬を仮定する標準組合せの帯域幅やサブセット選択法によって捕捉されない。
各ラウンドの勝者の報酬のみを観察し、盗賊のフィードバックの下で、長期的、二面的な運用上の制約を満たすために、選択が必要である。
我々は,オンラインミラー降下とBlackwell's Approachabilityを組み合わせることで,O(1/\sqrt{T})$の報酬と制約違反の両面で後悔の意を証明し,MD-Approachabilityを提案する。
このフレームワークを実践的なアプリケーション領域に置き、実世界のクラウドソーシングデータセット上で実証的に検証します。
関連論文リスト
- Share First, Route What Remains: A Unified Framework for Token-Adaptive MoE Computation [49.8459545291965]
Mixture-of-experts (MoE)モデルは、最近、一定数の完全なエキスパートをルーティングする以上の動きをしている。
我々は、この依存度を、わずかにリサイクルされたフィードフォワードの専門家をキーバリューチャネルに分解することで研究する。
トークン適応型MoE計算のための統一フレームワークであるUniF-MoEでインスタンス化する。
論文 参考訳（メタデータ） (2026-08-11T02:40:58Z) - Beyond Routing Weights: Faithful Response-Level Interpretation of Mixture-of-Experts Reward Models via Contribution Contrast [22.088665451247753]
Mixture-of-Experts (MoE) 報酬モデルは、専門家にプロンプトをルーティングすることで解釈性を向上させる。
我々は、$textbfCo$ntribution-$textbfCo$ntrast ($textbfCo$)レスポンスレベルの解釈を提案する。
CoCoはルータベース、スコアベース、スパースオートエンコーダベースの代替よりも一貫性があり、忠実で、専門的な解釈をもたらす。
論文 参考訳（メタデータ） (2026-07-31T17:43:30Z) - Selective Ensemble Based on Preference-Directed Multi-Objective Bandits [90.75513823660775]
我々は、部分的に指定された線形選好の下で逐次決定問題を定式化する。
次に、嗜好指向の高信頼度境界(PrefUCB)アルゴリズムを提案する。
大規模な事前学習型モデル選択アンサンブルタスクと,機関委任下でのオンラインアセットアロケーションの実験により,本手法が検証された。
論文 参考訳（メタデータ） (2026-06-20T07:52:46Z) - ProbMoE: Differentiable Probabilistic Routing for Mixture-of-Experts [32.864092506780004]
Mixture-of-Experts (MoE)モデルはトークンごとに少数の専門家を活性化することでスケールする。
本稿では,確率的ルーティングフレームワークProbMoEを紹介する。
論文 参考訳（メタデータ） (2026-06-01T00:16:36Z) - The Sample Complexity of Multiclass and Sparse Contextual Bandits [106.74652380822778]
我々は,包括的フィードバックに基づいて,与えられたクラスからほぼ最適なポリシーを特定することを目的とする。
ゼロ・ワンの報酬を伴うバンド型マルチクラス分類に動機付けられ、emph$s$-sparse設定に焦点をあてる。
我々は、$s$-sparseの報酬で、誘導モデルクラスは、$s$でスケールするシャープなDEC境界を認め、直接最適なレートを得ることを示す。
論文 参考訳（メタデータ） (2026-05-28T09:12:20Z) - Online Learning-to-Defer with Varying Experts [6.097236291317658]
バンディットフィードバックと動的に変化する専門家のプールを備えた,マルチクラス分類のための最初のオンラインL2Dアルゴリズムを導入する。
本手法は, 一般には$O((n+n_e)T2/3)$, $O((n+n_e)sqrtT)$を低雑音条件下で後悔保証する。
合成および実世界のデータセットの実験により、我々のアプローチは、標準的なLearning-to-Deferを、専門家の可用性と信頼性の異なる設定に効果的に拡張することを示した。
論文 参考訳（メタデータ） (2026-05-12T16:19:44Z) - Expert Routing for Communication-Efficient MoE via Finite Expert Banks [3.8673630752805437]
リソース効率のよい機械学習では、スパース・ミックス・オブ・エクササイズ(MoE)アーキテクチャの利用が増えている。
ゲートをチャネルとして扱い、選択した専門家が利用可能なルーティング情報を定量化するために$I(X;T)$を使用します。
提案するフレームワークは,リソースを意識したMoE推論システムを解析するための実用的なツールを提供する。
論文 参考訳（メタデータ） (2026-05-06T16:00:46Z) - UCB-type Algorithm for Budget-Constrained Expert Learning [71.67657715154034]
algnameM-LCBはUCBスタイルのメタアルゴリズムであり、幻想的後悔の保証を提供する
我々は、AlgnameM-LCBが、限られたリソースの下で、ステートフルで自己学習の専門家をコーディネートする、より現実的なシナリオまで、古典的な帯域幅パラダイムをどのように拡張しているかを示す。
論文 参考訳（メタデータ） (2025-10-26T12:36:17Z) - Generalizing Behavior via Inverse Reinforcement Learning with Closed-Form Reward Centroids [37.79354987519793]
本研究では,実証を通じて提供される専門家の行動を,新たな環境や追加制約に一般化する問題について検討する。
本稿では,ある有界部分集合における報酬によって引き起こされる「平均」ポリシーを選択する,新しい原理的基準を提案する。
論文 参考訳（メタデータ） (2025-09-15T14:53:54Z) - Patch-level Routing in Mixture-of-Experts is Provably Sample-efficient
for Convolutional Neural Networks [74.68583356645276]
ディープラーニングでは、Mixix-of-experts(MoE)が、サンプル単位またはトーケン単位で専門家(サブネットワーク)を活性化する。
我々は,pMoEが適切な一般化を実現するために,必要なトレーニングサンプル数を確実に削減できることを初めて示す。
論文 参考訳（メタデータ） (2023-06-07T00:16:10Z) - SetRank: A Setwise Bayesian Approach for Collaborative Ranking from
Implicit Feedback [50.13745601531148]
提案手法は,提案システムにおける暗黙的フィードバックの特性に対応するために,協調的ランキング(SeetRank)のためのセッティングワイドベイズ的手法を提案する。
具体的には、SetRankは、新しい設定された選好比較の後方確率を最大化することを目的としている。
また、SetRankの理論解析により、余剰リスクの境界が$sqrtM/N$に比例できることを示す。
論文 参考訳（メタデータ） (2020-02-23T06:40:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。