論文の概要: Cost-Aware Mixture-of-Experts Coordination for Model Markets
- arxiv url: http://arxiv.org/abs/2610.11908v1
- Date: Thu, 08 Oct 2026 13:09:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:54.037978
- Title: Cost-Aware Mixture-of-Experts Coordination for Model Markets
- Title(参考訳): モデル市場におけるコスト・アウェア・ミックス・オブ・エクササイズ・コーディネート
- Abstract要約: 本稿では,Mixture-of-Expertsをモデルレベルの学習アーキテクチャからマーケットレベルの調整機構へ引き上げるMOEベースのモデル市場フレームワークを提案する。
我々は、市場参加者、サービスワークフロー、専門家のコスト構造、予測ユーティリティと不均一な実行コストを組み合わせた福祉目標を定式化する。
- 参考スコア(独自算出の注目度): 1.2685626699504515
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing model marketplaces typically trade and select individual models as indivisible units, limiting their ability to exploit complementarities among heterogeneous experts. This paper proposes an MoE-based model market framework that lifts Mixture-of-Experts from a model-level learning architecture to a market-level coordination mechanism. In this framework, brokers use gating networks to coordinate multiple heterogeneous experts and deliver a composite model service. We formalize the market participants, service workflow, expert cost structure, and a welfare objective that combines predictive utility with heterogeneous execution costs. We then derive a cost-aware gating mechanism and market-aware training objective, and introduce a cost-adjusted revenue allocation rule that distributes residual revenue according to realized expert participation and execution cost. We also establish basic theoretical properties of the allocation rule, including budget balance, participation monotonicity, and cost sensitivity. Experiments over five random seeds on fifteen tabular and image benchmarks use independently trained and frozen neural and tree-based experts together with latency-derived execution costs. MoE Market achieves the highest mean welfare on all fifteen datasets and a lower mean expected cost than Standard MoE in every case, while maintaining competitive predictive performance. The allocation experiments further demonstrate systematic sensitivity to expert participation and cost, together with substantially lower computational overhead than exact Shapley allocation. These results suggest that MoE can serve as a market-level coordination principle for collaborative, cost-aware, and economically grounded model marketplaces.
- Abstract(参考訳): 既存のモデルマーケットプレースは通常、個々のモデルを識別不可能な単位として取引し、選択し、異種の専門家間の相補性を活用できる能力を制限する。
本稿では,Mixture-of-Expertsをモデルレベルの学習アーキテクチャからマーケットレベルの調整機構へ引き上げるMOEベースのモデル市場フレームワークを提案する。
このフレームワークでは、ブローカーはゲーティングネットワークを使用して複数の異種の専門家を調整し、複合モデルサービスを提供する。
我々は、市場参加者、サービスワークフロー、専門家のコスト構造、予測ユーティリティと不均一な実行コストを組み合わせた福祉目標を定式化する。
そこで、我々は、コスト対応ゲーティング機構と市場対応トレーニング目標を導出し、実現した専門家参加と実行コストに応じて残高を分配するコスト調整収益配分ルールを導入する。
また, 予算収支, 参加単調性, コスト感受性など, 配分規則の基本的な理論的特性も確立する。
15の表と画像のベンチマークで5つのランダムなシード実験では、独立したトレーニングと凍結されたニューラルネットワークとツリーベースのエキスパートと、レイテンシに基づく実行コストが使用されている。
MoE Marketは、競争力のある予測性能を維持しながら、15のデータセットすべてに対して最も高い平均福祉と、すべてのケースにおいて標準MoEよりも低い平均平均コストを達成する。
さらに、アロケーション実験では、専門家の参加とコストに対する体系的な感受性が示され、シャプリーのアロケーションよりも計算オーバーヘッドが大幅に低い。
これらの結果から,MoEはコラボレーティブ,コスト意識,経済基盤のモデルマーケットプレースにおいて,市場レベルのコーディネーションの原則として機能する可能性が示唆された。
関連論文リスト
- Pathwise Individual Rationality in Federated Learning: A Mechanism-Architecture Co-Design [13.821738908770982]
クライアントは、モデルの有効性を高めるために、プライバシ、コミュニケーション、計算コストをトレードオフする。
本稿では, 個別合理性 (IR) と真偽性 (Autarky) の両面から, このトレードオフを考察する。
本稿では,短期参加保証とパーソナライズされたモデル評価を組み合わせた新しい設計を提案する。
論文 参考訳(メタデータ) (2026-09-13T15:18:02Z) - Computational Arbitrage in AI Model Markets [73.20636221068352]
仲裁員は、市場を弱めるために、提供者間で推論予算を効率的に割り当てる。
単純な仲裁戦略が最大40%の純利益率を生み出すことを示す。
我々の結果は、仲裁は、モデル開発、蒸留、デプロイメントに影響を及ぼすAIモデル市場において、強力な力となり得ることを示唆している。
論文 参考訳(メタデータ) (2026-03-23T18:00:14Z) - From Debate to Equilibrium: Belief-Driven Multi-Agent LLM Reasoning via Bayesian Nash Equilibrium [52.28048367430481]
マルチエージェントフレームワークは、大規模言語モデル(LLM)の推論能力を高めることができるが、通常は計算コストと収束保証が欠如している。
我々は、不完全情報ゲームとしてマルチLLMコーディネーションをリキャストし、ベイズナッシュ均衡(BNE)を求める。
我々は、分散推論と集中的な最終出力を結合する階層的強化学習パラダイムである、Nash Equilibrium (ECON)による効率的なコーディネーションを導入する。
論文 参考訳(メタデータ) (2025-06-09T23:49:14Z) - Designing DSIC Mechanisms for Data Sharing in the Era of Large Language Models [0.0]
大規模言語モデル(LLM)のトレーニングには、法的、プライバシー、戦略的制約に直面している機関からの大量の高品質なデータが必要である。
本稿では,信頼度を最小化したデータ共有のためのメカニズム設計フレームワークを提案する。
我々は、プロバイダがデータコストと品質をプライベートに知るモデルを定式化し、その価値は、モデルの性能に対するデータの貢献からのみ生じます。
論文 参考訳(メタデータ) (2025-06-01T22:17:18Z) - Refined Mechanism Design for Approximately Structured Priors via Active
Regression [50.71772232237571]
我々は、大量の商品を戦略的入札者に販売する収益を最大化する販売業者の問題を考える。
この設定の最適かつほぼ最適のメカニズムは、特徴付けや計算が難しいことで有名である。
論文 参考訳(メタデータ) (2023-10-11T20:34:17Z) - UniMatch: A Unified User-Item Matching Framework for the Multi-purpose
Merchant Marketing [27.459774494479227]
1つのモデルでアイテムレコメンデーションとユーザターゲティングを同時に行うために,統合されたユーザイテムマッチングフレームワークを提案する。
我々のフレームワークは、最先端の手法と比較して大幅に性能が向上し、計算資源や日々のメンテナンスにかかるコストが大幅に削減された。
論文 参考訳(メタデータ) (2023-07-19T13:49:35Z) - Delegated Classification [21.384062337682185]
機械学習タスクのインセンティブ対応デリゲーションに関する理論的枠組みを提案する。
予算最適契約を定義し、合理的な仮定の下で単純なしきい値を取ることを証明します。
実証的に、我々は予算最適契約を小規模データを用いて構築できることを実証した。
論文 参考訳(メタデータ) (2023-06-20T11:59:03Z) - Finding Regularized Competitive Equilibria of Heterogeneous Agent
Macroeconomic Models with Reinforcement Learning [151.03738099494765]
労働市場に参入する世帯や企業を無限に数える異種エージェントマクロ経済モデルについて検討する。
本稿では,モデルの正規化競争均衡を求めるデータ駆動強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-02-24T17:16:27Z) - A Contract Theory based Incentive Mechanism for Federated Learning [52.24418084256517]
フェデレートラーニング(FL)は、データプライバシ保護機械学習パラダイムとして機能し、分散クライアントによってトレーニングされた協調モデルを実現する。
FLタスクを達成するために、タスクパブリッシャはFLサーバに金銭的なインセンティブを支払う必要があり、FLサーバはFLクライアントにタスクをオフロードする。
タスクがクライアントによってプライベートにトレーニングされているという事実から、FLクライアントに対して適切なインセンティブを設計することは困難である。
論文 参考訳(メタデータ) (2021-08-12T07:30:42Z) - Generalization Guarantees for Multi-item Profit Maximization: Pricing,
Auctions, and Randomized Mechanisms [86.81403511861788]
購入者の価値に根ざした分布が存在する場合のマルチイテム利益について検討する。
購入者の値の任意のセットに対して、利益はメカニズムのパラメーターにおいて断片的に線形である。
我々は、まだサンプルベースのメカニズム設計文献にはないメカニズムクラスに対する新しい境界を証明した。
論文 参考訳(メタデータ) (2017-04-29T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。