論文の概要: UniScale: Adaptive Unified Inference Scaling via Online Joint Optimization of Model Routing and Test-Time Scaling
- arxiv url: http://arxiv.org/abs/2605.30898v1
- Date: Fri, 29 May 2026 06:31:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.422125
- Title: UniScale: Adaptive Unified Inference Scaling via Online Joint Optimization of Model Routing and Test-Time Scaling
- Title（参考訳）: UniScale: モデルルーティングとテスト時間スケーリングのオンライン共同最適化による適応的統一推論スケーリング
- Abstract要約: モデルルーティングとテスト時間スケーリングを統合するUIS(Unified Inference Scaling)を導入する。
私たちは、UniScaleがUIS空間のシナジーを効果的に活用して、細粒度で一貫した品質とコストのトレードオフを提供することを示す。
- 参考スコア（独自算出の注目度）: 35.728353523103074
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In real-world deployments of large language models (LLMs), balancing inference quality and computational cost has become a central challenge. Existing approaches tackle this trade-off along two largely independent dimensions: model routing, which switches among models of different scales to match request complexity, and test-time scaling (TTS), which adjusts inference-time compute within a fixed model for fine-grained control. However, this decoupled design introduces inherent limitations. Model routing yields coarse-grained, discrete performance changes due to the sparse set of model scales, while single-model TTS often encounters capacity ceilings and exhibits diminishing returns as compute increases. Moreover, treating the two mechanisms separately restricts adaptability in dynamic inference environments. To overcome these limitations, we introduce Unified Inference Scaling (UIS), which unifies model routing and TTS in a single optimization space. Building on this formulation, we propose UniScale, an online framework that models adaptive UIS as a contextual multi-armed bandit problem and learns inference policies via LinUCB. The framework incorporates efficiency-aware learning and cost modeling to ensure stable and scalable optimization over high-dimensional action spaces. Evaluation shows that UniScale effectively exploits the synergy in the UIS space to deliver a fine-grained and consistently better quality-cost trade-off across diverse, dynamic inference scenarios.
- Abstract（参考訳）: 大規模言語モデル(LLM)の現実的な展開では、推論品質と計算コストのバランスが中心的な課題となっている。
既存のアプローチでは、要求複雑性に合わせて異なるスケールのモデル間で切り替えるモデルルーティングと、厳密な制御のために固定されたモデル内での推論時間計算を調整するテストタイムスケーリング(TTS)という2つの領域で、このトレードオフに対処している。
しかし、この分離された設計には固有の制限が伴う。
モデルルーティングは、モデルスケールのスパースセットによる粗い粒度の離散的なパフォーマンス変化をもたらすが、シングルモデルTSはしばしばキャパシティ天井に遭遇し、計算量が増加するにつれてリターンが低下する。
さらに、この2つのメカニズムは動的推論環境における適応性を別々に制限する。
これらの制限を克服するために、モデルルーティングとTSを単一の最適化空間で統一するUnified Inference Scaling (UIS)を導入する。
この定式化に基づいて,適応型UISをコンテキスト型マルチアームバンディット問題としてモデル化し,LinUCBを介して推論ポリシーを学習するオンラインフレームワークUniScaleを提案する。
このフレームワークは効率を意識した学習とコストモデリングを取り入れ、高次元のアクション空間に対する安定的でスケーラブルな最適化を保証する。
評価によると、UniScaleはUIS空間のシナジーを効果的に活用し、多様な動的推論シナリオをまたいだ細粒度で一貫した品質とコストのトレードオフを提供する。
関連論文リスト
- Subspace Control: Turning Constrained Model Steering into Controllable Spectral Optimization [27.280175507074322]
制約付きモデルトレーニングのためのサブスペース制御フレームワークを提案する。
SIFT (spectral interference-free training) は、すべてのタスクにおいて、実質的で堅牢なパフォーマンス改善を一貫して達成する。
論文 参考訳（メタデータ） (2026-04-05T19:27:24Z) - Adaptive Linear Path Model-Based Diffusion [52.84663832658799]
リニアパスモデルベース拡散(LP-MBD)を導入し、分散保存スケジュールをフローマッチング線形確率パスに置き換える。
また,適応型LP-MBD(ALP-MBD)を提案し,タスクの複雑さや環境条件に応じて拡散ステップやノイズレベルを調整する。
論文 参考訳（メタデータ） (2026-02-02T21:33:03Z) - The Law of Multi-Model Collaboration: Scaling Limits of Model Ensembling for Large Language Models [54.51795784459866]
マルチモデル協調のための性能スケーリングの理論的枠組みを提案する。
本稿では,マルチモデルシステムにおいて,パラメータの総数に関して,パワー則のスケーリングが従うことを示す。
不均一なモデルファミリのアンサンブルは、単一のモデルファミリ内で形成されたものよりも優れたパフォーマンスのスケーリングを実現する。
論文 参考訳（メタデータ） (2025-12-29T09:55:12Z) - An Integrated Fusion Framework for Ensemble Learning Leveraging Gradient Boosting and Fuzzy Rule-Based Models [59.13182819190547]
ファジィ規則に基づくモデルは解釈可能性に優れ、様々な分野に広く応用されている。
複雑な設計仕様や大規模データセットのスケーラビリティといった課題に直面している。
本稿では,モデル性能と解釈可能性を高めるために,両パラダイムの強みを融合した統合統合フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-11T10:28:23Z) - Modular Delta Merging with Orthogonal Constraints: A Scalable Framework for Continual and Reversible Model Composition [0.0]
既存のモデルマージと継続的学習へのアプローチは、しばしばタスクの干渉、破滅的な忘れ込み、あるいは可逆性の欠如に悩まされる。
本稿では, 拡張性, 干渉フリー, 微調整モデルの構成が可能な新しいフレームワークである Orthogonal Constraints (MDM-OC) を用いた Modular Delta Merging を提案する。
論文 参考訳（メタデータ） (2025-07-28T17:08:49Z) - SpecRouter: Adaptive Routing for Multi-Level Speculative Decoding in Large Language Models [21.933379266533098]
大規模言語モデル(LLM)は、推論品質と計算コストの間に重要なトレードオフをもたらす。
既存のサービス戦略では、固定されたモデルスケールや静的な2段階の投機的デコードを用いることが多い。
本稿では,LLM推論を適応的ルーティング問題として再定義する新しいフレームワークであるsystemnameを紹介する。
論文 参考訳（メタデータ） (2025-05-12T15:46:28Z) - Communication-Efficient Wireless Federated Fine-Tuning for Large-Scale AI Models [13.742950928229078]
Low-Rank Adaptation (LoRA) は、完全に微調整された大型モデルではなく、コンパクトで低ランクな行列を訓練することでこれらの問題に対処する。
本稿では,学習性能と通信効率の両方を最適化する無線フェデレーションLoRAファインチューニングフレームワークを提案する。
論文 参考訳（メタデータ） (2025-05-01T06:15:38Z) - Switchable Representation Learning Framework with Self-compatibility [50.48336074436792]
自己整合性(SFSC)を考慮した交換可能な表現学習フレームワークを提案する。
SFSCは1つのトレーニングプロセスを通じて、異なる能力を持つ一連の互換性のあるサブモデルを生成する。
SFSCは評価データセット上で最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2022-06-16T16:46:32Z) - Slimmable Domain Adaptation [112.19652651687402]
重み付けモデルバンクを用いて、ドメイン間の一般化を改善するためのシンプルなフレームワーク、Slimmable Domain Adaptationを導入する。
私たちのフレームワークは、他の競合するアプローチを、複数のベンチマークにおいて非常に大きなマージンで上回ります。
論文 参考訳（メタデータ） (2022-06-14T06:28:04Z) - Adaptive Subcarrier, Parameter, and Power Allocation for Partitioned
Edge Learning Over Broadband Channels [69.18343801164741]
パーティショニングエッジ学習(PARTEL)は、無線ネットワークにおいてよく知られた分散学習手法であるパラメータサーバトレーニングを実装している。
本稿では、いくつかの補助変数を導入してParticleELを用いてトレーニングできるディープニューラルネットワーク(DNN)モデルについて考察する。
論文 参考訳（メタデータ） (2020-10-08T15:27:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。