論文の概要: Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing

• arxiv url: http://arxiv.org/abs/2609.37402v1
• Date: Tue, 29 Sep 2026 12:42:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.494143
• Title: Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing
• Title（参考訳）: ルーティングは自前で支払うべき-経済的なLLMルーティングの少額監督
• Abstract要約: 大規模言語モデル(LLM)は、応答品質を維持しながら、各クエリを適切なモデルに割り当てることで、サービスコストを削減する。 しかし、そのようなルータを学習するには、クエリーの品質フィードバックを集めるために、過去のクエリーで複数の候補モデルを実行する必要があることが多い。 情報的モデルフィードバックを選択的に取得し,関連するクエリ間で機能情報を共有する,スパーススーパービジョンルーティングフレームワークであるSaveを提案する。
• 参考スコア（独自算出の注目度）: 41.81696128826457
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) routing reduces serving cost by assigning each query to an appropriate model while preserving response quality. Learning such a router, however, often requires executing multiple candidate models on historical queries to collect query--model quality feedback, creating a nontrivial supervision cost before deployment. Existing work largely focuses on serving-time efficiency, overlooking whether the resulting savings are sufficient to recover this upfront expenditure. We further observe that routing quality often saturates well before all query--model feedback is collected, suggesting that dense supervision can be economically over-provisioned. We propose SaveRouter, a sparse-supervision routing framework that selectively acquires informative model feedback and shares capability information across related queries, while retaining query-level refinement for fine-grained routing. We evaluate routing by jointly accounting for supervision expenditure and subsequent serving-time savings. Across four routing benchmarks, the main setting uses only about 33--41% of available training feedback while maintaining competitive or better routing quality, and reduces the break-even deployment volume by approximately 1.9--9.5 times compared with the fastest conventional router. Further analysis shows that acquiring more supervision is not always economically preferable: the supervision level that minimizes serving cost can differ from the one that achieves the earliest payback. Our code is publicly available at https://github.com/LAMDA-Model-Reuse/SaveRouter.
• Abstract（参考訳）: 大規模言語モデル(LLM)ルーティングは、応答品質を維持しながら、各クエリを適切なモデルに割り当てることで、サービスコストを低減する。 しかし、そのようなルータを学習するためには、クエリーモデルの品質フィードバックを集めるために、履歴クエリ上で複数の候補モデルを実行する必要があることが多い。 既存の作業は主にサービス時間の効率に重点を置いており、その結果の貯蓄が、この事前支出を回復するのに十分なものであるかどうかを見落としている。 さらに、全てのクエリーモデルフィードバックが収集される前に、ルーティング品質が飽和することが多いことを観察し、厳密な監視が経済的に過剰に計画されていることを示唆する。 本稿では,情報モデルフィードバックを選択的に取得し,関連するクエリ間で機能情報を共有するためのスパーススーパールーティングフレームワークであるSaveRouterを提案する。 我々は,管理費とその後のサービス時間の節約を共同で会計し,経路を評価する。 4つのルーティングベンチマークで、主要な設定では、利用可能なトレーニングフィードバックの33～41%しか使用せず、競争力やより良いルーティング品質を維持しており、最も高速なルータに比べて、ブレーク・アン・デプロイメントの量を約1.9～9.5倍削減している。 さらなる分析は、より多くの監督を取得することが経済的に望ましいとは限らないことを示している:サービスコストを最小化する監督レベルは、最初期の報酬を達成するものとは異なる可能性がある。 私たちのコードはhttps://github.com/LAMDA-Model-Reuse/SaveRouter.comで公開されています。

関連論文リスト

• VDAR-Router: Adaptive LLMs Routing via Verbalized Query Difficulty Analysis Retrieval [16.067071673823417]
  難解検索に基づくルーティングフレームワークであるVDAR-theを提案する。 入力クエリ毎に、VDAR-theは明示的な難易度解析を生成する。 その後、同様の難易度プロファイルで過去の例を検索する。
  論文  参考訳（メタデータ） (2026-07-20T16:00:45Z)
• Resample or Reroute? Budget-Aware Test-Time Model Selection for Large Language Models [0.10152838128195468]
  この研究は、大規模言語モデルに対する予算対応テストタイムモデル選択を定式化する。 単位コスト当たりの限界精度の推定によるオンライン再サンプリング・オー・リルート(RoR)割り当てポリシーを提案する。 11モデルのオープンウェイトプールから4つの異なる難易度ベンチマークで新たに生成した正しさテンソルの実験により、提案されたRoRポリシーは、単一ルート、一コミットルータ、予算対応のベスト・オブ・K、カスケード、ランダム・アロケーションベースラインに対して、良好なコスト品質のロバスト性を達成することが示された。
  論文  参考訳（メタデータ） (2026-07-09T16:34:15Z)
• RouteLMT: Learned Sample Routing for Hybrid LLM Translation Deployment [57.588738943463646]
  大規模言語モデル(LLM)は機械翻訳(MT)において顕著な性能を発揮した 大規模に展開するのは 違法に高価です モデル内ルータである textbfRouteLMT を提案する。
  論文  参考訳（メタデータ） (2026-04-24T13:02:45Z)
• xRouter: Training Cost-Aware LLMs Orchestration System via Reinforcement Learning [104.63494870852894]
  我々は,学習したルータが直接応答するか,あるいは1つ以上の外部モデルを呼び出すことができるツールコールベースのルーティングシステム x を提案する。 当社の実装には、報酬とコスト会計を含む、完全な強化学習フレームワークが含まれています。 さまざまなベンチマークで、xはコストパフォーマンスのトレードオフを強く達成します。
  論文  参考訳（メタデータ） (2025-10-09T16:52:01Z)
• Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
  BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。 提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
  論文  参考訳（メタデータ） (2025-10-08T18:24:59Z)
• Meta-Router: Bridging Gold-standard and Preference-based Evaluations in Large Language Model Routing [15.724480880994259]
  大規模言語モデル(LLM)ルータは、クエリ毎に候補のプールから最も適切なモデルを選択する。 クラウドソーシングやLSM-as-a-judgeシステムを通じて収集された嗜好ベースのデータは、より安価でスケーラブルだが、応答の真の品質を反映することにはバイアスが伴うことが多い。 我々は、好みデータバイアスを補正し、2つのデータソース間の不均衡に対処し、ルーティングの堅牢性と効率を改善する統合因果ルータトレーニングフレームワークを開発する。
  論文  参考訳（メタデータ） (2025-09-29T21:44:00Z)
• OmniRouter: Budget and Performance Controllable Multi-LLM Routing [31.60019342381251]
  大規模言語モデル(LLM)は優れた性能を提供するが、かなりの計算資源を必要とし、比較的低効率で運用する。 マルチLLMサービスのための制御可能なルーティングフレームワークであるOmniを紹介する。 実験の結果、Omniは応答精度を最大6.30%改善し、同時に計算コストを少なくとも10.15%削減した。
  論文  参考訳（メタデータ） (2025-02-27T22:35:31Z)
• CITER: Collaborative Inference for Efficient Large Language Model Decoding with Token-Level Routing [74.14816777318033]
  Token-lEvel Routing(CITER)との協調推論は、小規模および大規模言語モデルの効率的な協調を可能にするフレームワークである。 ルータの学習をポリシー最適化として定式化し、予測の質と生成の推論コストの両方に基づいて報酬を受け取る。 実験の結果,CITERは高品質な生成を保ちながら推論コストを低減し,リアルタイムおよびリソース制約のあるアプリケーションに対して有望なソリューションを提供することがわかった。
  論文  参考訳（メタデータ） (2025-02-04T03:36:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。