論文の概要: OrcaRouter: A Production-Oriented LLM Router with Hybrid Offline-Online Learning

• arxiv url: http://arxiv.org/abs/2605.30736v1
• Date: Fri, 29 May 2026 01:59:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.335476
• Title: OrcaRouter: A Production-Oriented LLM Router with Hybrid Offline-Online Learning
• Title（参考訳）: OrcaRouter: ハイブリッドオフライン学習による生産指向LLMルータ
• Abstract要約: 本稿では,LinUCBをベースとした文脈的帯域幅を語彙や文埋め込み機能に組み合わせた生産指向ルータOrcaを提案する。 オフラインでは、Orcaは、ルーティングプロンプトのキュレートされたセット上で、各候補モデルを評価することによって、完全な情報フィードバックを得る。 Orca-Arenaは72.08のアリーナスコアで、1000のクエリに対してUSD 1.00のコストで75.54%の精度を達成した。
• 参考スコア（独自算出の注目度）: 4.283191876393727
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rapid development of large language models, each with distinct capabilities and inference costs, raises a practical deployment question: given an incoming request, which model should handle it? We present OrcaRouter, a production-oriented LLM router that combines a LinUCB-based contextual bandit over lexical and sentence-embedding features with a hybrid offline-online learning protocol. Offline, OrcaRouter obtains full-information feedback by evaluating each candidate model on a curated set of routing prompts, yielding a reward matrix used to fit one ridge regressor per arm. At deployment time, it initializes from these parameters and can optionally continue learning from bandit feedback, updating only the selected model's arm after observing its reward. At the time of our RouterArena submission (May 20, 2026), OrcaRouter-Adaptive ranked second on the public RouterArena leaderboard with an arena score of 72.08, achieving 75.54% accuracy at a cost of USD 1.00 per 1,000 queries.
• Abstract（参考訳）: 大きな言語モデルの迅速な開発は、それぞれ異なる機能と推論コストを持ち、実際のデプロイメントの問題を引き起こします。 本稿では,LinUCBをベースとしたLincaRouterと,語彙および文埋め込み機能を組み合わせた実運用指向LLMルータのOrcaRouterと,ハイブリッドオフラインオンライン学習プロトコルを提案する。 オフラインでは、OrcaRouterはルーティングプロンプトのキュレートされたセット上で各候補モデルを評価することで、完全な情報フィードバックを得る。 デプロイメント時には、これらのパラメータから初期化し、任意の方法でランディットフィードバックから学び、報酬を観察した後、選択したモデルの腕のみを更新する。 RouterArenaが提出された(2026年5月20日)時点で、OrcaRouter-Adaptiveは、公開RouterArenaのリーダーボードで72.08のアリーナスコアで2位にランクインし、1000クエリに対してUSD 1.00のコストで75.54%の精度を達成した。

関連論文リスト

• NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
  NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。 本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
  論文  参考訳（メタデータ） (2026-09-08T03:14:54Z)
• LatentRouter: Can We Choose the Right Multimodal Model Before Seeing Its Answer? [69.71754384259167]
  マルチモーダル大言語モデル(MLLM)は、OCR、チャート理解、空間的推論、視覚的質問応答、コスト、レイテンシにまたがるヘテロジニアスな強度を持つ。 本稿では,MLLMルーティングを実効的マルチモーダルユーティリティ予測として定式化するルータであるLatentを提案する。 MMR-BenchとVL-Benchの実験では、Latentは固定モデル、特徴レベル、学習ルータベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2026-05-11T22:42:12Z)
• Expected Reward Prediction, with Applications to Model Routing [51.74583237294919]
  繰り返しサンプリングを行うと, LLMが報酬モデルから得られると予測される報酬を予測することは容易である。 また、これらの予測された報酬予測は、モデルルーティングプロトコルへのアプリケーションをサポートするのに十分正確かつ差別的であることを示す。
  論文  参考訳（メタデータ） (2026-03-03T10:10:44Z)
• When RL Meets Adaptive Speculative Training: A Unified Training-Serving System [71.98182665273575]
  Auroraは、生の推論トレースから直接投機子を直接学習することでループを閉じる統一的なトレーニングサービスシステムである。 我々の設計では,SGLangベースの推論サーバを非同期トレーニングサーバと統合し,サービス中断なしにホットスワップされた投機装置の更新を可能にする。
  論文  参考訳（メタデータ） (2026-02-06T18:28:54Z)
• ICL-Router: In-Context Learned Model Representations for LLM Routing [30.759446235510467]
  本稿では,モデル機能を表現するために,コンテキスト内ベクトルを用いた新しいルーティング手法を提案する。 本手法は,分散処理とアウト・オブ・ディストリビューション処理の両方において,最先端のルーティング性能を実現する。
  論文  参考訳（メタデータ） (2025-10-10T06:47:37Z)
• xRouter: Training Cost-Aware LLMs Orchestration System via Reinforcement Learning [104.63494870852894]
  我々は,学習したルータが直接応答するか,あるいは1つ以上の外部モデルを呼び出すことができるツールコールベースのルーティングシステム x を提案する。 当社の実装には、報酬とコスト会計を含む、完全な強化学習フレームワークが含まれています。 さまざまなベンチマークで、xはコストパフォーマンスのトレードオフを強く達成します。
  論文  参考訳（メタデータ） (2025-10-09T16:52:01Z)
• Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
  BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。 提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
  論文  参考訳（メタデータ） (2025-10-08T18:24:59Z)
• Reward Model Routing in Alignment [5.432688539756747]
  ほとんどのパイプラインは単一の報酬モデル(RM)に依存しており、アライメントの品質を制限し、過度に適合するリスクがある。 最近の研究は、RMルーティング、すなわち、候補プールからRMを動的に選択し、相補的な強度を活用することを探っている。 オフラインのRM強度学習とオンラインベイズ選択を組み合わせたハイブリッドルーティングフレームワークであるベイズベクトルを提案する。
  論文  参考訳（メタデータ） (2025-10-03T09:37:59Z)
• Router-R1: Teaching LLMs Multi-Round Routing and Aggregation via Reinforcement Learning [27.70756702796812]
  マルチLLMルーティングとアグリゲーションを逐次決定プロセスとして定式化する強化学習フレームワークである textbf Generalization-R1 を提案する。 学習を容易にするために,形式報酬と最終結果報酬と,性能とコストのバランスを最適化するための新たなコスト報酬からなる軽量なルールベース報酬を用いる。
  論文  参考訳（メタデータ） (2025-06-10T17:56:45Z)
• Universal Model Routing for Efficient LLM Inference [69.86195589350264]
  モデルルーティングは,大規模言語モデル(LLM)の推論コストを削減する手法である 動的ルーティング問題に対する新しいアプローチであるUniRouteを提案する。 これらは理論的に最適なルーティングルールの推定であり、過大なリスクバウンドによってそれらのエラーを定量化する。
  論文  参考訳（メタデータ） (2025-02-12T20:30:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。