論文の概要: RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing

• arxiv url: http://arxiv.org/abs/2610.26511v1
• Date: Mon, 19 Oct 2026 14:45:25 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:02:42.796698
• Title: RouterWorld: Scaling Conversational AI with Latency-Aware LLM Routing
• Title（参考訳）: RouterWorld: レイテンシを意識したLLMルーティングによる会話型AIのスケーリング
• Abstract要約: 我々は,対話型GenAIルーティングのための総合ベンチマークであるReuterWorldを紹介する。 371kシングルターン応答と76kマルチターンエージェント軌道を統一する。 ほとんどのルータは、部分的な可観測性の下でレイテンシを無視しながら、精度を過度に強調している。
• 参考スコア（独自算出の注目度）: 24.437916758794312
• License:
• Abstract: Conversational AI systems built on Large Language Models (LLMs) require routing mechanisms that balance answer quality and response latency at scale. However, existing LLM routing benchmarks assume full observability of all candidate model outcomes, under-emphasize latency as a first-class metric, and fragment evaluation across heterogeneous protocols misaligned with real-world settings. We introduce RouterWorld, a comprehensive benchmark for LLM routing in conversational GenAI. RouterWorld unifies 371k single-turn responses and 76k multi-turn agentic trajectories, adopts natural user interactions with a standardized LLM-as-a-judge protocol, and decouples efficiency from transient pricing via hardware-grounded latency annotations. Crucially, RouterWorld formalizes routing under partial observability through two setups: Cold-Start, which restricts learning to sparse, static logs, and Voyager, which models continuous data streams where routing decisions shape future training distributions. Evaluating 13 routing baselines, we find that most routers over-emphasize accuracy while ignoring latency under partial observability. Code and benchmark data are publicly available.
• Abstract（参考訳）: LLM(Large Language Models)上に構築された会話型AIシステムは、応答品質と応答レイテンシを大規模にバランスするルーティング機構を必要とする。 しかしながら、既存のLCMルーティングベンチマークでは、すべての候補モデル結果の完全な可観測性、レイテンシを第一級の指標として強調し、現実世界の設定と一致しない異種プロトコル間のフラグメント評価を前提としている。 我々は,対話型GenAIにおけるLLMルーティングの総合ベンチマークであるReuterWorldを紹介する。 RouterWorldは371kのシングルターン応答と76kのマルチターンエージェントトラジェクトリを統合し、標準化されたLDM-as-a-judgeプロトコルとの自然なユーザインタラクションを採用し、ハードウェア地上の遅延アノテーションを通じて過渡的な価格設定から効率を分離する。 RouterWorldは2つのセットアップを通じて、部分的な可観測性の下でルーティングを形式化する。Cold-Startは、学習をスパースに制限し、静的ログは、ルーティング決定が将来のトレーニングディストリビューションを形作る継続的データストリームをモデル化するVoyagerである。 13のルーティングベースラインを評価すると、ほとんどのルータは、部分的な可観測性の下でレイテンシを無視しながら、精度を過度に強調する。 コードとベンチマークデータは公開されている。

関連論文リスト

• TRACE-ROUTER: Task-Consistent and Adaptive Online Routing for Agentic AI [8.291830023781403]
  本稿では,タスクレベルのルーティングフレームワークであるTRACEについて述べる。 タスクの遅延フィードバックを活用することで、TRACEはワークロードに適応するルーティングポリシを学ぶ。 精度にマッチしたトレードオフを継続的に改善し、非レイテンシフロンティアポイントを達成します。
  論文  参考訳（メタデータ） (2026-07-24T16:29:06Z)
• Agent-as-a-Router: Agentic Model Routing for Coding Tasks [54.00153674547733]
  Agent-as-a-router (AC)はC-A-Fループとしてルーティングを形式化する(Context->Action->FeedbackContext) ACは、分配タスクに対する最小の累積後悔を達成し、配布外エージェントプログラミングタスクに一般化する。
  論文  参考訳（メタデータ） (2026-06-22T06:37:31Z)
• The Routing Plateau: Understanding and Breaking the Accuracy Limits of LLM Routers [19.847272668359707]
  LLMルーティングは、各クエリのモデルを動的に選択することで、LLMサービスのコスト品質トレードオフを改善するための一般的なアプローチである。 最近の研究では、クラスタリングベースのルータ、学習された分類器、ペアワイズランキング、信頼に基づくアプローチなど、幅広いルーティング方法が検討されている。 kNNを含む多くの手法は、非常によく似た精度を達成し、オラクルルータよりはるかに低い狭い性能範囲に収束する。
  論文  参考訳（メタデータ） (2026-05-27T19:29:01Z)
• ConsRoute:Consistency-Aware Adaptive Query Routing for Cloud-Edge-Device Large Language Models [7.869130026927]
  ConsRouteは、大規模言語モデルのための軽量でセマンティックな、適応的なルーティングフレームワークである。 ConsRouteは、エンドツーエンドのレイテンシと推論コストを40%近く削減しながら、ほぼクラウドのパフォーマンス(=95%)を達成することを示す。
  論文  参考訳（メタデータ） (2026-03-22T13:54:12Z)
• Efficient and Interpretable Multi-Agent LLM Routing via Ant Colony Optimization [58.59491516762626]
  マルチエージェントシステム(MAS)のための効率的かつ解釈可能なルーティングフレームワークAMRO-Sを提案する。 AMRO-Sは、意味条件付き経路選択問題としてMASルーティングをモデル化し、3つのキーメカニズムを通してルーティング性能を向上させる。 5つの公開ベンチマークと高速ストレステストによる大規模な実験により、AMRO-Sは強いルーティングベースラインに対する品質-コストトレードオフを一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-03-13T12:26:05Z)
• LLMRouterBench: A Massive Benchmark and Unified Framework for LLM Routing [44.046399484829635]
  大規模言語モデル(LLM)ルーティングは、各クエリをアンサンブルから最も適切なモデルに割り当てる。 LLMルーティングのための大規模ベンチマークおよび統合フレームワークであるLLMBenchを紹介する。 21のデータセットと33のモデルから400K以上のインスタンスで構成されている。
  論文  参考訳（メタデータ） (2026-01-12T05:01:15Z)
• How Robust Are Router-LLMs? Analysis of the Fragility of LLM Routing Capabilities [62.474732677086855]
  大規模言語モデル(LLM)ルーティングは,計算コストと性能のバランスをとる上で重要な戦略である。 DSCベンチマークを提案する: Diverse, Simple, and Categorizedは、幅広いクエリタイプでルータのパフォーマンスを分類する評価フレームワークである。
  論文  参考訳（メタデータ） (2025-03-20T19:52:30Z)
• Universal Model Routing for Efficient LLM Inference [69.86195589350264]
  モデルルーティングは,大規模言語モデル(LLM)の推論コストを削減する手法である 動的ルーティング問題に対する新しいアプローチであるUniRouteを提案する。 これらは理論的に最適なルーティングルールの推定であり、過大なリスクバウンドによってそれらのエラーを定量化する。
  論文  参考訳（メタデータ） (2025-02-12T20:30:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。