論文の概要: Whose turn is it? Context-guided model routing for stateful agents

• arxiv url: http://arxiv.org/abs/2610.19292v1
• Date: Tue, 13 Oct 2026 23:13:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.845501
• Title: Whose turn is it? Context-guided model routing for stateful agents
• Title（参考訳）: 誰のターンか?ステートフルエージェントのためのコンテキスト誘導モデルルーティング
• Abstract要約: ユーザターン境界におけるゼロショット・コスト対応ルーティングについて検討する。 コストはトークン価格のみではなく,実行のダイナミクスに依存しています。
• 参考スコア（独自算出の注目度）: 10.861764771385232
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Model routing can reduce the cost of LLM applications by assigning simpler requests to cheaper models without sacrificing the quality of the response. However, most routers treat requests as independent. Stateful agents do not operate under this assumption: a user turn may require multiple model and tool calls, its difficulty depends on the state produced by earlier turns, and changing models can sacrifice reuse of the conversational prompt cache. We study zero-shot, cost-aware routing at the user-turn boundary, systematically varying the routing rule, access to session history, candidate models that differ in size, reasoning effort, or model provider, and prompt-cache behavior. We evaluate on multi-turn versions of SheetCopilot and SpreadsheetBench 2, where persistent workbooks and cross-turn dependencies make isolated routing decisions especially brittle. At a matched offloading rate, giving the router session history improves task pass rate over the same router without history, with gains for every model pair; history-aware routing remains within one point of always using the expensive model. We also found that cost depends on execution dynamics rather than token prices alone: the cheaper model's per-task cost advantage narrows from 6.8x to 3.2x on longer sessions. A closed form cache analysis further shows that downward switches (expensive to cheap) recover their cache cost within two LLM calls, whereas upward switches do not break even under the evaluated conditions. Together, these results show that agent routing is a sequential decision problem: effective policies must account for what happened earlier in the session and for the asymmetric cost of switching models.
• Abstract（参考訳）: モデルルーティングは、応答の品質を犠牲にすることなく、より単純な要求をより安価なモデルに割り当てることで、LCMアプリケーションのコストを削減できる。 しかし、ほとんどのルータはリクエストを独立したものとして扱う。 ステートフルエージェントは、この前提の下で動作しない: ユーザーターンは複数のモデルとツールコールを必要とし、その難しさは、以前のターンによって生成された状態に依存し、変更モデルは会話のプロンプトキャッシュの再利用を犠牲にすることができる。 ユーザターン境界におけるゼロショットでコストを意識したルーティング,ルーティングルールの体系的変更,セッション履歴へのアクセス,サイズ,推論作業,モデル提供者などによって異なる候補モデル,迅速なキャッシュ動作などについて検討する。 SheetCopilotとSpreadsheetBench 2のマルチターンバージョンでは、永続的なワークブックとクロスターン依存関係によって、特に分離されたルーティング決定が不安定になる。 一致したオフロードレートでは、ルータのセッション履歴は、履歴のない同じルータ上のタスクパス率を改善し、すべてのモデルペアに利得を与える。 より安価なモデルでは、より長いセッションで6.8倍から3.2倍のコストを削減できます。 クローズドフォームキャッシュ解析により、下向きスイッチは2つのLCMコールでキャッシュコストを回復するが、上向きスイッチは評価条件下でも壊れない。 これらの結果は、エージェントルーティングがシーケンシャルな決定問題であることを示している: 効果的なポリシーはセッションの初期に起こったことを考慮し、モデルの切り換えの非対称なコストを考慮しなければならない。

関連論文リスト

• Routing Should Pay for Itself: Sparse Supervision for Economical LLM Routing [41.81696128826457]
  大規模言語モデル(LLM)は、応答品質を維持しながら、各クエリを適切なモデルに割り当てることで、サービスコストを削減する。 しかし、そのようなルータを学習するには、クエリーの品質フィードバックを集めるために、過去のクエリーで複数の候補モデルを実行する必要があることが多い。 情報的モデルフィードバックを選択的に取得し,関連するクエリ間で機能情報を共有する,スパーススーパービジョンルーティングフレームワークであるSaveを提案する。
  論文  参考訳（メタデータ） (2026-09-29T12:42:02Z)
• VDAR-Router: Adaptive LLMs Routing via Verbalized Query Difficulty Analysis Retrieval [16.067071673823417]
  難解検索に基づくルーティングフレームワークであるVDAR-theを提案する。 入力クエリ毎に、VDAR-theは明示的な難易度解析を生成する。 その後、同様の難易度プロファイルで過去の例を検索する。
  論文  参考訳（メタデータ） (2026-07-20T16:00:45Z)
• Agentic Routing: The Harness-Native Data Flywheel [35.444792826526]
  DRACOやPinchBenchなどのエージェントベンチマークにおけるシングルトンおよびマルチモデルルーティングに関する研究 エージェントルーティングは単なるコストコントロールではなく、エージェントネイティブなトレーニングのためのデータエンジンである、と氏は主張する。
  論文  参考訳（メタデータ） (2026-07-13T11:05:55Z)
• SWE-Router: Routing in Multi-turn Agentic Software Engineering Tasks [11.50404356970464]
  マルチターンエージェントハーネスに埋め込まれた大規模言語モデル(LLM)は、ソフトウェア工学(SWE)を再構築している しかし、多くの問題が安い修正を認めると、すべてのタスクをフロンティアモデルにルーティングするのは無駄です。 SWEは,探索的なターン数回で安価なモデルを実行し,結果として生じる部分軌道を読み取る,価値に基づく時間的アプローチである。 本稿では,SWEタスクのコスト効率を大幅に向上すると同時に,より強力なモデルの性能の大部分を維持しながら,SWEタスクのコスト効率を大幅に向上させることを示す。
  論文  参考訳（メタデータ） (2026-06-30T01:46:26Z)
• Cluster, Route, Escalate: Cascaded Framework for Cost-Aware LLM Serving [69.5155152169752]
  大規模言語モデル(LLM)のための2段階カスケードソリューションを提案する。 ステージ1は、受信するクエリをクラスタ化し、各クラスタを最もコスト効率の良いモデルに割り当てる。 ステージ2は品質推定(QE)カスケードを追加し、ステージ1からの出力が低品質であると判断されると、クエリはより強力なモデルにエスカレーションされる。 テストデータセットでは、カスケードシステムは最強モデルの精度の97-99%を保持し、TPOT(Time Per Output Token)を削減している。 タスクの正確性ラベルのみを必要とし、手動で再構成することなくモデルプールの変更に適応する。
  論文  参考訳（メタデータ） (2026-06-25T18:29:24Z)
• MTRouter: Cost-Aware Multi-Turn LLM Routing with History-Model Joint Embeddings [47.963523156965174]
  大規模言語モデルに対する費用対効果を考慮したマルチターンルーティングについて検討する。 本稿では,対話履歴と候補モデルを結合履歴モデルにエンコードするMTを提案する。 実験によると、MTはパフォーマンスコストのトレードオフを改善する。
  論文  参考訳（メタデータ） (2026-04-26T04:42:21Z)
• When Routing Collapses: On the Degenerate Convergence of LLM Routers [46.01380774114097]
  ユーザのコスト予算が増加するにつれて、ルータは体系的に最も有能で最も高価なモデルにデフォルトとなる。 モデルランキングを直接学習する決定対応ルータであるEquiを提案する。 RouterBenchでは、最強の先行ルータと比較して、GPT-4レベルのパフォーマンスでコストを約17%削減する。
  論文  参考訳（メタデータ） (2026-02-03T12:51:55Z)
• Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
  BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。 提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
  論文  参考訳（メタデータ） (2025-10-08T18:24:59Z)
• Cost-Aware Contrastive Routing for LLMs [57.30288453580456]
  我々は、プロンプトとモデルの両方を共有埋め込み空間にマッピングする軽量フレームワークであるコストスペクトルコントラストルーティング(CSCR)を紹介します。 CSCRはベースラインを一貫して上回り、精度とコストのトレードオフを最大25%改善した。
  論文  参考訳（メタデータ） (2025-08-17T20:16:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。