論文の概要: Handoff Curves: Initial Selection, Later Handoff, and Supervision Targets in Multi-turn LLM Routing

• arxiv url: http://arxiv.org/abs/2610.15993v1
• Date: Sun, 11 Oct 2026 23:45:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.280789
• Title: Handoff Curves: Initial Selection, Later Handoff, and Supervision Targets in Multi-turn LLM Routing
• Title（参考訳）: ハンドオフ曲線:マルチターンLDMルーティングにおける初期選択、後手操作、およびスーパービジョンターゲット
• Abstract要約: 最初のモデル選択、後続のハンドオフ、トレーニングターゲットは、複数のターンにまたがるLLMタスクの成功とコストに影響を与える。 我々のデータセットには、BFCL、MultiWOZ、$$$-retailの3つのQwenモデルの34,204の完全実行が含まれている。
• 参考スコア（独自算出の注目度）: 8.947401874648028
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study how initial model selection, later handoff, and training targets affect success and cost in LLM tasks that span multiple turns. We compare several router architectures using handoff curves, which record task success and cost as the handoff step changes. Our dataset contains 34,204 complete executions of three Qwen models across BFCL, MultiWOZ, and $τ$-retail, providing offline supervision for routing decisions. In our primary comparison, with Qwen3.5 35B-A3B as the starting model, allowing a later handoff does not establish an improvement in utility over initial selection on BFCL or MultiWOZ, and increases cost on BFCL across a range of cost weights. Changing the supervision targets improves router performance on both our dataset and TwinRouterBench. On our dataset, replacing noisy training success curves with monotone fits raises success by 0.2 to 4.1 percentage points at the same cost across the reported operating points. On TwinRouterBench, we construct targets that describe the model capability needed for the remaining work and difficult steps ahead. Compared with training on the benchmark's per-step labels, these targets raise trajectory pass scores by 7.8 percentage points and cost savings by 6.3 percentage points on the full static bank. A live deployment of the router trained with these targets resolves 79 of 100 instances at a router cost of 0.59 US dollars per instance.
• Abstract（参考訳）: 我々は,初期モデル選択,後続ハンドオフ,トレーニング目標が複数回にわたるLLMタスクの成功とコストに与える影響について検討した。 ハンドオフのステップ変更に伴うタスクの成功とコストを記録する,ハンドオフ曲線を用いたルータアーキテクチャを比較した。 私たちのデータセットには、BFCL、MultiWOZ、$τ$-retailの3つのQwenモデルの34,204の完全実行が含まれています。 初回比較では,Qwen3.5 35B-A3B を出発モデルとし,BFCL や MultiWOZ での初期選択よりも実用性の向上が図られず,BFCL のコスト削減が図られている。 監視対象を変更することで、データセットとTwinRouterBenchのルータのパフォーマンスが向上する。 我々のデータセットでは、ノイズの多いトレーニング成功曲線をモノトーン適合に置き換えると、報告された運用ポイントの同じコストで、0.2から4.1ポイントの成功率が上昇する。 TwinRouterBenchでは、残りの作業に必要なモデル機能と困難なステップを記述するターゲットを構築します。 ベンチマークのステップごとのラベルのトレーニングと比較すると、これらのターゲットは軌道パススコアを7.8ポイント、コストセーブをフル静的バンクで6.3ポイント引き上げる。 これらのターゲットでトレーニングされたルータのライブデプロイは、インスタンス当たり0.59米ドルのルータコストで、100インスタンス中79インスタンスを解決している。

関連論文リスト

• RSI-Router: Evolving Subtask-Level LLM Routing and Skills for Cost-Efficient Agents [18.83301143969785]
  RSI-routerはサブタスクレベルのモデル割り当てとモデル固有のスキルを構築するルーティングフレームワークである。 DeepSeek-V4.1-FlashとQwen3.5-9Bのベースラインを5つのエージェントベンチマークでほぼ半分の推論コストで一貫して上回っている。
  論文  参考訳（メタデータ） (2026-09-28T09:23:01Z)
• AgentRouter: Heterogeneous Model Routing for Cost-Optimal Multi-Step Agentic Workflows [0.0]
  あらゆる軌道をフロンティアモデルにルートするエンタープライズエージェントシステムは、小さなモデルでも同じようにうまく扱えるサブタスクで予算の60-80%を無駄にします。 エージェント軌道上の逐次代入問題としてモデルルーティングを定式化し,エージェント推論を提案する。 エージェントはフロンティアのみのベースラインに対して72%のコスト削減を実現し、フロンティアのみの品質の97.3%を維持している。
  論文  参考訳（メタデータ） (2026-09-19T11:06:57Z)
• ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
  大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。 SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。 モデル自身の失敗から両方を得るReDraftを紹介します。
  論文  参考訳（メタデータ） (2026-09-15T04:59:03Z)
• From Production Traffic to Post-Training: Building a Self-Hosted LLM That Covers the Corporate Request Mix [55.08143827481755]
  200以上の内部アプリケーションから1つのモデルにトラフィックを集約します。 我々は、各軸ごとに別々のGRPOエキスパートを訓練し、2段階のSLERPを介してそれらをマージする。 このモデルは、プラットフォームトラフィックの50%、月1億6600万リクエストをサービスコストのごく一部で吸収する。
  論文  参考訳（メタデータ） (2026-09-01T17:39:26Z)
• Data Turnstile: A Scalable Open Framework for Function-Calling Data Generation [4.212647848163336]
  本稿では,関数呼び出しのための高品質な合成トレーニングデータを生成する,オープンソースのフレームワークであるData Turnstileを紹介する。 Turnstileは、マルチターンツール使用のインタラクションを、バリデーションとエラーフィードバックループを備えた制約付き、ステップワイズ生成に分解する。 本論文では,Turnstileデータを用いた2つの関数呼び出しベンチマークにおけるドメイン適応の有効性を示す。
  論文  参考訳（メタデータ） (2026-07-31T10:21:36Z)
• TRACE-ROUTER: Task-Consistent and Adaptive Online Routing for Agentic AI [8.291830023781403]
  本稿では,タスクレベルのルーティングフレームワークであるTRACEについて述べる。 タスクの遅延フィードバックを活用することで、TRACEはワークロードに適応するルーティングポリシを学ぶ。 精度にマッチしたトレードオフを継続的に改善し、非レイテンシフロンティアポイントを達成します。
  論文  参考訳（メタデータ） (2026-07-24T16:29:06Z)
• Cluster, Route, Escalate: Cascaded Framework for Cost-Aware LLM Serving [69.5155152169752]
  大規模言語モデル(LLM)のための2段階カスケードソリューションを提案する。 ステージ1は、受信するクエリをクラスタ化し、各クラスタを最もコスト効率の良いモデルに割り当てる。 ステージ2は品質推定(QE)カスケードを追加し、ステージ1からの出力が低品質であると判断されると、クエリはより強力なモデルにエスカレーションされる。 テストデータセットでは、カスケードシステムは最強モデルの精度の97-99%を保持し、TPOT(Time Per Output Token)を削減している。 タスクの正確性ラベルのみを必要とし、手動で再構成することなくモデルプールの変更に適応する。
  論文  参考訳（メタデータ） (2026-06-25T18:29:24Z)
• Dr.LLM: Dynamic Layer Routing in LLMs [55.11953638340419]
  Dr.LLMは、事前訓練されたモデルに軽量な層ごとのルータを装備し、ブロックをスキップ、実行、繰り返すように決定する、適合性のあるフレームワークである。 ARC(logic)とDART(math)では、Dr.LLMは平均で5つのレイヤを保存しながら、最大3.4%の精度向上を実現している。
  論文  参考訳（メタデータ） (2025-10-14T17:51:26Z)
• Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
  BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。 提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
  論文  参考訳（メタデータ） (2025-10-08T18:24:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。