論文の概要: Rethinking Quality in Large Language Model Routing: Security-Conditioned Model-and-Budget Selection

• arxiv url: http://arxiv.org/abs/2610.18566v2
• Date: Thu, 15 Oct 2026 20:13:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.536488
• Title: Rethinking Quality in Large Language Model Routing: Security-Conditioned Model-and-Budget Selection
• Title（参考訳）: 大規模言語モデルルーティングにおける品質の再考:セキュリティに配慮したモデルと予算の選択
• Abstract要約: 大規模言語モデル(LLM)ルータは、どのモデルを呼び出すか、クエリ毎にそれを付与する出力トークンの数を選択することで、サービスコストを削減する。 既存のルータは、単一の品質メトリックを使用してモデル予算アクションをランク付けする。 セキュリティの優先順位とトークン予算の割り当て方法を学習するルータであるSCを提案する。
• 参考スコア（独自算出の注目度）: 17.576426398630623
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM) routers reduce serving cost by choosing which model to call and how many output tokens to grant it for each query. Existing routers rank model-budget actions using a single quality metric. This does not work for mixed workloads. For ordinary queries, a good answer is correct and useful (utility); for security-sensitive queries, a good answer refuses harmful requests or resists malicious instructions (security). These two objectives prefer different models and budgets. We propose SCRouter, a router that learns when to prioritize security and how to allocate the token budget. For each model-budget pair, it estimates the probability that the response finishes within budget. It uses this probability to predict utility and security separately. A small probe determines how to weight these two predictions for each query. SCRouter then selects the model and budget by balancing the weighted utility and security against cost. We also build SCRouterBench, a benchmark of 38,869 utility and security queries spanning nine security dimensions, each answered under all 144 combinations of 12 models and 12 budgets, plus 2,753 out-of-domain queries. SCRouter improves the baselines by 13-29 points in-domain and 19-23 points out-of-domain.
• Abstract（参考訳）: 大規模言語モデル(LLM)ルータは、どのモデルを呼び出すか、クエリ毎にそれを付与する出力トークンの数を選択することで、サービスコストを削減する。 既存のルータは、単一の品質メトリックを使用してモデル予算アクションをランク付けする。 これは、混在するワークロードでは機能しない。 セキュリティに敏感なクエリでは、良い回答は有害な要求を拒否したり、悪意のある命令(セキュリティ)に抵抗する。 これらの2つの目的は、異なるモデルと予算を好む。 セキュリティの優先順位とトークン予算の割り当て方法を学習するルータであるSCRouterを提案する。 各モデル予算対について、応答が予算内で終了する確率を推定する。 この確率を使って、ユーティリティとセキュリティを別々に予測する。 小さなプローブは、クエリ毎にこれらの2つの予測を重み付けする方法を決定する。 SCRouterは、重み付けされたユーティリティとセキュリティとコストとのバランスをとることで、モデルと予算を選択する。 SCRouterBenchは38,869のユーティリティと9つのセキュリティディメンションにまたがるセキュリティクエリのベンチマークで、それぞれが144のモデルと12の予算の組み合わせと2,753のドメイン外クエリで答えています。 SCRouterは、ドメイン内の13-29ポイント、ドメイン外19-23ポイントのベースラインを改善している。

関連論文リスト

• Dynamic LLM Routers are Often Misguided [6.011108172815789]
  動的LLMルータは,各クエリを最も安価なモデルに送信することで,推論コストを削減することを約束する。 8つのタスクカテゴリにまたがるベンチマークで、14の設定で6つの商用ルータを分析します。 いずれのルータも、一致したコストで2つのよくできたモデルの中からランダムに選択するルータに勝るものは見つからない。
  論文  参考訳（メタデータ） (2026-10-02T03:42:28Z)
• FlexRouter: Learning Complementary Model Sets for Flexible LLM Routing [71.04470934007537]
  既存のルーティングメソッドはLLMを独立してスコア付けし、上位$kのモデルを選択する。 これはモデル相関を無視し、厳格な計算予算を強制する。 モデリングを明示的にモデル化するルーティングフレームワークであるFlexを提案します。
  論文  参考訳（メタデータ） (2026-09-29T21:44:05Z)
• SeLMRoute: Probabilistic Semantic Evidence for Large Language Model Routing [0.0]
  SeLMRouteは、候補に依存しないセマンティックエビデンスの抽出と、候補性能の学習を分離するルーティングフレームワークである。 LLMBench (15データセット、20の候補モデル、11,481のクエリ)では、SeLMRouteの平均精度は72.08% pm 0.45$である。 この表現は、評価された意味、密度、語彙、およびドメインレベルの表現の中で最も高い平均性能を達成する。
  論文  参考訳（メタデータ） (2026-09-28T09:31:45Z)
• Planner-as-Router: Joint Plan-Time Model Routing for Cost-Efficient Multi-Agent Workflows [0.8770825039504507]
  Planner-as-minus (PaR) はモデル階層の選択を計画そのものに折り畳みます。 PaRはワークフロー全体を前もって見ていて、別のルータモデルやトレーニングデータを必要としない。 シンクフロンティアモデルと同等のコストで、忠実なFrugalGPTカスケードを低コストで使用することができる。
  論文  参考訳（メタデータ） (2026-09-26T20:10:29Z)
• Cluster, Route, Escalate: Cascaded Framework for Cost-Aware LLM Serving [69.5155152169752]
  大規模言語モデル(LLM)のための2段階カスケードソリューションを提案する。 ステージ1は、受信するクエリをクラスタ化し、各クラスタを最もコスト効率の良いモデルに割り当てる。 ステージ2は品質推定(QE)カスケードを追加し、ステージ1からの出力が低品質であると判断されると、クエリはより強力なモデルにエスカレーションされる。 テストデータセットでは、カスケードシステムは最強モデルの精度の97-99%を保持し、TPOT(Time Per Output Token)を削減している。 タスクの正確性ラベルのみを必要とし、手動で再構成することなくモデルプールの変更に適応する。
  論文  参考訳（メタデータ） (2026-06-25T18:29:24Z)
• LatentRouter: Can We Choose the Right Multimodal Model Before Seeing Its Answer? [69.71754384259167]
  マルチモーダル大言語モデル(MLLM)は、OCR、チャート理解、空間的推論、視覚的質問応答、コスト、レイテンシにまたがるヘテロジニアスな強度を持つ。 本稿では,MLLMルーティングを実効的マルチモーダルユーティリティ予測として定式化するルータであるLatentを提案する。 MMR-BenchとVL-Benchの実験では、Latentは固定モデル、特徴レベル、学習ルータベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2026-05-11T22:42:12Z)
• Route to Rome Attack: Directing LLM Routers to Expensive Models via Adversarial Suffix Optimization [10.831044672402177]
  既存のルーティング攻撃は、ホワイトボックスアクセスまたはプロンプトに依存するため、現実のブラックボックスシナリオでは効果がない。 逆接接尾辞最適化による高価なモデルにブラックボックスLLMルータを誤誘導することを目的としたR$2$Aを提案する。 複数のオープンソースおよび商用ルーティングシステムの実験により、R$2$Aは、異なる分散のクエリにおける高価なモデルへのルーティング率を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2026-04-16T13:51:48Z)
• When Routing Collapses: On the Degenerate Convergence of LLM Routers [46.01380774114097]
  ユーザのコスト予算が増加するにつれて、ルータは体系的に最も有能で最も高価なモデルにデフォルトとなる。 モデルランキングを直接学習する決定対応ルータであるEquiを提案する。 RouterBenchでは、最強の先行ルータと比較して、GPT-4レベルのパフォーマンスでコストを約17%削減する。
  論文  参考訳（メタデータ） (2026-02-03T12:51:55Z)
• How Robust Are Router-LLMs? Analysis of the Fragility of LLM Routing Capabilities [62.474732677086855]
  大規模言語モデル(LLM)ルーティングは,計算コストと性能のバランスをとる上で重要な戦略である。 DSCベンチマークを提案する: Diverse, Simple, and Categorizedは、幅広いクエリタイプでルータのパフォーマンスを分類する評価フレームワークである。
  論文  参考訳（メタデータ） (2025-03-20T19:52:30Z)
• SafeRoute: Adaptive Model Selection for Efficient and Accurate Safety Guardrails in Large Language Models [63.63254955809224]
  本稿では,難しい例と簡単な例を区別するバイナリルータを提案する。 提案手法は、ルータが考慮するデータに対して、より大きな安全ガードモデルを選択的に適用し、精度を維持しながら効率を向上する。 複数のベンチマークデータセットによる実験結果から,適応モデルの選択により,計算コストと安全性性能のトレードオフが著しく向上することが示された。
  論文  参考訳（メタデータ） (2025-02-18T02:51:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。