論文の概要: VeriRouter: Towards Verifiable LLM Routing
- arxiv url: http://arxiv.org/abs/2610.17431v2
- Date: Tue, 20 Oct 2026 02:41:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.195928
- Title: VeriRouter: Towards Verifiable LLM Routing
- Title(参考訳): VeriRouter: 検証可能なLLMルーティングを目指して
- Abstract要約: 大きな言語モデル(LLM)ルータは、品質、レイテンシ、コストを最適化するために、ますます多くデプロイされている。
妥協されたルータは、制御プレーン上で不可認な選択を引き起こし、データプレーン上で未承認の書き換えやリレーを行い、ルーティングの整合性を損なう。
We present Veri, a verible LLM routing framework。
- 参考スコア(独自算出の注目度): 11.918613276509545
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) routers are increasingly deployed to optimize quality, latency, and cost through dynamic model selection and request rewriting. However, a compromised router can cause ineligible selection on the control plane, unendorsed rewriting or unfaithful relay on the data plane, undermining LLM routing integrity. We present VeriRouter, a verifiable LLM routing framework. Under an endorsed public context binding a private semantic index and rewrite banks, VeriRouter combines ZK proofs with a provider-issued serving certificate to establish integrity across both planes while keeping the router's private routing assets hidden from clients. For model selection, we design an efficient ZK proof for semantic search. For rewriting, local checks enforce message preservation and additions from committed banks. On real-world workloads, VeriRouter's model-selection and rewrite proofs average 21.92~s and 4.24~s, yielding 1,307$\times$ and 101$\times$ speedups over the fastest completing baselines. Relative to serving without verification, VeriRouter adds only 4.08 s under per-turn selection and 0.11 s under session-pinned selection.
- Abstract(参考訳): 大きな言語モデル(LLM)ルータは、動的モデルの選択と要求の書き直しによって、品質、レイテンシ、コストを最適化するために、ますます多くデプロイされている。
しかし、妥協されたルータは、制御プレーン上での無資格な選択、データプレーン上での修正なしリレー、あるいは不誠実なリレーを引き起こし、LCMルーティングの整合性を損なう可能性がある。
We present VeriRouter, a verible LLM routing framework。
プライベートセマンティックインデックスと銀行の書き直しを結合する承認されたパブリックコンテキストの下で、VeriRouterはZK証明とプロバイダ発行のサービス証明書を組み合わせて、ルータのプライベートルーティング資産をクライアントから隠蔽しながら、両方のプレーン間の整合性を確立する。
モデル選択のために,意味探索のための効率的なZK証明を設計する。
書き直しのために、ローカルチェックは、コミットされた銀行からのメッセージ保存と追加を強制する。
実世界のワークロードでは、VeriRouterのモデル選択と書き直しの証明は平均21.92~sと4.24~sで、1,307$\times$と101$\times$の速さで終わる。
検証なしのサービスとは対照的に、VeriRouterはターン毎の選択で4.08秒、セッションピン選択で0.11秒しか追加しない。
関連論文リスト
- FlexRouter: Learning Complementary Model Sets for Flexible LLM Routing [71.04470934007537]
既存のルーティングメソッドはLLMを独立してスコア付けし、上位$kのモデルを選択する。
これはモデル相関を無視し、厳格な計算予算を強制する。
モデリングを明示的にモデル化するルーティングフレームワークであるFlexを提案します。
論文 参考訳(メタデータ) (2026-09-29T21:44:05Z) - Agent-as-a-Router: Agentic Model Routing for Coding Tasks [54.00153674547733]
Agent-as-a-router (AC)はC-A-Fループとしてルーティングを形式化する(Context->Action->FeedbackContext)
ACは、分配タスクに対する最小の累積後悔を達成し、配布外エージェントプログラミングタスクに一般化する。
論文 参考訳(メタデータ) (2026-06-22T06:37:31Z) - TwinRouterBench: Fast Static and Live Dynamic Evaluation for Realistic Agentic LLM Routing [24.63595849324157]
2トラックのステップレベルのルーティングベンチマークであるTwinBenchを紹介した。
静的トラックは、SWE-bench、BFCL、mtRAG、QMSum、PinchBenchの520インスタンスから970のルータ可視プレフィックスを提供する。
ダイナミックトラックは、500ケースのSWE-bench Verifiedスイートでルーターを走らせるハーネスを提供する。
論文 参考訳(メタデータ) (2026-05-14T08:58:59Z) - When Routing Collapses: On the Degenerate Convergence of LLM Routers [46.01380774114097]
ユーザのコスト予算が増加するにつれて、ルータは体系的に最も有能で最も高価なモデルにデフォルトとなる。
モデルランキングを直接学習する決定対応ルータであるEquiを提案する。
RouterBenchでは、最強の先行ルータと比較して、GPT-4レベルのパフォーマンスでコストを約17%削減する。
論文 参考訳(メタデータ) (2026-02-03T12:51:55Z) - How Robust Are Router-LLMs? Analysis of the Fragility of LLM Routing Capabilities [62.474732677086855]
大規模言語モデル(LLM)ルーティングは,計算コストと性能のバランスをとる上で重要な戦略である。
DSCベンチマークを提案する: Diverse, Simple, and Categorizedは、幅広いクエリタイプでルータのパフォーマンスを分類する評価フレームワークである。
論文 参考訳(メタデータ) (2025-03-20T19:52:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。