論文の概要: Beyond Query Memorization: Large Language Model Routing with Query Decomposition and Historical Matching

• arxiv url: http://arxiv.org/abs/2605.25558v1
• Date: Mon, 25 May 2026 08:12:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:19.463062
• Title: Beyond Query Memorization: Large Language Model Routing with Query Decomposition and Historical Matching
• Title（参考訳）: クエリのメモリ化を超えて - クエリ分解と履歴マッチングを備えた大規模言語モデルルーティング
• Authors: Bo Lv, Jingbo Sun,
• Abstract要約: DecoRは、ルーティングタスクを、過去のログから同様のクエリを精査するマッチングプロセスとして再キャストする。 マッチング精度を向上させるために,タスク固有の要件から言語表面の形状を分離するクエリ機能を導入する。
• 参考スコア（独自算出の注目度）: 6.980897284458787
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Optimizing the trade-off among predictive performance and computational cost is a central focus in the deployment of Large Language Models (LLMs). Current routing methods primarily rely on direct mapping from queries to models based on surface-level features, making them susceptible to the memorization trap and leading to poor generalizability on out-of-distribution (OOD) data. In this paper, we propose DecoR, a novel routing framework that recasts the routing task as a matching process of sifting similar queries from historical logs, effectively mitigating the memorization trap. To enhance matching accuracy, we introduce a query capability deconstruction method that decouples linguistic surface forms from task-intrinsic requirements, directing matching toward capability dimensions to ground decisions in essential task attributes. Furthermore, we develop CodaSet, a comprehensive benchmark for assessing routing generalization, where experimental results demonstrate that DecoR maintains superior accuracy while substantially lowering inference costs across both in-distribution and OOD settings. All the codes and data are available at https://github.com/lvbotenbest/DecoR.
• Abstract（参考訳）: 予測性能と計算コストのトレードオフを最適化することは、LLM(Large Language Models)の展開に重点を置いている。 現在のルーティング方式は、主にサーフェスレベルの特徴に基づくクエリからモデルへの直接マッピングに依存しており、メモリ化トラップの影響を受けやすく、アウト・オブ・ディストリビューション(OOD)データへの一般化性が低い。 本稿では,履歴ログから類似クエリを抽出し,暗記トラップを効果的に緩和する手法として,ルーティングタスクを再キャストする新しいルーティングフレームワークであるDecoRを提案する。 マッチングの精度を高めるために,タスク固有の要件から言語表面の形状を分離するクエリ機能デコンストラクション手法を導入する。 さらに、ルーティングの一般化を評価するための総合的なベンチマークであるCodaSetを開発し、実験結果により、DecoRはより優れた精度を維持しつつ、分布内およびOOD設定の両方で推論コストを大幅に削減することを示した。 すべてのコードとデータはhttps://github.com/lvbotenbest/DecoR.comで公開されている。

関連論文リスト

• Route Before Retrieve: Activating Latent Routing Abilities of LLMs for RAG vs. Long-Context Selection [57.3886742625188]
  Pre-Routeは、応答前に構造化推論を実行するプロアクティブなルーティングフレームワークである。 本研究は, (i) LLMは, ガイドラインを確実に適用可能な遅延ルーティング能力を有すること, (ii) 線形プローブにより, 表現空間における最適ルーティングの分離性を高めること, (iii) 蒸留により, この推論構造を, 軽量展開のためのより小さなモデルに伝達すること,の3つの重要な知見を示す。
  論文  参考訳（メタデータ） (2026-05-11T09:10:55Z)
• Heuristic-inspired Reasoning Priors Facilitate Data-Efficient Referring Object Detection [53.988759250627425]
  HeROD(Heuristic-inspired ROD)は、明示的で解釈可能な空間的および意味的推論を注入する軽量でモデルに依存しないフレームワークである。 HeRODは、スカーセラベル体制において強い接地ベースラインを一貫して上回っている。
  論文  参考訳（メタデータ） (2026-03-25T10:33:22Z)
• Learning to Route: A Rule-Driven Agent Framework for Hybrid-Source Retrieval-Augmented Generation [55.47971671635531]
  大言語モデル(LLM)は、一般質問回答(QA)において顕著な性能を示した。 Retrieval-Augmented Generation (RAG)は、LLMを外部知識で強化することで、この制限に対処する。 既存のシステムは、主に構造化されていないドキュメントに依存しているが、主にリレーショナルデータベースを見下ろしている。
  論文  参考訳（メタデータ） (2025-09-30T22:19:44Z)
• Learning to Route Queries Across Knowledge Bases for Step-wise Retrieval-Augmented Reasoning [60.84901522792042]
  Multimodal Retrieval-Augmented Generation (MRAG)は、マルチモーダル大言語モデル(MLLM)における幻覚の緩和を約束している。 進化する推論状態に基づいて知識をいつどこで取得するかを学習する新しいMRAGフレームワークであるR1を提案する。 R1-は多種多様なKBを適応的かつ効果的に利用でき、不要な検索を減らし、効率と精度を向上させる。
  論文  参考訳（メタデータ） (2025-05-28T08:17:57Z)
• Rethinking Predictive Modeling for LLM Routing: When Simple kNN Beats Complex Learned Routers [3.090041654375235]
  我々は、k-Nearest Neighbors (kNN) アプローチが、様々なタスクにまたがる最先端の学習ルータよりも優れていることを示す。 その結果, 埋め込み空間におけるモデル性能の局所性は, 単純な非パラメトリック手法によって強いルーティング決定を実現できることがわかった。
  論文  参考訳（メタデータ） (2025-05-19T01:33:41Z)
• Lightweight and Direct Document Relevance Optimization for Generative Information Retrieval [49.669503570350166]
  生成情報検索(GenIR)は、文書識別子(ドシデント)生成タスクとして文書検索を定式化する有望なニューラル検索パラダイムである。 既存のGenIRモデルはトークンレベルのミスアライメントに悩まされており、次のトークンを予測するためにトレーニングされたモデルは、ドキュメントレベルの関連性を効果的にキャプチャできないことが多い。 本稿では,トークンレベルのドシデント生成と文書レベルのドシデンス推定をペアのランク付けによる直接最適化により整合するダイレクトドキュメントレバレンス最適化(DDRO)を提案する。
  論文  参考訳（メタデータ） (2025-04-07T15:27:37Z)
• Wasserstein-Fisher-Rao Embedding: Logical Query Embeddings with Local Comparison and Global Transport [33.283368906484746]
  本研究は、不均衡な最適輸送理論による局所的および大域的トレードオフについて検討する。 我々は、Wasserstein-Fisher-Rao計量によって動機付けられたスコアリング関数を持つ有界測度として$real$に集合を埋め込む。 その結果、WFREは、標準データセット上の既存のクエリ埋め込みメソッドよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2023-05-06T12:48:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。