論文の概要: QRAE: Query-Relevant Attention Entropy for Context Compression in DeepSearch Agents

• arxiv url: http://arxiv.org/abs/2611.07976v1
• Date: Thu, 05 Nov 2026 13:08:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.694421
• Title: QRAE: Query-Relevant Attention Entropy for Context Compression in DeepSearch Agents
• Title（参考訳）: QRAE:DeepSearchエージェントにおけるコンテキスト圧縮のためのクエリ関連注意エントロピー
• Abstract要約: 提案手法は,検索したチャンクがどの段階に留まるかを判断するオンラインコンテクスト圧縮手法である。 複数のDeepSearchベンチマークと推論モデル全体で、QRAEはタスクの成功を平均2.35ポイント改善している。
• 参考スコア（独自算出の注目度）: 29.630351715340296
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: DeepSearch LLM agents repeatedly search and carry retrieved sources into subsequent reasoning steps. This expanding context increases token consumption and latency, although many results do not contribute to later reasoning. We propose Query-Relevant Attention Entropy (QRAE), an online context compression method that uses sparse evidence-assessment heads to decide which intact retrieved chunks should persist across reasoning steps. It scores bounded candidate batches through paired prefills: a query-free control suppresses shared attention responses, while normalized entropy measures the breadth of the positive response within each chunk. High-scoring chunks enter a persistent evidence whitelist and are included in the reasoning context. Uncertain chunks remain outside the reasoning context but are retained in a candidate cache, where they can be retrieved for later reevaluation. QRAE requires neither an additional generative compression pass nor modification of the attention operator. Across multiple DeepSearch benchmarks and reasoning models, QRAE improves task success by an average of 2.35 percentage points and reduces end-to-end latency and reported token usage by an average of 30% and 45%, respectively. These benefits generalize to a model with nearly 100B parameters.
• Abstract（参考訳）: DeepSearch LLMエージェントは検索を繰り返し、検索したソースをその後の推論ステップに転送する。 この拡張コンテキストはトークンの消費と遅延を増加させるが、多くの結果は後続の推論に寄与しない。 提案するQRAE(Query-Relevant Attention Entropy)は,スパースエビデンス・アセスメント・ヘッドを用いたオンラインコンテキスト圧縮手法である。 クエリフリー制御は共有注意応答を抑制し、正規化エントロピーは各チャンク内の正の応答の幅を測定する。 ハイスコアなチャンクは、永続的なエビデンスホワイトリストに入り、推論コンテキストに含まれる。 不確実なチャンクは推論コンテキストの外にとどまるが、候補キャッシュに保持され、後で再評価するために取り出すことができる。 QRAEは、追加の生成圧縮パスもアテンション演算子の変更も必要としない。 複数のDeepSearchベンチマークと推論モデル全体で、QRAEはタスク成功率を平均2.35ポイント改善し、エンドツーエンドのレイテンシを減らし、トークン使用率を平均30%と45%削減する。 これらの利点は100Bに近いパラメータを持つモデルに一般化される。

関連論文リスト

• QREF: Improving DeepSearch Agents by Aligning Search with Reasoning via Query Refinement and Evidence Filtering [70.83365338105564]
  提案するQREFは,クエリリファイナとエビデンスフィルタである。 QREFは、現在の推論意図に従って検索クエリを書き換える。 エビデンスフィルタは、現在の検索バッチと推論目的の両方に関連する証拠を保持する。
  論文  参考訳（メタデータ） (2026-10-15T08:47:44Z)
• CANOPY: Adaptive-Granularity Evidence Compression for Multimodal RAG [7.21704145348428]
  CANOPYは,検索後のアダプティブ・グラニュラリティ・エビデンス・圧縮のためのフレームワークである。 CanOPYは検索したアイテムを階層として表現し、ゴールドエビデンスに微調整されたノードエンコーダを使用してクエリに対して領域をスコアする。
  論文  参考訳（メタデータ） (2026-10-01T01:57:55Z)
• MORSE: Multi-Context Ordering via Reverse Scoring for Evidence-Preserving Compression [8.068888334778704]
  また, 圧縮機で同じコンテキストを不変に変化させることで, 証拠が圧縮に耐えられることを示す。 我々は、エビデンス保存コンテキストオーダリングのための圧縮認識手法であるMORSEを紹介する。
  論文  参考訳（メタデータ） (2026-09-23T05:32:04Z)
• EAVer: Long-Form Factuality Verification as an End-to-End Agentic Policy [50.665874114632]
  我々は、完全な応答レベルの検証ワークフローを統一ポリシーとして制御することを学ぶ、エンドツーエンドのエージェント検証であるEAVerを紹介する。 EAVerはセマンティック関連クレームをグループ化し、信頼に基づいた直接検証やターゲット検索にルートし、コンパクトなインコンテキストメモで検索によって返される証拠を保持する。
  論文  参考訳（メタデータ） (2026-09-02T21:00:35Z)
• R$^2$-Searcher: Calibrating Retrieval and Reasoning Boundaries for Agentic Search [59.034878430183305]
  R$2$-Searcherは、検索と推論の境界を明示的に探索し、校正する。 R$2$-Searcherは,解答精度と検索品質において,最先端のエージェント検索法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2026-06-26T19:44:34Z)
• Clarify-Then-Search: A Clarification Benchmark for Deep Search with End-to-End Nugget Restoration [66.89521868638815]
  我々は,LLM生成の解明質問が下流の深層探索ユーティリティを改善するかどうかを評価するベンチマークであるClarify-Then-Searchを紹介する。 Baidu検索エンジンの実際のクエリデータに基づいて構築されたこのベンチマークには、518のキュレートされたインスタンスが含まれている。 静的な金に対して部分的にクレジットされた重み付きナゲット・リコールスコアであるrepure_score_100を用いて、エンドツーエンドのユーティリティをスコアする。
  論文  参考訳（メタデータ） (2026-06-17T13:16:31Z)
• MDER-DR: Multi-Hop Question Answering with Entity-Centric Summaries [2.756584457554517]
  Map-Disambiguate-Enrich-Reduce (MDER)はコンテキスト由来の3重記述を生成し、エンティティレベルの要約と統合する。 Decompose-Resolve (DR)は、ユーザクエリを解決可能なトリプルに分解し、知識グラフに格納する。 MDERとDRはLLM駆動のQAパイプラインを形成し、スパース、不完全、複雑なリレーショナルデータに対して堅牢である。
  論文  参考訳（メタデータ） (2026-03-11T18:38:44Z)
• Rerank Before You Reason: Analyzing Reranking Tradeoffs through Effective Token Cost in Deep Search Agents [50.212640395029744]
  深層探索パイプラインにおける推論予算の配分について検討する。 BrowseComp-Plusベンチマークを用いて、モデルスケール、推論の労力、深度の再検討、トークン総コストのトレードオフを分析する。
  論文  参考訳（メタデータ） (2026-01-20T18:38:35Z)
• TeaRAG: A Token-Efficient Agentic Retrieval-Augmented Generation Framework [62.66056331998838]
  TeaRAGは、検索内容と推論ステップの両方を圧縮できるトークン効率のエージェントRAGフレームワークである。 報奨関数は,過剰な推論ステップをペナルティ化しながら,知識マッチング機構によって知識満足度を評価する。
  論文  参考訳（メタデータ） (2025-11-07T16:08:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。