論文の概要: Rethinking Retrieval in the Long-Context Era: Training-Free Semantic Trees for Adaptive Context Construction
- arxiv url: http://arxiv.org/abs/2610.34146v1
- Date: Sun, 25 Oct 2026 08:28:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.545019
- Title: Rethinking Retrieval in the Long-Context Era: Training-Free Semantic Trees for Adaptive Context Construction
- Title(参考訳): 長期における検索の再考:適応的文脈構築のための学習自由意味木
- Abstract要約: 私たちのフレームワークは、セマンティックな抽象化を使用して、回答する元のテキストを保持しながら選択をガイドする、トレーニング不要のフレームワークです。
我々のQA-F1の平均値は3つのLongBenchタスクに対して1.72ポイント向上し、4モデル平均で評価されたベースラインを越え、回答コンテキストの長さを58.55%削減した。
- 参考スコア(独自算出の注目度): 48.93999682633773
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Long-context language models can increasingly process entire documents, making full-context prompting a practical alternative to passage retrieval. However, greater capacity determines how much information a model can receive, but not which information best supports a query. This distinction motivates rethinking retrieval: when the full document already fits, can selecting and organizing its evidence improve answering? The challenge is to retain supporting facts and relations while keeping the context focused on the question. To reconcile these goals, we introduce \ours, a training-free framework that uses semantic abstraction to guide selection while retaining original text for answering. \ours constructs a reusable semantic hierarchy from the full document in a single generation, linking node descriptions to source spans. Given a query, structural--semantic scoring and fine-grained lexical attribution nominate shared source nodes; their union with ancestor context preserves structural relations and complete local text. Across four frontier answer models, \ours improves average QA-F1 by 1.72 points over full-context prompting on three LongBench tasks, surpassing the evaluated baselines on the four-model average while reducing answer-context length by 58.55\%. Our code is available at the $\href{https://anonymous.4open.science/r/treefuse-ECFE}{repository}$.
- Abstract(参考訳): 長文言語モデルは文書全体を処理しやすくし、全文語が通訳検索の実用的な代替手段となる。
しかし、より大きなキャパシティは、モデルがどれだけの情報を受信できるかを決定するが、どの情報がクエリを最もサポートしているかは決定しない。
この区別は、検索を再考する動機である: 完全なドキュメントがすでに適合している場合、その証拠を選択し、整理することで、回答を改善することができるか?
課題は、質問に焦点を絞ったコンテキストを維持しながら、事実と関係のサポートを維持することである。
これらの目標を整合させるために、私たちは、意味論的抽象化を用いて、答えのための原文を保持しながら選択をガイドするトレーニング不要のフレームワークであるShaoursを紹介した。
\oursは単一世代で全ドキュメントから再利用可能なセマンティック階層を構築し、ノード記述をソーススパンにリンクする。
クエリ、構造的セマンティックスコアリング、微粒な語彙属性が共有ソースノードを規定する。
4つのフロンティア回答モデル全体で、 \oursは3つのLongBenchタスクに対するフルコンテキストよりも平均QA-F1を1.72ポイント改善し、回答コンテキストの長さを58.55\%削減しながら、4モデル平均に対する評価ベースラインを超えた。
私たちのコードは$\href{https://anonymous.4open.science/r/treefuse-ECFE}{repository}$で利用可能です。
関連論文リスト
- Context Recycling for Long-Horizon LLM Inference [0.3655021726150367]
大規模言語モデル(LLM)は、短文推論において強力な能力を示すが、長い会話の地平線上での性能は低下する。
タスク関連情報をターン毎に保持するコンテキストリサイクルシステムであるContextForgeを紹介する。
システムは、完全なコンテキスト再生に頼ることなく、事前計算の効率的な再利用を可能にする。
論文 参考訳(メタデータ) (2026-05-01T04:45:08Z) - Towards Knowledge-Aware Document Systems: Modeling Semantic Coverage Relations via Answerability Detection [40.12543056558646]
本稿では,セマンティックカバレッジ関係(SCR)をモデル化するための新しいフレームワークを提案する。
等価性、包摂性、セマンティックオーバーラップという3つのコア関係タイプを定義します。
質問応答(QA)に基づくアプローチでは,文書間で共有された質問の応答可能性を意味的カバレッジの指標として活用する。
論文 参考訳(メタデータ) (2025-09-10T06:00:01Z) - Beyond Chunking: Discourse-Aware Hierarchical Retrieval for Long Document Question Answering [51.7493726399073]
本稿では,長文質問応答を改善するための対話型階層型フレームワークを提案する。
このフレームワークには3つの重要な革新がある: 長文の専門的な談話解析、LLMに基づく談話関係ノードの拡張、構造誘導階層検索である。
論文 参考訳(メタデータ) (2025-05-26T14:45:12Z) - ELITE: Embedding-Less retrieval with Iterative Text Exploration [5.8851517822935335]
大規模言語モデル(LLM)は自然言語処理において顕著な進歩を遂げた。
長期のコンテキスト制約を維持する能力は、ドキュメントレベルやマルチターンタスクのパフォーマンスを制限します。
論文 参考訳(メタデータ) (2025-05-17T08:48:43Z) - On Context Utilization in Summarization with Large Language Models [83.84459732796302]
大きな言語モデル(LLM)は抽象的な要約タスクに優れ、流動的で関連する要約を提供する。
最近の進歩は、100kトークンを超える長期入力コンテキストを扱う能力を拡張している。
要約における文脈利用と位置バイアスに関する最初の総合的研究を行う。
論文 参考訳(メタデータ) (2023-10-16T16:45:12Z) - Generate rather than Retrieve: Large Language Models are Strong Context
Generators [74.87021992611672]
本稿では,文書検索を大規模言語モデル生成器に置き換えることで,知識集約型タスクを解く新しい視点を提案する。
我々は,提案手法をgenRead (genRead) と呼び,まず大きな言語モデルに対して,与えられた質問に基づいて文脈文書を生成し,次に生成された文書を読み出して最終回答を生成する。
論文 参考訳(メタデータ) (2022-09-21T01:30:59Z) - A Methodology for Creating Question Answering Corpora Using Inverse Data
Annotation [16.914116942666976]
本稿では,構造化データに対する質問応答のためのコーパスを効率的に構築するための新しい手法を提案する。
本研究では,文脈自由文法からOTをランダムに生成する。
提案手法を適用して,大規模な意味解析コーパスであるOTTA(Operation Trees and Token Assignment)を作成する。
論文 参考訳(メタデータ) (2020-04-16T12:50:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。