論文の概要: PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents
- arxiv url: http://arxiv.org/abs/2609.06702v1
- Date: Sun, 06 Sep 2026 16:19:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 04:52:49.612636
- Title: PARSER: Read in Parallel, Reason in Depth for Long-Context LLM Agents
- Title（参考訳）: PARSER:LLMエージェントのパラレル読み出し、深さの推論
- Abstract要約: 本稿では、読みを推論から切り離すPARSERを紹介する。
単一のチャンクにバインドされた軽量サブエージェントのバンクは、ドキュメント全体を並列に読み取る。
7Kから896Kまでのコンテキストを持つマルチホップQAでは、4Bバックボーンを持つPARSERが最強のシーケンシャルメモリベースラインを上回っている。
- 参考スコア（独自算出の注目度）: 85.82624962221026
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sequential memory agents process long documents by reading chunks one after another while maintaining a compact memory state, coupling document traversal to reasoning depth. This coupling introduces sensitivity to evidence placement and ties inference latency linearly to document length. We introduce PARSER, which decouples reading from reasoning. A bank of lightweight subagents each bound to a single chunk read the entire document in parallel, while a lead agent reasons in depth through iterative scatter--gather rounds: at each round it broadcasts a query to all subagents, aggregates the returned evidence, and formulates a deeper follow-up query conditioned on what has been found so far. This decoupled design concentrates all learnable behavior in the lead agent, which is optimized with reinforcement learning, while the subagents remain frozen off-the-shelf models. On multi-hop QA with contexts ranging from 7K to 896K tokens, PARSER with a 4B backbone outperforms the strongest sequential memory baseline by 5.7 points on average and by 12.0 points at 896K tokens. Scaling to a 9B backbone, PARSER surpasses DeepSeek-V4-Pro by 6.3 points. Controlled experiments confirm that PARSER is robust to perturbations in evidence position, order, and distance, conditions that cause large accuracy swings in sequential methods, while reducing inference latency by up to 11x.
- Abstract（参考訳）: 連続記憶エージェントは、連続記憶状態を維持しながらチャンクを次々と読み取って長い文書を処理し、文書のトラバースを推論深さに結合する。
この結合はエビデンス配置に対する感度を導入し、文書の長さに線形に推論遅延を結び付ける。
本稿では、読みを推論から切り離すPARSERを紹介する。
軽量サブエージェントのバンクは、それぞれ1つのチャンクにバウンドされ、ドキュメント全体を並列に読み取る一方で、リードエージェントは反復的な散開ラウンドを通して、深い理由付けをする:各ラウンドでは、すべてのサブエージェントにクエリをブロードキャストし、返却されたエビデンスを集約し、これまで見つかったことに基づいて、より深いフォローアップクエリを定式化する。
この分離された設計は、強化学習に最適化されたリードエージェント内のすべての学習可能な振る舞いに集中し、サブエージェントは棚外で凍結されるモデルのままである。
コンテキストが7Kから896KのマルチホップQAでは、4Bのバックボーンを持つPARSERは、平均5.7ポイント、平均896Kの12.0ポイントで最強のシーケンシャルメモリベースラインを上回っている。
9Bバックボーンにスケールすると、PARSERはDeepSeek-V4-Proを6.3ポイント上回る。
制御された実験により、PARSERはエビデンス位置、順序、距離の摂動に頑健であり、シーケンシャルな方法で大きな精度の揺らぎを引き起こす条件であり、推論遅延を最大11倍減少させる。
関連論文リスト
- REIGN: Refurbished Embeddings with Integrated Guidance Networks for Efficient Context-Length Scaling [0.0]
REIGNは、生のトークンではなく、凍結したガイダンスネットワーク(GN)からのコンテキスト化されたチャンク埋め込みのシーケンスで動作するバイエンコーダである。
コントラストトレーニングと長期文脈における評価のための,合成長文書検索ベンチマークをリリースする。
2組の重要度試験は、特許上の1.6-4.3倍の大きさのモデルと同等であり、LoCo上の20倍大モデルの0.65 nDCG@10の範囲内に留まる。
論文 参考訳（メタデータ） (2026-08-30T16:50:38Z) - Tied Trit-Planes: Constraining PTQTP to a Uniform Nine-Level Quantizer, with a Persistent Folded Format for Disk-Streamed Mixture-of-Experts Serving [0.28304882054363123]
この研究はPTQTPの解法に制約としてそのアイデンティティを課した最初のものである。
我々は、284B-A13B混合エキスパートモデルであるDeepSeek-V4-Flash-0731のルートエキスパートに適用する。
すべてのコード、フォーマット、評価アーティファクトは、fucina推論スタックでオープンソースである。
論文 参考訳（メタデータ） (2026-08-09T20:53:47Z) - PI-Mem: Pushing Long-Context Reasoning to 3.6M Tokens with Parallel-Iterative Memory [30.188604861823823]
本稿では,チャンクの並列処理機構であるPI-Memを提案する。
我々は,HotpotQAベンチマークにおいて,最大360万トークンのPI-MemをQwen3.5-35B-A3B,Qwen2.5-7Bで評価した。
論文 参考訳（メタデータ） (2026-08-04T02:59:16Z) - Lost in a Single Vector: Improving Long-Document Retrieval with Chunk Evidence Aggregation [59.438696079345426]
DICEは、ドキュメントをチャンクに分割し、凍結したモデルで独立してエンコードし、それらを単一のベクタに集約する、トレーニング不要のドキュメントサイド戦略である。
LongEmbedでは、DICEは4つのバックボーン間の検索を改善し、4kトークンを超えるスライスで最大の利益を上げている。
12,779個のフィルターサンプルのうち、DICEは92.8%のケースで単一ベクトルベースラインよりも低いEDIが得られる。
論文 参考訳（メタデータ） (2026-06-17T07:44:04Z) - How Does Chunking Affect Retrieval-Augmented Code Completion? A Controlled Empirical Study [6.9242874337023705]
検索可能な生成パイプラインは、ソースファイルを検索可能なユニットに分割するチャンキングに依存している。
本研究は,チャンキングがコード補完品質に及ぼす影響を検証した実証的研究である。
以上の結果から,チャンキング戦略がRAGベースのコード補完に統計的に有意な影響を及ぼすことが明らかとなった。
論文 参考訳（メタデータ） (2026-05-06T11:09:42Z) - Dynamic Long Context Reasoning over Compressed Memory via End-to-End Reinforcement Learning [47.87361916374891]
本稿では,チャンクワイズ圧縮と選択的メモリリコールに基づく,効率的な長文推論のためのフレームワークを提案する。
このフレームワークは、長い入力をチャンクに分割し、各チャンクを学習圧縮機を用いて圧縮されたメモリ表現に符号化する。
ピークGPUメモリ使用量の最大2倍の削減と,MemAgent上での6倍の推論高速化を実現している。
論文 参考訳（メタデータ） (2026-02-09T08:33:11Z) - InfMem: Learning System-2 Memory Control for Long-Context Agent [43.413381779578266]
InfMemは、PreThink-Retrieve-Writeプロトコルを介してSystem-2スタイルの制御をインスタンス化する制御中心のエージェントである。
32kから100Mまでの超長期のQAベンチマークでは、InfMemはバックボーン全体でMemAgentを一貫して上回っている。
論文 参考訳（メタデータ） (2026-02-02T19:15:08Z) - MemSearcher: Training LLMs to Reason, Search and Manage Memory via End-to-End Reinforcement Learning [73.27233666920618]
本稿では,メモリを反復的に保持し,現在のターンと組み合わせたエージェントワークフローであるMemSearcherを提案する。
それぞれのターンで、MemSearcherはユーザーの質問をメモリに融合させ、推論トレースを生成し、検索アクションを実行し、メモリを更新してタスクの解決に必要な情報のみを保持する。
我々は,MemSearcher Agents の推論,検索戦略,メモリ管理を協調的に最適化する,エンドツーエンドの RL フレームワークである Multi-context GRPO を紹介する。
論文 参考訳（メタデータ） (2025-11-04T18:27:39Z) - Rethinking Thinking Tokens: LLMs as Improvement Operators [80.12087211785949]
推論トレーニングは、LLMに長い思考の連鎖(長いCoT)を生み出す動機を与え、自己チェックによるソリューション戦略を探索することを可能にする。
これにより、精度が高くなりますが、コンテキストの長さ、トークン/計算コスト、応答レイテンシが膨らみます。
現在のモデルはメタ認知を活用して、このParetoフロンティアで他の組み合わせを提供できるのでしょうか?
i) 多様なドラフトを並列に生成し、(ii) それらを有界なテキストワークスペースに蒸留し、(iii) このワークスペース上に条件付き精製する。
論文 参考訳（メタデータ） (2025-10-01T17:08:59Z) - dParallel: Learnable Parallel Decoding for dLLMs [77.24184219948337]
拡散大言語モデル(dLLM)は並列トークン予測と低推論遅延を提供する。
既存のオープンソースモデルは、パフォーマンスを確保するためにトークン長のデコードステップをほとんど必要としています。
高速サンプリングのためにdLLMs固有の並列性を解き放つシンプルで効果的な方法であるdParallelを導入する。
論文 参考訳（メタデータ） (2025-09-30T16:32:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。