論文の概要: Reasoning with Context Management and External Memory
- arxiv url: http://arxiv.org/abs/2610.24187v1
- Date: Fri, 16 Oct 2026 20:05:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-26 10:20:27.418427
- Title: Reasoning with Context Management and External Memory
- Title(参考訳): コンテキスト管理と外部記憶による推論
- Abstract要約: 推論モデルは、コンテキスト内メモリを通じて、推論プロセスの状態に関する情報を保持する。
本稿では、外部メモリによるコンテキスト管理を拡張して、追加のコンテキストで推論モデルに負担をかけることなく、追加情報を維持するアプローチであるRCMEMを提案する。
- 参考スコア(独自算出の注目度): 0.9685837672183747
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reasoning models maintain information about the status of their reasoning process through in-context memory. Complex problems require larger context windows and memory requirements. In this scenario, context management without caching risks discarding useful information for reasoning. We propose RCMEM, an approach that extends context management with an external memory to maintain additional information without burdening the reasoning model with additional context. RCMEM significantly reduces computation time on problems that require repeated computation of intermediate steps, while achieving better performance on complex problems. We demonstrate our approach on a few mathematics problems using model sizes ranging from 0.4 to 25 million parameters, and GPT-2.
- Abstract(参考訳): 推論モデルは、コンテキスト内メモリを通じて、推論プロセスの状態に関する情報を保持する。
複雑な問題には、より大きなコンテキストウィンドウとメモリ要求が必要である。
このシナリオでは、キャッシュのないコンテキスト管理は、推論に有用な情報を破棄するリスクを負う。
本稿では、外部メモリによるコンテキスト管理を拡張して、追加のコンテキストで推論モデルに負担をかけることなく、追加情報を維持するアプローチであるRCMEMを提案する。
RCMEMは、中間ステップの繰り返し計算を必要とする問題に対する計算時間を著しく短縮し、複雑な問題に対してより良い性能を達成する。
我々は,0.4から2500万パラメータのモデルサイズとGPT-2を用いて,いくつかの数学問題に対するアプローチを実証する。
関連論文リスト
- AgentLongBench: A Controllable Long Benchmark For Long-Contexts Agents via Environment Rollouts [78.33143446024485]
我々は、横方向思考パズルに基づく環境ロールアウトによるエージェントの評価を行うtextbfAgentLongBenchを紹介した。
このフレームワークは、知識集約的で知識のないシナリオにまたがる厳密な相互作用の軌跡を生成する。
論文 参考訳(メタデータ) (2026-01-28T16:05:44Z) - Evaluating Long-Term Memory for Long-Context Question Answering [100.1267054069757]
質問応答タスクにアノテートした合成長文対話のベンチマークであるLoCoMoを用いて,メモリ拡張手法の体系的評価を行う。
以上の結果から,メモリ拡張アプローチによりトークン使用率が90%以上削減され,競争精度が向上した。
論文 参考訳(メタデータ) (2025-10-27T18:03:50Z) - Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory [0.5584627289325719]
大規模言語モデル(LLM)は、文脈的に一貫性のある応答を生成する際、顕著な進歩を示した。
しかし、それらの固定されたコンテキストウィンドウは、長時間のマルチセッション対話に対する一貫性を維持するための根本的な課題を生じさせる。
私たちはMem0というスケーラブルなメモリ中心アーキテクチャを導入し、進行中の会話から健全な情報を動的に抽出し、統合し、取得することでこの問題に対処します。
論文 参考訳(メタデータ) (2025-04-28T01:46:35Z) - InftyThink: Breaking the Length Limits of Long-Context Reasoning in Large Language Models [44.27021281617822]
InftyThinkは、モノリシック推論を中間的な要約を伴う反復的なプロセスに変換するパラダイムである。
本手法では, 計算コストを抑えながら, 推理深度を推定できる。
論文 参考訳(メタデータ) (2025-03-09T16:59:14Z) - Improving Retrieval Augmented Open-Domain Question-Answering with Vectorized Contexts [83.57864140378035]
本稿では,オープンドメイン質問応答タスクにおいて,より長いコンテキストをカバーできる手法を提案する。
コンテキストを効果的にエンコードする小さなエンコーダ言語モデルを利用し、エンコーダは元の入力とクロスアテンションを適用する。
微調整後、2つのホールドインデータセット、4つのホールドアウトデータセット、および2つのIn Context Learning設定のパフォーマンスが改善された。
論文 参考訳(メタデータ) (2024-04-02T15:10:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。