論文の概要: LatentHarness: Learning Latent Actions for Memory and Reasoning via Counterfactual Policy Distillation

• arxiv url: http://arxiv.org/abs/2609.39740v1
• Date: Wed, 30 Sep 2026 13:42:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.853827
• Title: LatentHarness: Learning Latent Actions for Memory and Reasoning via Counterfactual Policy Distillation
• Title（参考訳）: LatentHarness: 代替政策蒸留による記憶と推論のための潜在行動の学習
• Abstract要約: メモリアクセスと潜時推論を逐次潜時動作選択として統合するLatentHarnessを導入する。 我々は、この政策を、全てのアクションを1ステップずつ分断し、放出されたトークンにその影響をスコアする対実的な政策蒸留で訓練する。 6つの一般的な長文推論ベンチマークの中で、1.4BのLatentHarnessは最強のベースラインを2.8%、相対的に10.0%改善している。
• 参考スコア（独自算出の注目度）: 31.83403625968498
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Long-context reasoning faces two complementary bottlenecks: retaining evidence across long inputs and sustaining computation across many reasoning steps. Existing approaches largely address them separately, with external memory extending access to distant evidence and latent reasoning compressing multi-step computation. We introduce LatentHarness, which unifies memory access and latent reasoning as sequential latent action selection. At each internal step, the model chooses THINK for further computation, RECALL from a fast-weight memory of input evidence and intermediate reasoning states, or EXIT to emit the next token. We train this policy with counterfactual policy distillation, which branches every action for one step and scores its effect on the emitted token. These gains teach the policy when memory is more useful than further reasoning, while gradients through counterfactual recall teach which intermediate states should be retained in memory for future use. Across six general and long-context reasoning benchmarks, LatentHarness at 1.4B improves on the strongest baselines by 2.8% and 10.0% relative, respectively, and runs 5.9x faster than the strongest long-context baseline.
• Abstract（参考訳）: 長いコンテキスト推論は2つの相補的なボトルネックに直面している。 既存のアプローチでは、外部メモリが遠方のエビデンスへのアクセスを延長し、複数のステップの計算を圧縮する。 メモリアクセスと潜時推論を逐次潜時動作選択として統合するLatentHarnessを導入する。 各内部ステップでは、さらなる計算のためにTHINK、入力エビデンスと中間推論状態の高速なメモリからRECALL、次のトークンを出力するためにEXITを選択する。 我々は、この政策を、全てのアクションを1ステップずつ分断し、放出されたトークンにその影響をスコアする対実的な政策蒸留で訓練する。 これらの利得は、メモリがさらなる推論よりも有用である場合のポリシーを教える一方、反ファクト的リコールによる勾配は、将来の使用のために中間状態がメモリに保持されるべきかを教える。 6つの一般および長期の推論ベンチマークで、1.4BのLatentHarnessは最強のベースラインを2.8%、相対的に10.0%改善し、最強のロングコンテキストベースラインよりも5.9倍高速である。

関連論文リスト

• GradCuit: Credit-Assigned Gradient Flow Enables Robust and Interpretable Test-Time Latent Reasoning [61.67411833252235]
  本稿では,プロンプトの隠蔽表現と生成された継続の間に,選択したTransformer層に最適化可能な潜在状態を挿入するGradCuitを紹介する。 5つの命令調整されたバックボーン、3つの推論ベンチマーク、2つの回答フォーマットで、GradCuitの平均精度は64.5%である。 解釈可能性について、トークンレベルの勾配属性は、遅延の影響が推論・接続子トークンに集中していることを明らかにする一方、層解析は、初期から中間のトランスフォーマー層を最も効果的な最適化空間として認識する。
  論文  参考訳（メタデータ） (2026-08-03T17:55:24Z)
• Learning What to Remember: A Cognitively Grounded Multi-Factor Value Model for Agentic Memory [1.2127875744950842]
  LLMエージェントは、どのコンテキストウィンドウよりもはるかに大きなインタラクション履歴を蓄積する。 生産システムは意味的類似性や傾向に答える。 本研究では、7つの解釈可能な因子に対する多要素記憶関数 V(m)=sum_i w_i f_i(m) を提案する。
  論文  参考訳（メタデータ） (2026-06-11T06:17:31Z)
• Meta-Cognitive Memory Policy Optimization for Long-Horizon LLM Agents [13.846550145896314]
  メモリ拡張LDMエージェントは、相互作用軌跡をコンパクトメモリに要約することにより、複雑な長距離タスクに対処する。 既存のアプローチでは、結果に基づく強化学習を使用してこれらのメモリポリシーをトレーニングし、中間メモリ品質が低下する場所のローカライズに失敗する。 メモリ最適化は、単なる軌道レベルの成功ではなく、中間要約によって引き起こされる信念の明確さに焦点をあてるべきである。
  論文  参考訳（メタデータ） (2026-05-28T16:17:19Z)
• Goal-Oriented Reasoning for RAG-based Memory in Conversational Agentic LLM Systems [20.461904943047468]
  Goal-Memは、RAGベースのエージェントメモリのためのゴール指向の推論フレームワークである。 Goal-Memはマルチホップ推論と暗黙推論を必要とするタスクのパフォーマンスを一貫して改善する。
  論文  参考訳（メタデータ） (2026-05-12T14:51:02Z)
• MemQ: Integrating Q-Learning into Self-Evolving Memory Agents over Provenance DAGs [47.66730296440261]
  我々は,新たなメモリが生成されるたびに記憶が取得されたことを記録した証明DAGを通じて,クレジットを後方に伝播するMemQを紹介した。 6つのベンチマークで、MemQは、一般化評価とランタイム学習の6つすべてで最高成功率を達成した。 さらに、$と$がEC-MDP構造とどのように相互作用するかを研究し、パラメータ選択と将来の研究の原則的なガイダンスを提供する。
  論文  参考訳（メタデータ） (2026-05-08T18:30:24Z)
• Stepwise Penalization for Length-Efficient Chain-of-Thought Reasoning [66.22060690012512]
  大規模な推論モデルは、より多くのテストタイム計算で改善されるが、しばしば過大評価され、正確さを向上することなくコストを上昇させる必要のない長い連鎖を生み出す。 本研究は,本質的な貢献に基づいて,ステップ間の長さ短縮を割り当てる,きめ細かいフレームワークであるSWAPを提案する。
  論文  参考訳（メタデータ） (2026-02-27T20:23:59Z)
• Memory-T1: Reinforcement Learning for Temporal Reasoning in Multi-session Agents [80.33280979339123]
  強化学習(RL)を用いた時間認識メモリ選択ポリシーを学習するフレームワークであるMemory-T1を紹介する。 Time-Dialogベンチマークでは、Memory-T1が7Bモデルを67.0%に引き上げ、オープンソースモデルの新たな最先端パフォーマンスを確立した。
  論文  参考訳（メタデータ） (2025-12-23T06:37:29Z)
• QwenLong-L1.5: Post-Training Recipe for Long-Context Reasoning and Memory Management [81.24674400474989]
  QwenLong-L1.5は、体系的なポストトレーニングイノベーションを通じて優れた長文推論機能を提供するモデルである。 我々は,グローバルに分散した証拠に対してマルチホップシーケンスを必要とする難解な推論タスクを生成するための体系的枠組みを開発する。 我々は,4Mトークンを超えるタスクに対して,単一パス推論と反復的メモリベース処理をシームレスに統合するマルチエクスプロイト融合RLトレーニングを用いたメモリ管理フレームワークを開発した。
  論文  参考訳（メタデータ） (2025-12-15T04:11:11Z)
• Mnemosyne: An Unsupervised, Human-Inspired Long-Term Memory Architecture for Edge-Based LLMs [1.2582867366903179]
  我々は、エッジベース大規模言語モデル(LLM)のための、教師なし、人間にインスパイアされた長期記憶アーキテクチャであるMnemosyneを紹介する。 提案手法では, グラフ構造記憶, モジュール状物質および冗長性フィルタ, メモリコミットとプルーニング機構, 時間減衰とリフレッシュ処理による確率的リコールを用いた。 Mnemosyneは、反復的で意味的に類似しているが、時間的に異なる会話は、ナイーブ検索によって制限される縦型医療アシスタントでの使用を目的として設計されている。
  論文  参考訳（メタデータ） (2025-10-07T03:32:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。