論文の概要: Cheap Retrieval and Observation Credit Assignment from One Quantity: The Value of Information
- arxiv url: http://arxiv.org/abs/2610.40030v1
- Date: Thu, 29 Oct 2026 13:36:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-31 05:25:12.510937
- Title: Cheap Retrieval and Observation Credit Assignment from One Quantity: The Value of Information
- Title(参考訳): 1つの量から得られる価値:情報の価値
- Abstract要約: どちらも1つの量、情報の価値で管理されており、学習された世界モデルを用いてアーカイブされたロールアウトから推定することを提案する。
この信号を用いて訓練および改善を行うパイロット検索システムは、コンテキストを減らしたメモリタスクを解決する。
- 参考スコア(独自算出の注目度): 36.38770805264319
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Memory in reinforcement learning raises two problems. Attention finds the relevant item by scoring the whole store, which is costly for robots under latency and energy limits. When a retrieved memory pays off, credit for acquiring it must cross the whole sequence. We argue that both are governed by one quantity, the value of information, and propose to estimate it from archived rollouts with a learned world model. We obtain that, when read at the observation, it yields a provable lower bound on the optimal value of the acquiring action, which floors its TD target and attributes this floor to the observation that earned it. Read at the decision, it defines the optimal retrieval set. A pilot retrieval system, to be trained and improved with this signal, solves a memory task with reduced context.
- Abstract(参考訳): 強化学習の記憶は2つの問題を引き起こす。
注意すべき点は、遅延とエネルギー制限下でロボットにコストがかかる店全体を評価することで、関連する項目を見つけることだ。
取得したメモリがフェールすると、取得したクレジットは全シーケンスを横切る必要がある。
どちらも1つの量、情報の価値で管理されており、学習された世界モデルを用いてアーカイブされたロールアウトから推定することを提案する。
その結果, 観測結果を読み取ると, 取得動作の最適値に対する証明可能な下限が得られ, そのTD目標をフロアとし, このフロアを得られた観測値とみなすことがわかった。
決定を読めば、最適な検索セットを定義する。
この信号を用いて訓練および改善を行うパイロット検索システムは、コンテキストを減らしたメモリタスクを解決する。
関連論文リスト
- What Should a Navigator Remember? Spatiotemporal Memory for Zero-Shot Vision-Language Navigation [11.826268824920767]
ゼロショット視覚言語ナビゲーション (Zero-shot Vision-and-Language Navigation, VLN) は、エージェントがナビゲーション固有のトレーニングなしで過去の観察を使用する必要がある。
本研究では,8B規模のナビゲーションシステムが保持すべき情報と,その後の意思決定のためにどのように整理されるべきかを検討する。
我々のエージェントは、指示の進行、ポーズに固定された階層的に圧縮された観察履歴、および相補的なタスク、時間、空間記憶における幾何の蓄積を組み合わせている。
論文 参考訳(メタデータ) (2026-10-28T06:08:29Z) - Memory-Centric Continual Learning for AI Agents [74.6399383050059]
メモリ中心連続学習(Memory-Centric Continual Learning)は、メモリが取得するものだけでなく、将来のアクションを改善するかどうかによって判断されるべきである、と論じている。
MCCLには3つの主要な部分がある。まず3軸分類法は、状態が保存されている場所(サブストレート)、どのような形(アセット)、どのように管理されているかによってメモリを整理する。
第2に、評価プロトコルは、単純なコンテキスト展開から真の行動的利得を分離するための干渉、変化への適応、タスク転送の下での保持を測定する。
論文 参考訳(メタデータ) (2026-10-21T07:49:42Z) - What to Keep, What to Forget: A Rate--Distortion View of Memory Compaction in LLMs and Agents [1.0742675209112622]
4つの研究コミュニティがそれぞれ,大規模言語メモリのコンパクト化を学んでいることを示す。
我々は、これらが1つの問題の例であると主張する。
このレンズを1つのコンパクト化目標と層に依存しない下界で正確にし、スタック全体からメソッドを一様に分類する7軸分類法を構築するために使用する。
論文 参考訳(メタデータ) (2026-07-09T01:15:03Z) - Memory Reward Inflation in Self-Improving LLM Agents [1.4027589547318844]
自己改善エージェントは、重みを更新することなく経験から学ぶ。
各エピソードは外部メモリに格納され、スコア付けされ、同様の将来のタスクのために検索される。
デプロイメントでは、グラウンドトルースラベルは利用できないため、格納された報酬は、せいぜい評価である。
論文 参考訳(メタデータ) (2026-06-29T12:20:14Z) - A Calculus of Discernment: Decision-Relevant Insight, Sequence Value, and Forgetting as Higher-Order Learning [0.0]
生成AIの世界では、候補となる洞察が豊富です。
不足しているのは、どれが重要かを識別し、正しい量と順序で行動し、残りを忘れる能力である。
最も投機的であるAPOHAは、忘れることが知識の廃棄ではなく、その価値が学習される演算子であるとする理論である。
論文 参考訳(メタデータ) (2026-06-17T13:18:49Z) - When to Forget: A Memory Governance Primitive [0.0]
Memory Worthはメモリ当たりの2カウンタ信号で、メモリが成功と失敗を共起する頻度を追跡する。
MW は条件付き成功確率 p+(m) = Pr[y_t = +1 | m in M_t] にほぼ確実に収束することを示す。
これは今でもメモリ管理にとって有用な操作信号であり、制御された合成環境で実証的に検証する。
論文 参考訳(メタデータ) (2026-04-13T19:54:14Z) - MemSifter: Offloading LLM Memory Retrieval via Outcome-Driven Proxy Reasoning [78.46301394559903]
大きな言語モデル(LLM)は、長期化タスクにますます使われています。
現在の手法はコストと精度のトレードオフに直面している。
MemSifterは、メモリ検索プロセスを小さなプロキシモデルにオフロードする新しいフレームワークである。
論文 参考訳(メタデータ) (2026-03-03T02:57:38Z) - Exploring Memorization in Fine-tuned Language Models [53.52403444655213]
我々は,タスク間の微調整中に,言語モデルの暗記を探索する最初の包括的分析を行う。
オープンソースと、さまざまなタスクにまたがる独自の微調整LMによる研究は、暗記が様々な微調整タスクの間に強い相違を示すことを示している。
本稿では,この課題の相違をスパース符号化理論を用いて直感的に説明し,暗記と注目スコア分布との強い相関関係を明らかにする。
論文 参考訳(メタデータ) (2023-10-10T15:41:26Z) - ReAct: Temporal Action Detection with Relational Queries [84.76646044604055]
本研究は,アクションクエリを備えたエンコーダ・デコーダフレームワークを用いて,時間的行動検出(TAD)の進展を図ることを目的とする。
まず,デコーダ内の関係注意機構を提案し,その関係に基づいてクエリ間の関心を誘導する。
最後に、高品質なクエリを区別するために、推論時に各アクションクエリのローカライズ品質を予測することを提案する。
論文 参考訳(メタデータ) (2022-07-14T17:46:37Z) - Hierarchical Reinforcement Learning as a Model of Human Task
Interleaving [60.95424607008241]
我々は、強化学習によって駆動される監督制御の階層モデルを開発する。
このモデルは、タスクインターリービングの既知の経験的効果を再現する。
その結果、階層的RLがタスクインターリービングのもっともらしいモデルとして支持された。
論文 参考訳(メタデータ) (2020-01-04T17:53:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。