論文の概要: Self-Supervised Keyframe Discovery for Horizon-Invariant Behavior Cloning
- arxiv url: http://arxiv.org/abs/2610.10857v1
- Date: Wed, 07 Oct 2026 20:01:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.660276
- Title: Self-Supervised Keyframe Discovery for Horizon-Invariant Behavior Cloning
- Title(参考訳): 水平不変振舞いクローンのための自己監督型キーフレームディスカバリ
- Abstract要約: 行動ポリシーは、長い地平線を越えてコンテキスト情報を推論する必要がある。
Keyframe Mnemonicsは、ランダムにサンプリングされた過去の観測から学習する、新しい自己教師型手法である。
我々の定式化は、ポリシーのワーキングメモリに小さな決定関連要素を保持しながら、無限の地平線を越えてコンテキスト保持を保証する。
- 参考スコア(独自算出の注目度): 2.3895981099137535
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Behavior cloning (BC) in non-Markovian environments is a challenging problem because policies have to reason over contextual information over long horizons. Existing policy architectures rely on recurrent or attention-based mechanisms to capture long-term dependencies. However, recurrent models suffer from hidden-state collapse and gradient instability under backpropagation through time, while attention-based models are fundamentally limited by context length. To address these issues, we propose Keyframe Mnemonics, a novel self-supervised method that $\textit{discovers}$ a set of information-critical observations ($\textit{mnemonics}$) by learning an objective from randomly sampled past observations and using it as a reward for keyframe selection. We then train a BC policy that conditions on the discovered keyframes to model the action distribution. Under certain task-structure assumptions, our formulation provides context retention guarantees over an infinite horizon, while maintaining a small set of decision-relevant keyframes in the policy's working memory. We evaluate our method on synthetic memory domains, where mnemonic-conditioned BC policies achieve $100$% success rates (SR) and generalize to horizons orders of magnitude beyond training without performance degradation. Additionally, we evaluate on memory-intensive robot manipulation benchmark, achieving a $13.9$% average absolute SR improvement over the strongest baseline across $23$ tasks and retaining $80$% SR at $20\times$ longer horizons on a real robot. Code and videos are available at https://keyframe-mnemonics.github.io.
- Abstract(参考訳): 非マルコフ環境におけるビヘイビア・クローン(BC)は、長い地平線上でのコンテキスト情報をポリシーが考慮しなければならないため、難しい問題である。
既存のポリシーアーキテクチャは、長期的依存関係をキャプチャするための繰り返しまたは注意に基づくメカニズムに依存している。
しかし、リカレントモデルでは、時間を通してのバックプロパゲーションの下での隠れ状態の崩壊や勾配不安定に悩まされ、アテンションベースモデルはコンテキスト長によって根本的に制限される。
これらの問題に対処するために、Keyframe Mnemonicsを提案する。Keyframe{discovers}$\textit{mnemonics}$)は、ランダムにサンプリングされた過去の観測から目的を学習し、それをキーフレーム選択の報酬として使用することで、情報クリティカルな観測のセットである(\textit{mnemonics}$)。
その後、発見されたキーフレームに基づいてアクションの分散をモデル化するBCポリシーをトレーニングします。
特定のタスク構造仮定の下では、我々の定式化は、ポリシーのワーキングメモリ内の決定関連キーフレームの小さなセットを維持しながら、無限の地平線上でコンテキスト保持を保証する。
我々は,Mnemonic-conditioned BC Policy が 100$% の成功率 (SR) を達成し,性能劣化を伴わずにトレーニングを超越した地平線を一般化する合成記憶領域の評価を行った。
さらに、メモリ集約型ロボット操作ベンチマークを評価し、23ドルのタスクで最強のベースラインに対して平均13.9ドル%の絶対的SR改善を達成し、20ドルで80ドル%のSRを維持した。
コードとビデオはhttps://keyframe-mnemonics.github.io.comで公開されている。
関連論文リスト
- MemBodied: Recurrent Associative Memory for Vision-Language-Action Models [49.19321968091714]
2つの相補的成分を持つ固定サイズのエピソードメモリであるMemBodiedを紹介する。
RMBenchの5つのタスクでメモリを必要とするが、MemBodiedはステートレスポリシーの平均成功率は7.81ドルである。
論文 参考訳(メタデータ) (2026-09-23T15:19:19Z) - Scaling Short-Term Memory of Visuomotor Policies for Long-Horizon Tasks [69.19366746169906]
本稿では,短期記憶を利用するビジュモータポリシーのためのトランスフォーマーベースのアーキテクチャであるPRISMを提案する。
海賊フィルタは情報を取得し、関連する詳細を抑え、性能を向上する。
階層アーキテクチャは、ローカル情報をコンパクトなトークンに圧縮し、計算とメモリフットプリントを改善する。
論文 参考訳(メタデータ) (2026-06-15T03:49:23Z) - Minimax-Optimal Policy Regret in Partially Observable Markov Games [33.134190121767816]
本研究では,部分的に観察可能な環境下での逐次的意思決定を,戦略的かつ適応的な相手に対して検討する。
固定問題パラメータに対して,エポックベースの楽観的最大値類似アルゴリズムが$tildeO(sqrtT)$ポリシー後悔を達成することを証明した。
論文 参考訳(メタデータ) (2026-06-01T15:11:51Z) - Beyond Short-Horizon: VQ-Memory for Robust Long-Horizon Manipulation in Non-Markovian Simulation Benchmarks [96.60530830276281]
RuleSafeは、スケーラブルなLLM支援シミュレーションフレームワーク上に構築された、新しいオペレーティングベンチマークである。
VQ-Memoryはベクトル量子化変分オートエンコーダを用いたコンパクトで構造化された時間表現である。
論文 参考訳(メタデータ) (2026-03-10T11:13:54Z) - Non-Markovian Long-Horizon Robot Manipulation via Keyframe Chaining [56.62125584296097]
Keyframe-Chaining VLAは、キー履歴フレームを抽出し、長い水平依存関係をモデル化するフレームワークである。
本研究では,現在の実行フェーズに対する時間的関連性に基づいて,動的に履歴フレームを検索する進捗対応機構を設計する。
タスク成功率を測定するために,ManiSkillシミュレータ上に構築された4つの非マルコフ操作タスクスイートを紹介する。
論文 参考訳(メタデータ) (2026-03-02T05:26:29Z) - MemER: Scaling Up Memory for Robot Control via Experience Retrieval [46.5398413633767]
人間は日常的にメモリをタスクに頼っているが、ほとんどのロボットポリシーはこの機能を欠いている。
本稿では,その経験から過去の関連事項を選択し,追跡するために,ハイレベルな政策を訓練する階層的な政策枠組みを提案する。
我々のアプローチであるMemERは、数分のメモリを必要とする3つの現実世界の長距離ロボット操作タスクにおいて、従来の手法よりも優れています。
論文 参考訳(メタデータ) (2025-10-23T08:26:17Z) - Foundation Policies with Hilbert Representations [54.44869979017766]
ラベルなしオフラインデータから一般ポリシーを事前学習するための教師なしフレームワークを提案する。
我々の重要な洞察は、基盤となる環境の時間的構造を保存する構造的表現を学習することである。
実験の結果、教師なしのポリシーは、ゴール条件付きおよび一般のRLタスクをゼロショットで解決できることがわかった。
論文 参考訳(メタデータ) (2024-02-23T19:09:10Z) - On the Efficacy of Eviction Policy for Key-Value Constrained Generative
Language Model Inference [40.789027180025286]
大規模言語モデル(LLM)は、リソース制約のある環境でのデプロイに特に費用がかかる。
本稿では,時間的注意スコアとロバストネス測定に基づく堅牢なキャッシュ省略ポリシーであるRoCoを紹介する。
ユーザフレンドリーなキー値制約付き生成推論専用の汎用ソフトウェアパッケージであるEasyKVをリリースする。
論文 参考訳(メタデータ) (2024-02-09T09:20:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。