論文の概要: METTA: Memory-Enhanced Test-Time Adaptation for Meta-Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2610.31656v1
- Date: Thu, 22 Oct 2026 17:58:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.513186
- Title: METTA: Memory-Enhanced Test-Time Adaptation for Meta-Reinforcement Learning
- Title(参考訳): METTA:メタ強化学習のためのメモリ拡張テスト時間適応
- Abstract要約: メタ強化学習のためのメモリ拡張テスト時間適応(METTA)を提案する。
因果神経記憶は、線形シーケンスの複雑さを伴う微細なエピソード内適応を行う。
METTAはMeta-World ML10/45テスト環境で50%以上の成功率を達成する。
- 参考スコア(独自算出の注目度): 9.92367773204301
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Meta-reinforcement learning aims to train agents that adapt quickly to unseen tasks from limited interaction, but this requires representing task evidence over long interaction histories. Classical recurrent agents compress experience into hidden states, while transformer-based agents retrieve from past trajectories at quadratic memory and computation cost. In this work, we propose Memory-Enhanced Test-Time Adaptation (METTA) for meta-reinforcement learning. It decomposes the fast adaptation phase into two temporal scales: a causal neural memory performs fine-grained within-episode adaptation with linear sequence complexity, while compact episode-level summaries support long-range cross-episode task inference without attending over the full interaction history. Moreover, equipping agents with neural memory provides sufficient expressive capacity and test-time training capability, enabling effective adaptation to unseen held-out tasks and task families at meta-test time. On unseen held-out Meta-World ML10/45 test environments, METTA achieves a success rate over $50\%$ while maintaining a low training budget and short wall-clock time. On long-context sparse-reward PointMaze tasks, it outperforms transformer-based baselines by exhibiting more structured exploration behavior. These results show that METTA provides an efficient path toward more adaptive and scalable long-context meta-RL.
- Abstract(参考訳): メタ強化学習は、限られた相互作用から目に見えないタスクに迅速に適応するエージェントを訓練することを目的としている。
古典的なリカレントエージェントは経験を隠された状態に圧縮し、トランスフォーマーベースのエージェントは2次記憶と計算コストで過去のトラジェクトリから取り出す。
本稿では,メタ強化学習のためのメモリ拡張テスト時間適応(METTA)を提案する。
因果的ニューラルメモリは、線形シーケンスの複雑さを伴う微細なエピソード内適応を実行する一方、コンパクトなエピソードレベルのサマリーは、完全な相互作用履歴に従わずに、長距離タスク推論をサポートする。
さらに、ニューラルメモリを装備するエージェントは、十分な表現能力とテストタイムのトレーニング能力を提供し、メタテスト時の未確認タスクやタスクファミリへの効果的な適応を可能にする。
目立たないMeta-World ML10/45テスト環境では、METTAは、低いトレーニング予算と短いウォールタイムを維持しながら、50\%以上の成功率を達成する。
long-context sparse-reward PointMazeタスクでは、より構造化された探索動作を示すことにより、トランスフォーマーベースのベースラインよりも優れている。
これらの結果は,METTAがより適応的でスケーラブルな長文メタRLへの効率的な経路を提供することを示している。
関連論文リスト
- Titan-Llama: Retrofitting Pre-trained LLMs with External Neural Memory Modules [11.74157348490598]
階層型メモリアーキテクチャを用いた注目型言語モデルの再適合のためのポストトレーニング手法であるTitan-Llamaを紹介する。
我々の定式化により、スクラッチから新しい言語モデルをトレーニングすることなく、事前訓練された注意層を置き換えることができます。
推論ベンチマークでは、プリフィルが20%以上速く、37%が中規模でデコードし、24%が定常状態のデコードメモリ使用率を下げている。
論文 参考訳(メタデータ) (2026-10-13T21:23:58Z) - Knowledge Reutilization in Meta-Reinforcement Learning [51.07319647819108]
本稿では,動的に単純化されたエージェント上でタスクレベルの知識を学習し,それを異種エージェントに転送するメタ知識再利用フレームワークを提案する。
我々のフレームワークは、最新の最先端ベースラインと比較して、最終段階のトラッキングエラーを94.75% -- 99.79%削減している。
論文 参考訳(メタデータ) (2026-06-16T16:32:28Z) - AdaMEM: Test-Time Adaptive Memory for Language Agents [27.178795834085296]
本稿では,エージェントテスト時間適応のための新しいフレームワークであるAdaptive Memory Agent (AdaMEM)を提案する。
モデルパラメータをオンラインで更新することなく、AdaMEMはハイブリッドメモリアーキテクチャを介してエージェントの振る舞いを適用する。
AdaMEMは静的メモリベースラインを著しく上回り、ALFWorldでは13%、WebShopでは11%の相対的なゲインを達成している。
論文 参考訳(メタデータ) (2026-06-04T04:06:08Z) - Memo: Training Memory-Efficient Embodied Agents with Reinforcement Learning [53.72709564555407]
Memoは、強化学習のためのトランスフォーマーベースのアーキテクチャとトレーニングのレシピである。
トレーニング中のモデルの入力と周期的な要約トークンをインターリーブすることで、メモリの生成と検索を組み込む。
グリッドワールドメタRLベンチマークとマルチオブジェクトナビゲーションタスクにおけるMemoの有効性を,フォトリアリスティック屋内環境で実証する。
論文 参考訳(メタデータ) (2025-10-22T16:24:47Z) - SHERL: Synthesizing High Accuracy and Efficient Memory for Resource-Limited Transfer Learning [63.93193829913252]
本稿では,リソース制限シナリオに対するSHERLと呼ばれる革新的なMETL戦略を提案する。
初期経路では、中間出力は反冗長動作によって統合される。
遅延ルートでは、最小限の遅延事前トレーニングされたレイヤを利用することで、メモリオーバーヘッドのピーク需要を軽減できる。
論文 参考訳(メタデータ) (2024-07-10T10:22:35Z) - Transformers are Meta-Reinforcement Learners [0.060917028769172814]
本稿では,トランスアーキテクチャを用いたメモリ再配置機構を模倣したメタRLエージェントTrMRLを提案する。
本稿では,各層におけるベイズリスクを最小限に抑えるコンセンサス表現を自己注意で計算することを示す。
その結果, TrMRLは同等あるいは優れた性能, サンプル効率, アウト・オブ・ディストリビューションの一般化を示すことがわかった。
論文 参考訳(メタデータ) (2022-06-14T06:21:13Z) - On the Effectiveness of Fine-tuning Versus Meta-reinforcement Learning [71.55412580325743]
本稿では,新しいタスクを微調整したマルチタスク事前学習がメタテスト時間適応によるメタ事前学習と同等かそれ以上に機能することを示す。
マルチタスク事前学習はメタRLよりもシンプルで計算的に安価である傾向があるため、これは将来の研究を奨励している。
論文 参考訳(メタデータ) (2022-06-07T13:24:00Z) - Expert Training: Task Hardness Aware Meta-Learning for Few-Shot
Classification [62.10696018098057]
そこで本研究では,訓練課題を適切に整理するためのメタトレーニング戦略を提案する。
タスクの難易度を推定する訓練手順にタスク難易度認識モジュールを設計して統合する。
miniImageNet と tieredImageNetSketch のデータセットによる実験結果から,メタラーナーは専門家のトレーニング戦略によりより良い結果が得られることが示された。
論文 参考訳(メタデータ) (2020-07-13T08:49:00Z) - Meta Reinforcement Learning with Autonomous Inference of Subtask
Dependencies [57.27944046925876]
本稿では,タスクがサブタスクグラフによって特徴づけられるような,新しい数発のRL問題を提案し,対処する。
メタ政治を直接学習する代わりに、Subtask Graph Inferenceを使ったメタラーナーを開発した。
実験の結果,2つのグリッドワールド領域とStarCraft II環境において,提案手法が潜在タスクパラメータを正確に推定できることが確認された。
論文 参考訳(メタデータ) (2020-01-01T17:34:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。