論文の概要: Training and Evaluating Diffusion Policies with Long Context Lengths

• arxiv url: http://arxiv.org/abs/2606.16447v1
• Date: Mon, 15 Jun 2026 09:19:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:34.266373
• Title: Training and Evaluating Diffusion Policies with Long Context Lengths
• Title（参考訳）: 長い文脈長による拡散政策の訓練と評価
• Abstract要約: コンテクスト長が短いものから長いものへと漸進的に増加するにつれて、ポリシーのパフォーマンスを最初にベンチマークする。 本稿では,複数のコンテキスト長で協調的にポリシーを訓練するためのトレーニングアルゴリズムを提案する。 我々は、従来提案されていた長文模倣学習のソリューションを再評価する。
• 参考スコア（独自算出の注目度）: 19.39755600541638
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Imitation learning has enabled highly-dexterous robotic manipulation from RGB observations. Policies trained with these methods, however, typically condition robot actions on only a short history of observations. These policies cannot solve tasks that require memory and can get stuck repeatedly executing the same failing motions. In this work, we first benchmark policy performance as context length is incrementally increased from short to long, across a spectrum of tasks with varying local stability and memory requirements, and in multiple data regimes. To our knowledge, this is the first study to investigate context length in imitation learning at this level of detail. Our results challenge prior claims: naively scaling context length is not as brittle as advertised in literature. With an appropriate conditioning method and denoising backbone (UNet+Cross-Attention), single-task policies achieve high success rates on many tasks in the usual data regime even with naive scaling. Next, we propose a training algorithm to jointly train policies at multiple context lengths, further reducing the sample complexity of long-context learning. Finally, we apply our findings to re-evaluate some previously proposed solutions to long-context imitation learning.
• Abstract（参考訳）: 模倣学習により、RGB観測から高度なロボット操作が可能になった。 しかし、これらの方法で訓練された政策は通常、短い観察履歴のみにロボットの動作を条件付ける。 これらのポリシーは、メモリを必要とするタスクを解決できず、同じフェール動作を繰り返し実行してしまう可能性がある。 本研究では,コンテクスト長が短いものから長いもの,局所的な安定性とメモリ要件の異なるタスクの範囲にまたがって増加し,複数のデータレシエーションにおいて,ポリシー性能のベンチマークを行う。 我々の知る限りでは、このレベルでの模倣学習における文脈長の調査は初めてである。 文脈長のスケーリングは、文献で宣伝されているほど不安定ではない。 適切な条件付け手法と遅延バックボーン(UNet+Cross-Attention)により、単一タスクポリシーは、単純なスケーリングであっても、通常のデータ構造における多くのタスクにおいて高い成功率を達成する。 次に、複数のコンテキスト長でポリシーを共同で訓練する学習アルゴリズムを提案し、長いコンテキスト学習におけるサンプルの複雑さをさらに減らした。 最後に,本研究の成果を,従来提案されていた長文模倣学習手法の再評価に応用する。

関連論文リスト

• Improving Robotic Imitation Learning via Trajectory Standardization [7.969825103657315]
  一般的な前処理戦略は、時間一様ダウンサンプリングでシーケンスを短くするが、速度による非一様性や冗長な停止を効果的に除去することはできない。 本稿では,効果的な模倣学習のためのオフライン前処理手法であるISRを提案する。 ISRはタスク成功率を約25%改善し、さまざまなオペレータから収集されたデータセット間で堅牢であり、データセットサイズとトレーニングコストの両方を削減する。
  論文  参考訳（メタデータ） (2026-06-22T06:46:26Z)
• Beyond the Majority: Long-tail Imitation Learning for Robotic Manipulation [121.31598641762251]
  訓練デモンストレーションの長期分布は、政策学習を妨げる。 Approaching-Phase Augmentation (APA)は、デモを必要とせずに、データリッチなヘッドタスクからデータシャースなテールタスクに知識を転送する。
  論文  参考訳（メタデータ） (2026-02-06T09:10:02Z)
• Let's (not) just put things in Context: Test-Time Training for Long-Context LLMs [39.99645732873852]
  予測時間の戦略は、リターンが急速に減少し、長いコンテキストで失敗することを示している。 静的自己認識の限界を克服する簡単な方法を提案する。 本手法は,LongBench-v2 および ZeroScrolls ベンチマークのサブセットの平均値において,Qwen3-4B に対する 12.6 および 14.1 パーセントの大幅な改善をもたらす。
  論文  参考訳（メタデータ） (2025-12-15T21:01:37Z)
• Test-time Offline Reinforcement Learning on Goal-related Experience [50.94457794664909]
  基礎モデルの研究では、テストタイムトレーニングによってパフォーマンスが大幅に改善できることが示されている。 本稿では、オフラインデータセットから現在の状態への関連性に応じて遷移を選択する、新しい自己教師型データ選択基準を提案する。 目標条件付きテストタイムトレーニング(GC-TTT)アルゴリズムは、評価中にこのルーチンを後退水平方式で適用し、現在の軌道にポリシーを適用する。
  論文  参考訳（メタデータ） (2025-07-24T21:11:39Z)
• Learning Long-Context Diffusion Policies via Past-Token Prediction [48.86967836229684]
  本稿では,過去の情報の保持を明示的に規則化する代替手法を提案する。 本稿では,過去の行動トークンの予測方法を学ぶための補助的タスクである過去トークン予測について紹介する。 4つの実世界と6つのシミュレートされたタスクを対象とした実験により,提案手法は長文拡散政策の性能を3倍に向上し,政策訓練を10倍以上高速化することを示した。
  論文  参考訳（メタデータ） (2025-05-14T17:00:47Z)
• A Controlled Study on Long Context Extension and Generalization in LLMs [85.4758128256142]
  広義のテキスト理解とテキスト内学習は、完全な文書コンテキストを利用する言語モデルを必要とする。 長期コンテキストモデルを直接訓練する際の実装上の課題のため、長期コンテキストを扱うためにモデルを拡張する多くの方法が提案されている。 我々は,一貫したベースモデルと拡張データを利用して,標準化された評価による拡張メソッドの制御プロトコルを実装した。
  論文  参考訳（メタデータ） (2024-09-18T17:53:17Z)
• Effective Long-Context Scaling of Foundation Models [90.57254298730923]
  最大32,768個のトークンの効率的なコンテキストウィンドウをサポートする長文LLMを提示する。 我々のモデルは、ほとんどの通常のタスクにおいて一貫した改善を達成し、Llama 2よりも長いコンテキストタスクを大幅に改善します。
  論文  参考訳（メタデータ） (2023-09-27T21:41:49Z)
• A Character-Level Length-Control Algorithm for Non-Autoregressive Sentence Summarization [23.495225374478295]
  文要約は、長い文を主幹を保ちながら短い文に圧縮することを目的としており、見出し生成のような広範囲の現実世界の応用がある。 本研究では,要約のための文字レベル長制御の新しい問題に対処し,コネクショニスト時間分類(CTC)モデルに基づく動的プログラミングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-05-28T21:09:53Z)
• DDPG++: Striving for Simplicity in Continuous-control Off-Policy Reinforcement Learning [95.60782037764928]
  過大評価バイアスが制御される限り、単純な決定論的政策勾配は著しく機能することを示す。 第二に、非政治的なアルゴリズムの典型であるトレーニングの不安定性を、欲張りのポリシー更新ステップに向ける。 第3に、確率推定文学におけるアイデアは、リプレイバッファからの重要サンプル遷移や、性能劣化を防ぐためのポリシー更新に利用できることを示す。
  論文  参考訳（メタデータ） (2020-06-26T20:21:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。