論文の概要: Scouting the Dynamics Gap: Test-Time Policy Adaptation via Action-Outcome Feedback
- arxiv url: http://arxiv.org/abs/2609.36107v1
- Date: Mon, 28 Sep 2026 18:45:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:46.956654
- Title: Scouting the Dynamics Gap: Test-Time Policy Adaptation via Action-Outcome Feedback
- Title(参考訳): ダイナミクスギャップのスカウト:アクションアウトカムフィードバックによるテスト時間ポリシー適応
- Abstract要約: SCOUTは動的に認識されるメタ学習フレームワークで、操作ポリシーの迅速な適応を可能にする。
提案手法は,行動予測ポリシーとフォワードダイナミクスモデルとを共用し,共用信念の潜在空間を探索する。
SCOUT は実世界において,シミュレーションされた操作ベンチマーク間のオンライン適応を著しく促進し,実世界におけるロバストなsim-to-real転送を実現することを実証した。
- 参考スコア(独自算出の注目度): 9.289485085307886
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While pretrained robotic policies exhibit impressive capabilities in controlled environments, unobserved physical properties and dynamics require these policies to rapidly adapt during deployment. Existing test-time adaptation methods typically rely on sparse scalar rewards, failing to exploit the rich geometric and dynamic feedback from the environment during physical interaction. To address this challenge, we propose SCOUT, a dynamics-aware meta-learning framework that enables manipulation policies to rapidly adapt by continuously revising their internal beliefs about environment dynamics. Our approach couples an action-prediction policy with a forward dynamics model via a shared belief latent space. During meta-training, an inner loop updates this shared belief latent by minimizing the dynamics prediction error against the observed action outcome, while the outer loop optimizes the network for action selection. At deployment, this structure allows the agent to infer and adapt to unknown physical dynamics on the fly. By updating its latent belief based on action-outcome mismatches, the policy automatically adapts without risking catastrophic forgetting. We demonstrate that SCOUT significantly accelerates online adaptation across simulated manipulation benchmarks and achieves robust sim-to-real transfer in the real world. Project webiste can be found here: https://liy1shu.github.io/SCOUT/
- Abstract(参考訳): 事前訓練されたロボットポリシーは、制御された環境において印象的な能力を示すが、観測されていない物理的特性とダイナミクスは、配置中にこれらのポリシーを迅速に適応させる必要がある。
既存のテスト時間適応法は、通常スパーススカラーの報酬に依存しており、物理的相互作用の間、環境からの豊かな幾何学的および動的フィードバックを利用できない。
この課題に対処するためにSCOUTを提案する。SCOUTは動的に認識されたメタラーニングフレームワークで、環境力学に関する内部の信念を継続的に修正することで、操作ポリシーを迅速に適用することができる。
提案手法は,行動予測ポリシーとフォワードダイナミクスモデルとを共用し,共用信念の潜在空間を探索する。
メタトレーニング中、内部ループは、観察された行動結果に対する動的予測誤差を最小限に抑えて、この共有信念を更新し、外ループは行動選択のためにネットワークを最適化する。
この構造は、展開時にエージェントが未知の物理力学を推論し、適応することを可能にする。
アクションアウトカムのミスマッチに基づく潜伏した信念を更新することで、このポリシーは破滅的な忘れを危険にさらすことなく自動的に適応する。
SCOUT は実世界において,シミュレーションされた操作ベンチマーク間のオンライン適応を著しく促進し,実世界におけるロバストなsim-to-real転送を実現することを実証した。
プロジェクトWebisteは以下の通りである。
関連論文リスト
- Learning Context-Aware Neural ODE Dynamics for Adaptive Robotic Control [55.01272784312405]
本稿では,ニューラル常微分方程式に基づく文脈認識力学モデルを提案する。
Sphero BOLTロボットとFanucマニピュレータを実世界の実験で使用した。
論文 参考訳(メタデータ) (2026-06-13T20:55:46Z) - F2F-AP: Flow-to-Future Asynchronous Policy for Real-time Dynamic Manipulation [62.06267255986041]
非同期推論はロボット操作における主要なパラダイムとして現れている。
本稿では,予測対象の流れを利用して将来の観測を合成する新しい枠組みを提案する。
本手法は複雑な動的操作タスクにおける応答性と成功率を大幅に向上させる。
論文 参考訳(メタデータ) (2026-04-02T17:57:15Z) - Closed-Loop Action Chunks with Dynamic Corrections for Training-Free Diffusion Policy [52.106797722292896]
我々は,チャンクベースのアクション生成とリアルタイム修正を統合した動的クローズドループ拡散ポリシーフレームワークDCDPを提案する。
動的PushTシミュレーションでは、DCDPは5%の計算しか必要とせず、再トレーニングなしに適応性を19%改善する。
論文 参考訳(メタデータ) (2026-03-02T15:04:18Z) - ICPRL: Acquiring Physical Intuition from Interactive Control [38.098959182766144]
ICPRL(In-Context Physical Reinforcement Learning, In-Context Physical Reinforcement Learning, In-Context Physical Reinforcement Learning, ICPRL)は、VLMが物理的直観を習得し、そのポリシーを文脈内で適応することを可能にするフレームワークである。
提案手法は,多面的相互作用履歴に基づいて,多面的グループ相対的ポリシー最適化(GRPO)を介して,視覚的な政策モデルを訓練する。
これによりエージェントは、過去の試行錯誤シーケンスを条件にすることで、重み更新を必要とせずに戦略を適応することができる。
論文 参考訳(メタデータ) (2026-03-01T15:17:18Z) - AdaWorldPolicy: World-Model-Driven Diffusion Policy with Online Adaptive Learning for Robotic Manipulation [12.592383721590402]
オンライン適応学習(AdaWorldPolicy)を用いた統合フレームワーク「世界モデル駆動拡散政策」を導入する。
私たちの中核となる洞察は、世界モデルは強力な監視信号を提供し、動的環境におけるオンライン適応学習を可能にします。
AdaWorldPolicyは、アウト・オブ・ディストリビューションシナリオへの動的適応能力を備えた最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2026-02-23T17:12:25Z) - Deep Reactive Policy: Learning Reactive Manipulator Motion Planning for Dynamic Environments [35.192151100313836]
ディープ・リアクティブ・ポリシー(Deep Reactive Policy)は、様々な動的環境でのリアクティブ・モーション・ジェネレーションのために設計された、ヴィジュオ・モーター・ニューラル・モーション・ポリシーである。
IMPACTは、トランスフォーマーをベースとしたニューラルモーションポリシーで、1000万の生成された専門家の軌道で事前訓練されている。
DCP-RMP(DCP-RMP)を用いて,インジェクション時間におけるIMPACTの動的障害物回避を強化した。
論文 参考訳(メタデータ) (2025-09-08T17:59:35Z) - Dynamic Manipulation of Deformable Objects in 3D: Simulation, Benchmark and Learning Strategy [88.8665000676562]
従来の手法は、しばしば問題を低速または2D設定に単純化し、現実の3Dタスクに適用性を制限する。
データ不足を軽減するため、新しいシミュレーションフレームワークと、低次ダイナミクスに基づくベンチマークを導入する。
本研究では,シミュレーション前トレーニングと物理インフォームドテスト時間適応を統合するフレームワークであるDynamics Informed Diffusion Policy (DIDP)を提案する。
論文 参考訳(メタデータ) (2025-05-23T03:28:25Z) - Learning Robust Policy against Disturbance in Transition Dynamics via
State-Conservative Policy Optimization [63.75188254377202]
深層強化学習アルゴリズムは、ソースとターゲット環境の相違により、現実世界のタスクでは不十分な処理を行うことができる。
本研究では,前もって乱れをモデル化せずにロバストなポリシーを学習するための,モデルフリーなアクター批判アルゴリズムを提案する。
いくつかのロボット制御タスクの実験では、SCPOは遷移力学の乱れに対する堅牢なポリシーを学習している。
論文 参考訳(メタデータ) (2021-12-20T13:13:05Z) - Value Iteration in Continuous Actions, States and Time [99.00362538261972]
連続状態と動作に対する連続的適合値反復(cFVI)アルゴリズムを提案する。
非線形制御アフィンダイナミクスに対して最適なポリシを導出することができる。
物理システムのビデオは、urlhttps://sites.google.com/view/value-iteration.comで入手できる。
論文 参考訳(メタデータ) (2021-05-10T21:40:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。