論文の概要: FOCUS: First-Order Control Using Optimal Transport Supervision for Imitation from Observations
- arxiv url: http://arxiv.org/abs/2610.41540v1
- Date: Fri, 30 Oct 2026 10:37:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.682694
- Title: FOCUS: First-Order Control Using Optimal Transport Supervision for Imitation from Observations
- Title(参考訳): FOCUS:観測シミュレーションのための最適輸送スーパービジョンを用いた一階制御
- Abstract要約: 本稿では,局所的最適輸送アライメントと短時間の差別化可能なアクター・クリティカル・ラーニングを組み合わせたFOCUSを紹介する。
FOCUSは、ローカル互換のマッチを強調するソフトな$K$の目標を使用して、エージェントのロールアウトウィンドウを複数のサンプル専門家セグメントにロールアウトする。
結果として生じる輸送ベースのコストは、異なる模倣報酬を提供する一方、学習した批評家はロールアウトの地平線を越えて価値をブートストラップする。
- 参考スコア(独自算出の注目度): 41.649563628587224
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Imitation learning from observations must recover behavior from state-only demonstrations without known temporal correspondence. Differentiable simulators provide pathwise policy gradients, but differentiating through long, contact-rich trajectories can make optimization unstable. We introduce FOCUS, which combines local optimal-transport alignment with short-horizon differentiable actor-critic learning. FOCUS matches agent rollout windows to multiple sampled expert segments using a soft best-of-$K$ objective that emphasizes locally compatible matches. The resulting transport-based costs provide differentiable imitation rewards, while a learned critic bootstraps value beyond the rollout horizon. FOCUS requires neither temporally aligned trajectories nor expert-aligned initialization or teacher forcing. Across contact-rich locomotion tasks in DFlex, including a musculoskeletal humanoid controlled by 152 muscle activations, FOCUS improves sample efficiency and training stability over adversarial imitation-from-observation methods and prior differentiable imitation baselines.
- Abstract(参考訳): 観測からの模倣学習は、時間的対応が分かっていない状態のみのデモンストレーションから行動を取り戻す必要がある。
微分可能シミュレータはパスワイズポリシー勾配を提供するが、長い接触豊富な軌道を微分することで最適化を不安定にすることができる。
本稿では,局所的最適輸送アライメントと短時間の差別化可能なアクター・クリティカル・ラーニングを組み合わせたFOCUSを紹介する。
FOCUSは、ローカル互換のマッチを強調するソフトな$K$の目標を使用して、エージェントのロールアウトウィンドウを複数のサンプル専門家セグメントにロールアウトする。
結果として生じる輸送ベースのコストは、異なる模倣報酬を提供する一方、学習した批評家はロールアウトの地平線を越えて価値をブートストラップする。
FOCUSは、時間的に整列した軌跡や専門家が整列した初期化や教師の強制を必要としない。
152個の筋肉活性化によって制御される筋骨格型ヒューマノイドを含むDFlexのコンタクトリッチな運動タスク全体において、FOCUSは、対向模倣から観測する方法と事前の識別可能な模倣ベースラインに対するサンプル効率と訓練安定性を改善している。
関連論文リスト
- DiffDreamer: Coupling World Models with Differentiable Simulation for Agile Quadrotor Control [13.83104993798738]
DiffDreamerは、アクター最適化のための微分可能なシミュレーションで学習された世界モデルを密結合する、微分可能な強化学習フレームワークである。
ある最適化ステップでは、学習された世界モデルは、外部ダイナミクスと履歴に依存した特徴をキャプチャする潜在状態を伝播し、識別可能なシミュレータはロボットの明示的な物理的状態を伝搬する。
積極的追跡と動的ゲートレースの実験から、DiffDreamerはモデルフリー、モデルベース、微分可能なRLベースラインに対するトレーニング収束を改善している。
論文 参考訳(メタデータ) (2026-10-22T17:41:13Z) - Action Learning for Scientific Simulations [61.29273221991081]
私たちは$textbfLEAP$$textbfL$earned $textbfE$nergy on $textbfA$ction $textbfP$aths)を導入します。
LEAPは、基礎となるダイナミクスを回復し、時間にわたって依存関係をキャプチャし、推論対象と物理的条件間の転送を可能にする。
論文 参考訳(メタデータ) (2026-10-22T17:22:08Z) - TerraTransfer++: Demonstration-Free End-to-End Planner [21.33643567755425]
エンドツーエンドの自動運転は、ベンチマークや実世界のデプロイで最先端のパフォーマンスを達成した。
しかし、模倣学習には車両の走行記録が必要で、その行動分布は安全クリティカルな尾部をわずかに覆っているだけである。
我々は、セルフプレイによる単一のポリシーを事前訓練し、フローマッチング・トラジェクトリーの教師にロールアウトを蒸留し、計画を立て、凍結した視覚バックボーンに軽量アダプターを訓練する。
この1人の教師から2人のエンド・ツー・エンドの学生を得る: 出版された模倣に基づくエンド・ツー・エンドの手法よりも優れたクローズドループ・ポリシー。
論文 参考訳(メタデータ) (2026-10-21T18:31:28Z) - Self-Improving Large Language Models via Progressive Experience Evolution [52.03479747358687]
textbfSPEE(textbfSelf-textbfProgressive textbfExperience textbfEvolution)を提案する。
5つの数学的推論ベンチマークの実験は、SPEEが3つのモデルスケールでテスト時間とトレーニング時間の両方の自己進化ベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-08-03T12:27:32Z) - Potential-Guided Flow Matching for Vision-Language-Action Policy Improvement [27.695600755960736]
自己誘導型フローマッチングポリシであるForesightFlowを紹介した。
それぞれの生成されたアクションチャンクを、学習された成功可能性軌道で拡張する。
候補アクションをスコア付けし、外部の批評家なしで$K$の推論を可能にする。
論文 参考訳(メタデータ) (2026-06-03T14:49:35Z) - Explicit Critic Guidance for Aligning Diffusion Models [27.6704888666835]
拡散後学習のための状態整列型アクター批判フレームワークを提案する。
提案手法は, グループリレーショナルRLとアクタークリティックベースラインを, シングルリワード, マルチリワードベンチマークで連続的に上回っている。
論文 参考訳(メタデータ) (2026-05-26T22:20:51Z) - Self-Distilled Trajectory-Aware Boltzmann Modeling: Bridging the Training-Inference Discrepancy in Diffusion Language Models [65.89572755202245]
拡散言語モデル(DLM)は、より強力なグローバル認識と高い並列生成を提供する。
標準負のエビデンス下界(NELBO)に基づく教師付き微調整後のDLMは非効率である。
そこで本研究では,学習を推論の容易かつハードな構造に整合させる,自己蒸留軌道に基づくポストトレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-12T09:39:06Z) - RIFT: Group-Relative RL Fine-Tuning for Realistic and Controllable Traffic Simulation [13.319344167881383]
データ駆動シミュレーターにおいて、模擬学習事前学習を行う2段階のAV中心シミュレーションフレームワークを導入する。
次に、物理に基づくシミュレータで微調整を学習し、スタイルレベルの制御性を向上する。
微調整段階において,新しいグループ関連RL微調整戦略であるRIFTを提案する。
論文 参考訳(メタデータ) (2025-05-06T09:12:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。