論文の概要: Pareto-Optimal Entropy-Regularized Trajectory Optimization
- arxiv url: http://arxiv.org/abs/2610.08532v1
- Date: Tue, 06 Oct 2026 15:25:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:30.079867
- Title: Pareto-Optimal Entropy-Regularized Trajectory Optimization
- Title(参考訳): Pareto-Optimal Entropy-Regularized Trajectory Optimization
- Abstract要約: 本稿では,自由エネルギー/相対エントロピーの不等式から導かれるエントロピー規則化集団フレームワークPER-DDPを紹介する。
Per-DDPは、最先端のサンプリング拡張TOメソッドよりも高い成功を達成し、すべてのベースラインの範囲を超えた環境における信頼性の高いソリューションを見つける。
- 参考スコア(独自算出の注目度): 17.16996792012467
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Trajectory optimization (TO) under nonlinear dynamics, actuation limits and collision avoidance constraints is a fundamental problem in robotics, albeit especially challenging due to its highly non-convex nature. For this setting, Differential Dynamic Programming (DDP) is an efficient second-order shooting method, yet its local structure renders it vulnerable to suboptimal basins. Sampling-augmented variants mitigate this susceptibility through stochastic exploration, but often sample only around the few trajectories they retain for reoptimization, based solely on their cost which restricts exploration breadth. We introduce Pareto-Optimal Entropy-Regularized DDP (PER-DDP), an entropy-regularized population framework derived from the free-energy/relative-entropy inequality. Our method combines prior-guided sampling that shapes exploration around each retained trajectory, with expanded rollout evaluations that probe these sampling policies beyond the few retained candidates, and Pareto filtering for preserving task-constraint alternatives across iterations. This decouples sampling effort from the optimization population size and broadens exploration without sacrificing the second-order structure that makes DDP effective. Across multiple systems and hundreds of environments, PER-DDP achieves higher success rates than state-of-the-art sampling-augmented TO methods and finds reliable solutions in environments beyond the reach of all baselines.
- Abstract(参考訳): 非線形力学、アクティベーション制限、衝突回避制約の下での軌道最適化(TO)はロボティクスの基本的な問題であり、特に非凸性のため困難である。
この設定のために、微分動的計画法(DDP)は効率的な2次射撃法であるが、その局所構造は最適下流域に対して脆弱である。
サンプリング強化された変種は、確率的な探索によってこの感受性を緩和するが、しばしば探索幅を制限するコストのみに基づいて、再最適化のために保持する数少ない軌道のみをサンプリングする。
本稿では,自由エネルギー/相対エントロピーの不等式から導かれる,パレート最適エントロピー正規化DDP(PER-DDP)を紹介する。
提案手法は,各保持軌道を探索する事前誘導型サンプリングと,これらのサンプリングポリシを少数の保持候補を超えて探索するロールアウト評価と,反復的なタスク制約の代替品を保存するためのParetoフィルタを組み合わせる。
このことは、DDPを効果的にする2階構造を犠牲にすることなく、最適化された人口規模からサンプリングの労力を減らし、探索を拡大する。
複数のシステムと数百の環境にまたがって、PER-DDPは、最先端のサンプリング拡張TOメソッドよりも高い成功率を達成し、すべてのベースラインの範囲を超えた環境における信頼性の高いソリューションを見つける。
関連論文リスト
- Grounding Generative Policies in Physics: Optimization-Guided Diffusion for Robot Control [41.782471938706344]
タスク空間のロボットポリシーでは、生成された把握、ウェイポイント、トラジェクトリは分散的に有効だが実現不可能である。
動作生成を物理的実現可能性に結合する推論時間最適化フレームワークを提案する。
本研究では,到達性と衝突回避制約とコントローラレベルの追従性制約を併用した動的操作によるデクスタラスグリップ合成法の評価を行った。
論文 参考訳(メタデータ) (2026-06-23T06:49:30Z) - Beyond Pure Sampling: Hybrid Optimization Mechanisms for Non-Convex Model Predictive Control [16.21889938470088]
ME-DDP に基づく手法は,コストが比較的単純で局所情報が十分に代表される低次元システムにおいて,DDP に基づく手法よりも一貫して優れていた。
その結果,コストが比較的単純で,局所的な情報が十分に代表的である低次元システムでは,DDP法を常に上回っていることがわかった。
論文 参考訳(メタデータ) (2026-05-30T14:09:14Z) - Sampling-Based Control via Entropy-Regularized Optimal Transport [18.278741443124655]
OT-MPCは、エントロピー規則化された最適輸送定式化によって制限を克服するサンプリングベースのアルゴリズムである。
我々は、Sinkhornアルゴリズムを用いて、クローズドな勾配のない更新を導出し、リアルタイムな性能を実現する。
論文 参考訳(メタデータ) (2026-05-04T02:07:15Z) - HAD: Combining Hierarchical Diffusion with Metric-Decoupled RL for End-to-End Driving [51.268878540511054]
我々は階層的拡散政策を備えたエンドツーエンドの計画フレームワークであるHADを提案する。
我々は,NAVSIMとHUGSIMの両方でHADが新たな最先端性能を実現することを示す。
論文 参考訳(メタデータ) (2026-04-04T04:12:47Z) - ZOTTA: Test-Time Adaptation with Gradient-Free Zeroth-Order Optimization [29.670784134543027]
テストタイム適応は、分散シフトの下でモデルの堅牢性を改善することを目的としている。
既存の手法の多くはバックプロパゲーション(BP)に依存しており、計算コストが高く、微分不可能なモデルと互換性がない。
完全BPフリーなTTAフレームワークであるZOTTAを提案する。
論文 参考訳(メタデータ) (2026-03-15T07:21:01Z) - Unbiased Dynamic Pruning for Efficient Group-Based Policy Optimization [60.87651283510059]
Group Relative Policy Optimization (GRPO) はLLM推論を効果的にスケールするが、計算コストは禁じている。
本研究では,非バイアス勾配推定を保ちながら動的プルーニングを可能にする動的プルーニングポリシー最適化(DPPO)を提案する。
刈り込みによって引き起こされるデータの空間性を軽減するため,ウィンドウベースの欲求戦略であるDense Prompt Packingを導入する。
論文 参考訳(メタデータ) (2026-03-04T14:48:53Z) - Parallel Diffusion Solver via Residual Dirichlet Policy Optimization [88.7827307535107]
拡散モデル(DM)は、最先端の生成性能を達成したが、シーケンシャルなデノナイジング特性のため、高いサンプリング遅延に悩まされている。
既存のソルバベースの加速度法では、低次元の予算で画像品質が著しく低下することが多い。
本研究では,各ステップに複数の勾配並列評価を組み込んだ新しいODE解法であるEnsemble Parallel Directionsolvr(EPD-EPr)を提案する。
論文 参考訳(メタデータ) (2025-12-28T05:48:55Z) - G$^2$RPO: Granular GRPO for Precise Reward in Flow Models [74.21206048155669]
本稿では,サンプリング方向の高精度かつ包括的な報酬評価を実現する新しいグラニュラー-GRPO(G$2$RPO)フレームワークを提案する。
複数の拡散スケールで計算された利点を集約するマルチグラニュラリティ・アドバンテージ・インテグレーション・モジュールを導入する。
G$2$RPOは既存のフローベースGRPOベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-10-02T12:57:12Z) - Efficiently Training Deep-Learning Parametric Policies using Lagrangian Duality [55.06411438416805]
制約付きマルコフ決定プロセス(CMDP)は、多くの高度な応用において重要である。
本稿では,パラメトリックアクターポリシーを効率的に訓練するための2段階深度決定規則(TS-DDR)を提案する。
現状の手法と比較して, 解の質を高め, 数桁の計算時間を削減できることが示されている。
論文 参考訳(メタデータ) (2024-05-23T18:19:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。