論文の概要: Hybrid Feedback Sampling for Sample-Efficient Model Predictive Control
- arxiv url: http://arxiv.org/abs/2608.19443v1
- Date: Wed, 19 Aug 2026 20:56:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.396918
- Title: Hybrid Feedback Sampling for Sample-Efficient Model Predictive Control
- Title(参考訳): サンプル効率の良いモデル予測制御のためのハイブリッドフィードバックサンプリング
- Abstract要約: 本稿では,最適化されたフィードバックポリシを用いてサンプリングすることで,最適なサンプリング提案分布を実現することができることを示す。
ヒューマノイドのロコ操作やデキスタラス操作のような多種多様なコンタクトリッチ制御タスクにおいて,FS-MPCは動的に不安定なタスクに取り組むことに成功した。
- 参考スコア(独自算出の注目度): 19.515987245507013
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Thanks to its parallelizability and flexibility, sampling-based Model Predictive Control (MPC) has become widely popular for controlling real-world robotic systems. However, for high-dimensional and open-loop unstable dynamical systems, the required number of samples to improve the control sequence will grow exponentially with the horizon, leading to poor sample efficiency and numerical instability. This paper investigates the instability of shooting methods in sampling-based MPC and shows that the optimal sampling proposal distribution can be realized by sampling with an optimized feedback policy. We refer to this algorithm as Feedback Sampling MPC (FS-MPC). FS-MPC involves a hybrid sampling design which balances local and global search based on the system stability and the available computation budget. Our theoretical analysis shows that our hybrid sampling approach achieves faster convergence than standard MPPI and better optimality than standard feedback sampling. Empirically, in diverse contact-rich control tasks like humanoid loco-manipulation and dexterous manipulation, we show that FS-MPC successfully tackles dynamically unstable tasks where standard sample-based approaches struggle, and strictly outperforms feedback policies alone. Finally, we validate our method on humanoid robot locomotion and manipulation tasks in the real world.
- Abstract(参考訳): 並列化性と柔軟性により、サンプリングベースのモデル予測制御(MPC)は現実世界のロボットシステムを制御するために広く普及している。
しかし、高次元および開ループ不安定な力学系では、制御シーケンスを改善するために必要なサンプル数が地平線とともに指数関数的に増加し、サンプル効率や数値不安定性が低下する。
本稿では, サンプリングベースMPCにおけるシューティング手法の不安定性について検討し, 最適化されたフィードバックポリシを用いてサンプリングすることで, 最適なサンプリング提案分布を実現できることを示す。
このアルゴリズムを、FS-MPC(Feedback Smpling MPC)と呼ぶ。
FS-MPCは、システムの安定性と利用可能な計算予算に基づいて、ローカルおよびグローバル検索のバランスをとるハイブリッドサンプリング設計を含む。
提案手法は, 標準MPPIよりも高速に収束し, 標準フィードバックサンプリングよりも優れた最適性が得られることを示す。
経験的に、ヒューマノイドのロコ操作やデキスタラス操作のような多様なコンタクトリッチな制御タスクにおいて、FS-MPCは、標準サンプルベースのアプローチが苦労する動的不安定なタスクにうまく取り組み、フィードバックポリシーのみを厳密に上回っていることを示す。
最後に,実世界におけるヒューマノイドロボットの移動と操作作業について検証した。
関連論文リスト
- Primitive-Informed Sampling-Based MPC for Multi-Fingered Dexterous Manipulation [3.693403461852542]
本稿では,デクスタラス操作のためのプリミティブインフォームドサンプリングベースモデル予測制御(MPC)フレームワークを提案する。
本フレームワークは, 協調指の動きを符号化する低次元操作プリミティブを用いて, サンプリングをバイアスする。
我々は、MuJoCoデジタルツインを用いた物理アレグロハンドのアプローチを評価する。
論文 参考訳(メタデータ) (2026-09-14T00:36:17Z) - Real-World Deployment of Massively Parallel Sampling-Based MPC for Contact-Rich Manipulation [21.501604407170273]
大規模並列化と効率的な計算に JAX を利用する MPC フレームワークを提案する。
我々は、Franka Research 3上でPush-T操作タスクを実行し、完全な実-実-実-実-実-パイプラインを通してデプロイする。
これらの知見は, コンタクトリッチな操作・接触感度, 厳密な計算予算, 情報伝達領域のランダム化信号のリアルタイム取得の難しさにおいて, サンプリングベースMPCの課題を浮き彫りにした。
論文 参考訳(メタデータ) (2026-06-16T12:24:05Z) - How Sampling Shapes LLM Alignment: From One-Shot Optima to Iterative Dynamics [65.67654005892469]
適切なインスタンス依存サンプリングは、より強力なランキング保証を得られる一方で、スキュードオン政治サンプリングは、構造化された嗜好の下で過剰な濃度を誘導できることを示す。
次に、学習したポリシーが将来のサンプリングおよび参照ポリシーにフィードバックする反復的なアライメントダイナミクスを分析する。
我々の理論的な洞察は直接選好最適化にまで拡張され、我々が捉えた現象はより広範な選好アライメント手法に共通していることを示している。
論文 参考訳(メタデータ) (2026-02-12T17:11:08Z) - Sampling Strategy Design for Model Predictive Path Integral Control on Legged Robot Locomotion [6.24797585266791]
本稿では,足歩行ロボットにおけるモデル予測経路積分(MPPI)フレームワークにおけるサンプリング戦略設計の役割を体系的に検討する。
四足歩行ロボットプラットフォーム上での広範囲なシミュレーションにより、異なるサンプリング戦略が制御の滑らかさ、タスク性能、堅牢性、サンプル効率にどのように影響するかを評価する。
論文 参考訳(メタデータ) (2026-01-04T07:25:37Z) - Fine-Tuning of Neural Network Approximate MPC without Retraining via Bayesian Optimization [81.35990332700389]
近似モデル予測制御(AMPC)は、MPCの動作をニューラルネットワークで模倣することを目的としている。
デプロイメント中、基盤となるMPCのパラメータは通常、微調整されなければならない。
最近の研究は、MPC最適化問題の近似感度を用いてAMPCを調整することなく適用することでこの問題に対処している。
論文 参考訳(メタデータ) (2025-12-16T12:24:08Z) - Reinforced sequential Monte Carlo for amortised sampling [49.92678178064033]
我々は、最大エントロピー強化学習(MaxEnt RL)により訓練されたシーケンシャルモンテカルロ(SMC)とニューラルシーケンシャルサンプリングとの接続を述べる。
本稿では,提案関数とツイスト関数の安定な連成訓練手法と,トレーニング信号のばらつきを低減するための適応重み付け方式について述べる。
論文 参考訳(メタデータ) (2025-10-13T17:59:11Z) - G$^2$RPO: Granular GRPO for Precise Reward in Flow Models [74.21206048155669]
本稿では,サンプリング方向の高精度かつ包括的な報酬評価を実現する新しいグラニュラー-GRPO(G$2$RPO)フレームワークを提案する。
複数の拡散スケールで計算された利点を集約するマルチグラニュラリティ・アドバンテージ・インテグレーション・モジュールを導入する。
G$2$RPOは既存のフローベースGRPOベースラインを著しく上回る。
論文 参考訳(メタデータ) (2025-10-02T12:57:12Z) - Safe Beyond the Horizon: Efficient Sampling-based MPC with Neural Control Barrier Functions [23.693610702522236]
モデル予測制御(MPC)を実際に使用する場合の一般的な問題は、予測地平線を超えた安全仕様の満足度である。
本稿では、推定最適制御のばらつきを大幅に低減し、サンプル効率を向上し、CPU上でのリアルタイム計画を可能にする新しいサンプリング戦略を提案する。
論文 参考訳(メタデータ) (2025-02-20T19:59:11Z) - Equivariant Action Sampling for Reinforcement Learning and Planning [24.423370812881153]
連続制御タスクのための強化学習アルゴリズムは、正確なサンプリングベースのアクション選択を必要とする。
この研究はサンプリングに基づく計画と制御における対称性の保存という課題に対処する。
所望の対称性を強制するアクションサンプリング手法を導入する。
論文 参考訳(メタデータ) (2024-12-16T17:51:14Z) - Bridging SFT and DPO for Diffusion Model Alignment with Self-Sampling Preference Optimization [67.8738082040299]
自己サンプリング優先最適化(SSPO)は,訓練後強化学習のための新しいアライメント手法である。
SSPOは、SFTのトレーニング安定性を維持しながら、ペアデータと報酬モデルの必要性を排除する。
SSPOは、テキスト・ツー・イメージベンチマークにおける以前のアプローチを全て上回り、テキスト・ツー・ビデオベンチマークにおける優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2024-10-07T17:56:53Z) - Learning Sampling Distributions for Model Predictive Control [36.82905770866734]
モデル予測制御(MPC)に対するサンプリングに基づくアプローチは、MPCに対する現代のアプローチの基盤となっている。
我々は、学習された分布を最大限に活用できるように、潜在空間における全ての操作を実行することを提案する。
具体的には、学習問題を双方向の最適化として捉え、バックプロパゲーションスルータイムでコントローラをトレーニングする方法を示す。
論文 参考訳(メタデータ) (2022-12-05T20:35:36Z) - Reparameterized Sampling for Generative Adversarial Networks [71.30132908130581]
本稿では,マルコフ連鎖をジェネレータの潜在空間に再配置することで,一般依存型提案を可能にする新しいサンプリング手法REP-GANを提案する。
実験的な実験により、我々のREP-GANはサンプル効率を大幅に改善し、同時により良いサンプル品質を得ることを示した。
論文 参考訳(メタデータ) (2021-07-01T10:34:55Z) - Gaussian Process-based Min-norm Stabilizing Controller for
Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。
この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文 参考訳(メタデータ) (2020-11-14T01:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。