論文の概要: A Unified Framework for Empowerment and Predictive Control
- arxiv url: http://arxiv.org/abs/2610.03563v1
- Date: Fri, 02 Oct 2026 16:40:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.488932
- Title: A Unified Framework for Empowerment and Predictive Control
- Title(参考訳): エンパワーメントと予測制御のための統一フレームワーク
- Abstract要約: サンプリングに基づくモデル予測制御は、軌道最適化の強力なアプローチである。
しかし、そのパフォーマンスは、設計にドメイン知識を必要とすることが多い情報的コスト関数に依存します。
システムダイナミクスから直接目的を導出する代替案を提案する。
- 参考スコア(独自算出の注目度): 2.776563845464992
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sampling-based model predictive control (MPC) is a powerful approach to trajectory optimization, but its performance depends on an informative cost function that often requires substantial domain knowledge to design. An alternative is to derive objectives directly from the system dynamics. Empowerment, defined as the channel capacity between an agent's inputs and its future state, provides such a goal-agnostic objective and has been shown to produce useful behaviors across a range of domains. However, existing empowerment-based controllers have two key limitations: empowerment is estimated using a virtual probing policy distinct from the executed control policy, obscuring its connection to the resulting behavior; and its computation typically requires second-order derivatives of the dynamics, limiting compatibility with standard MPC methods. We formulate empowerment using a single policy for both probing and acting, directly linking the empowerment objective to the executed behavior. The resulting objective requires only first-order derivatives and can be optimized with standard MPC solvers, either alone or in combination with a task-specific cost. We evaluate the proposed approach on classical control tasks and show that combining empowerment with task costs matches or exceeds the success rate achieved by either objective alone. Our formulation provides a practical bridge between standard MPC and intrinsically motivated control.
- Abstract(参考訳): サンプリングベースモデル予測制御(MPC)は、軌道最適化の強力なアプローチであるが、その性能は設計にかなりのドメイン知識を必要とする情報的コスト関数に依存する。
システムダイナミクスから直接目的を導き出す方法もあります。
エージェントの入力と将来の状態の間のチャネルキャパシティとして定義されるエンパワーメントは、そのような目標に依存しない目標を提供し、さまざまな領域で有用な振る舞いを生んでいることが示されている。
しかし、既存のエンパワーメントベースのコントローラには2つの重要な制限がある: エンパワーメントは、実行された制御ポリシーとは異なる仮想的なプロブリングポリシーを用いて推定され、その結果の振る舞いへの接続を隠蔽し、その計算は通常、力学の2階微分を必要とし、標準のMPCメソッドとの互換性を制限する。
探索と行動の両方に単一のポリシーを用いてエンパワーメントを定式化し、実行された行動とエンパワーメントの目的を直接リンクする。
結果として得られる目的は、一階微分のみを必要とし、タスク固有のコストと組み合わせて、標準のMPCソルバで最適化できる。
提案手法を古典的制御タスクに適用し,タスクコストとエンパワーメントを組み合わせれば,いずれの目的によっても達成される成功率を超えていることを示す。
我々の定式化は、標準MPCと本質的な動機付け制御の実践的なブリッジを提供する。
関連論文リスト
- Multi-Objective Agent-Based Model Predictive Controller for Plug-and-Play Vehicle Control [18.92447175833456]
機能統合は、車両制御の傾向が高まり、しばしば複数のコントローラの調整が伴う。
エージェントベースのモデル予測制御(AMPC)は、コントローラをエージェントとして扱う分散ソリューションとして登場した。
本稿では,多目的AMPCと呼ばれる新しい分散制御方式を提案する。
論文 参考訳(メタデータ) (2026-09-10T18:35:08Z) - PCHC: Enabling Preference Conditioned Humanoid Control via Multi-Objective Reinforcement Learning [50.63196995993855]
多目的強化学習(MORL)を活用してPCHC(Preference-Conditioned Humanoid Control)を実現する新しいフレームワークを提案する。
当社のフレームワークは、単一の嗜好条件のポリシーを多種多様な行動を示すために有効である。
論文 参考訳(メタデータ) (2026-03-25T07:55:37Z) - $V_0$: A Generalist Value Model for Any Policy at State Zero [80.7505802128501]
ポリシーメソッドは、アクションの相対的な利点を測定するためにベースラインに依存します。
このベースラインは一般的に、政策モデルそのものと同じくらい大きな価値モデル(Critic)によって推定される。
未知のプロンプト上での任意のモデルの期待性能を推定できるジェネリスト値モデルを提案する。
論文 参考訳(メタデータ) (2026-02-03T14:35:23Z) - Constrained and Robust Policy Synthesis with Satisfiability-Modulo-Probabilistic-Model-Checking [4.064849471241967]
本稿では,任意の構造制約を受けるロバストポリシを効果的に計算するための最初のアプローチを提案する。
数百のベンチマークの実験は、制約付きかつ堅牢なポリシー合成の実現可能性を示している。
論文 参考訳(メタデータ) (2025-11-11T10:28:42Z) - Compose Your Policies! Improving Diffusion-based or Flow-based Robot Policies via Test-time Distribution-level Composition [52.232968183793986]
General Policy Composition (GPC) は、複数の事前学習されたポリシーの分布スコアを組み合わせることで、パフォーマンスを向上させる訓練のない手法である。
GPCは、さまざまなタスクセットにおけるパフォーマンスと適応性を一貫して改善します。
論文 参考訳(メタデータ) (2025-10-01T16:05:53Z) - Reinforcement Learning for Quantum Network Control with Application-Driven Objectives [53.03367590211247]
動的プログラミングと強化学習は、制御戦略を最適化するための有望なツールを提供する。
非線形で微分可能な目的関数を直接最適化する新しいRLフレームワークを提案する。
我々の研究は、RLを持つ量子ネットワークにおける非線形目的関数最適化への第一歩であり、より高度なユースケースへの道を開く。
論文 参考訳(メタデータ) (2025-09-12T18:41:10Z) - C-MORL: Multi-Objective Reinforcement Learning through Efficient Discovery of Pareto Front [9.04360155372014]
制約付きMORLは制約付きポリシー最適化とMORLのシームレスなブリッジである。
我々のアルゴリズムは、離散的かつ連続的な制御タスクにおいて、ハイパーボリューム、期待されるユーティリティ、およびスパーシリティという観点でより一貫性があり、優れた性能を達成する。
論文 参考訳(メタデータ) (2024-10-03T06:13:56Z) - Imitation Learning from MPC for Quadrupedal Multi-Gait Control [63.617157490920505]
本稿では,歩行ロボットの複数の歩行を模倣する単一ポリシーを学習する学習アルゴリズムを提案する。
モデル予測制御によって導かれる模擬学習のアプローチであるMPC-Netを使用し、拡張します。
ハードウェアに対する我々のアプローチを検証し、学習したポリシーが教師に取って代わって複数の歩留まりを制御できることを示します。
論文 参考訳(メタデータ) (2021-03-26T08:48:53Z) - Goal-Conditioned End-to-End Visuomotor Control for Versatile Skill
Primitives [89.34229413345541]
本稿では,制御器とその条件をエンドツーエンドに学習することで,落とし穴を回避する条件付け手法を提案する。
本モデルでは,ロボットの動きのダイナミックな画像表現に基づいて,複雑な動作シーケンスを予測する。
代表的MPCおよびILベースラインに対するタスク成功の大幅な改善を報告した。
論文 参考訳(メタデータ) (2020-03-19T15:04:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。