論文の概要: LyEvO: Lyapunov-Guided Evolutionary Optimization for Safe and Robust Sim-to-Real Policy Learning
- arxiv url: http://arxiv.org/abs/2608.06481v1
- Date: Thu, 06 Aug 2026 18:19:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.260341
- Title: LyEvO: Lyapunov-Guided Evolutionary Optimization for Safe and Robust Sim-to-Real Policy Learning
- Title(参考訳): LyEvO: Lyapunov-Guided Evolutionary Optimization for Safe and Robust Sim-to-Real Policy Learning
- Abstract要約: シミュレーションにおいて安全で堅牢なトレーニングコントローラと、実世界の展開の準備性について体系的に評価するコントローラは、シミュレートから現実への移行において重要な課題である。
制約付き進化最適化と統計的モデル検査(SMC)に基づく検証とリアプノフに基づく安定性解析を組み合わせた物理地上フレームワークLyEvOを提案する。
我々は,Cartpoleと3D QuadrotorベンチマークにおけるLyEvOの評価を,広範囲なシミュレーションと実世界の実験により行い,安全性とロバストなsim-to-realトランスファーを実証した。
- 参考スコア(独自算出の注目度): 4.6279005223541105
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training controllers that are safe and robust in simulation, and systematically assessing their readiness for real-world deployment, remain key challenges in sim-to-real transfer. To address this, we propose LyEvO, a physics-grounded framework that combines constrained Evolutionary Optimization and Statistical Model Checking (SMC)-based verification with Lyapunov-based stability analysis. Leveraging prior knowledge of the system dynamics, LyEvO uses Lyapunov analysis to compute an initial candidate stability region. An iterative loop then uses operational scenarios drawn from this region to jointly optimize and statistically verify a policy, and subsequently expands the region's boundaries based on the verification outcome. This integrated procedure provides a practical criterion for assessing deployment readiness. We evaluate LyEvO on Cartpole and 3D Quadrotor benchmarks through extensive simulations and targeted real-world experiments, demonstrating safe and robust sim-to-real transfer.
- Abstract(参考訳): シミュレーションにおいて安全で堅牢なトレーニングコントローラと、実世界の展開の準備性について体系的に評価するコントローラは、シミュレートから現実への移行において重要な課題である。
これを解決するために,LyEvOを提案する。LyEvOは,制約付き進化最適化と統計的モデル検査(SMC)に基づく検証と,Lyapunovに基づく安定性解析を組み合わせた物理地上フレームワークである。
システムダイナミクスの事前知識を活用して、LyEvOはリアプノフ解析を用いて初期候補安定領域を計算する。
反復ループは、この領域から引き出された運用シナリオを使用して、ポリシーを共同で最適化し、統計的に検証し、その後、検証結果に基づいて領域の境界を拡張する。
この統合プロシージャは、デプロイの即応性を評価するための実践的な基準を提供する。
我々は,Cartpoleと3D QuadrotorベンチマークにおけるLyEvOの評価を,広範囲なシミュレーションと実世界の実験により行い,安全性とロバストなsim-to-realトランスファーを実証した。
関連論文リスト
- A Practical Recipe Towards Improving Sim-and-Real Correlation for VLA Evaluation [13.439555106885491]
シミュレーション評価は,政策ランキングの整合性,性能相関,摂動障害パターンの観点から,現実の結論を保っているかを検討する。
この分析により,既存のシミュレータの限界を特徴付けることができ,シミュレーション信号が現実世界の配置とより整合しているかを特定することができる。
論文 参考訳(メタデータ) (2026-06-09T03:25:02Z) - Sim2Act: Robust Simulation-to-Decision Learning via Adversarial Calibration and Group-Relative Perturbation [54.29523408543184]
シミュレーションと意思決定の学習は、現実世界の展開を危険にさらすことなく、デジタル環境で安全なポリシートレーニングを可能にする。
既存のアプローチでは、平均的なシミュレーションの忠実さを改善するか、保守的な正規化を採用するかに重点を置いている。
提案するSim2Actは,シミュレータとポリシーのロバスト性の両方に対処するロバストなシミュレーション・トゥ・意思決定フレームワークである。
論文 参考訳(メタデータ) (2026-03-10T00:51:47Z) - Stabilizing Policy Optimization via Logits Convexity [59.242732612484474]
モデルロジットに対する教師付き微調整損失の凸性は、安定したトレーニングを可能にする上で重要な役割を担っていることを示す。
そこで本研究では,ロジッツ・コンベックス最適化(Logits Convex Optimization, LCO)を提案する。
論文 参考訳(メタデータ) (2026-03-01T07:40:12Z) - Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。
SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。
複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-01T12:56:10Z) - Stabilizing Policy Gradients for Sample-Efficient Reinforcement Learning in LLM Reasoning [77.92320830700797]
強化学習は、大規模言語モデルの推論機能を実現する上で中心的な役割を果たしてきた。
本稿では,ポリシー更新時の曲率情報を追跡し,活用するトラクタブルな計算フレームワークを提案する。
アルゴリズムであるCurvature-Aware Policy Optimization (CAPO)は、不安定な更新に寄与するサンプルを特定し、それらをマスクアウトする。
論文 参考訳(メタデータ) (2025-10-01T12:29:32Z) - Neural Fidelity Calibration for Informative Sim-to-Real Adaptation [10.117298045153564]
深い強化学習は、アジャイルの移動とナビゲーションのスキルをシミュレータから現実世界にシームレスに移行することができる。
しかし、ドメインのランダム化や敵対的手法とシム・トゥ・リアルのギャップを埋めることは、しばしば政策の堅牢性を保証するために専門家の物理学知識を必要とする。
本研究では, 条件付きスコアベース拡散モデルを用いて, ロボットの動作中における物理係数と残留忠実度領域のキャリブレーションを行う新しいフレームワークであるNeural Fidelity(NFC)を提案する。
論文 参考訳(メタデータ) (2025-04-11T15:12:12Z) - Efficient Safety Alignment of Large Language Models via Preference Re-ranking and Representation-based Reward Modeling [84.00480999255628]
大規模言語モデル(LLM)の安全性アライメントのための強化学習アルゴリズムは,分散シフトの課題に直面している。
現在のアプローチでは、ターゲットポリシーからのオンラインサンプリングを通じてこの問題に対処するのが一般的である。
モデル固有の安全判断能力を活用して報酬信号を抽出する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-03-13T06:40:34Z) - LoopSR: Looping Sim-and-Real for Lifelong Policy Adaptation of Legged Robots [20.715834172041763]
デプロイ後の段階において、RLポリシーを継続的に洗練する、生涯にわたるポリシー適応フレームワークであるLoopSRを提案する。
LoopSRはトランスフォーマーベースのエンコーダを使用して、現実世界の軌道を潜在空間にマッピングする。
オートエンコーダアーキテクチャとコントラスト学習手法を採用し、実世界のダイナミクスの特徴抽出を強化する。
論文 参考訳(メタデータ) (2024-09-26T16:02:25Z) - Analyzing and Enhancing Closed-loop Stability in Reactive Simulation [25.27603440925488]
本研究では,シミュレーションと現実の交通シナリオ間の人間の行動ギャップを埋める新しいリアクティブ・シミュレーション・フレームワークを提案する。
まず、シミュレーション状態列の滑らかさと一貫性が安定性の重要な要因となる新しい反応性シミュレーションフレームワークを提案する。
次に、反応シミュレーションの閉ループ安定性を改善するために、キネマティック車両モデルをフレームワークに組み込む。
論文 参考訳(メタデータ) (2022-08-09T06:31:35Z) - Gaussian Process-based Min-norm Stabilizing Controller for
Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。
この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文 参考訳(メタデータ) (2020-11-14T01:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。