論文の概要: SCoCaT: Success Conditioned Constrained Reinforcement Learning for Spacecraft Docking
- arxiv url: http://arxiv.org/abs/2609.06061v1
- Date: Sat, 05 Sep 2026 12:43:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 11:44:26.345108
- Title: SCoCaT: Success Conditioned Constrained Reinforcement Learning for Spacecraft Docking
- Title(参考訳): SCoCaT: 宇宙船ドッキングのための成功条件付き制約強化学習
- Abstract要約: 我々は、PPOのような既成RLアルゴリズムへの最小拡張が、この実現可能性の崩壊を解決することを示す」。
補助的値批判による高密度なステップ毎の成功信号の追加は、安全クリティカルな制約コンプライアンスを維持しつつ、タスク完了率を向上させることを実証的に実証する。
- 参考スコア(独自算出の注目度): 0.4619828919345114
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Termination-based constrained reinforcement learning is attractive for safety-critical robotic deployments: it avoids online optimization at inference, scales easily to many constraints via a single scalar per constraint, and is simpler to implement than commonly used Lagrangian methods. Instead of pricing violations through summed cost penalties, this approach makes violations structurally unprofitable by shortening the effective horizon for each violation. We identify a structural failure mode of this method class on terminal-navigation tasks: reaching a precise goal configuration while satisfying safety constraints that tighten along the final approach. When the goal sits inside the region close to where the constraints become active, the survival-weighted objective makes dwelling outside the goal region strictly preferable to entering, producing high constraint compliance with low task completion. We formalize this pathology and show that a minimal augmentation to off-the-shelf RL algorithms like PPO resolves this ``feasibility collapse''. We empirically demonstrate that adding a dense per-step success signal via an auxiliary value critic improves the task completion rate while maintaining safety-critical constraint compliance. Validation across two representative spacecraft platforms: a 6U-CubeSat spanning the mass and degree-of-freedom envelope of operational proximity operations, and a floating platform testbed for zero-shot sim-to-real transfer in our laboratory, supports the generality of these findings.
- Abstract(参考訳): 推論時のオンライン最適化を避け、制約毎にひとつのスカラーで簡単に多くの制約にスケールし、一般的なラグランジアン方式よりも実装が簡単である。
費用対効果の合計による価格違反の代わりに、この手法は違反ごとの効果的な地平を短くすることで、違反を構造的に不利益にする。
最終アプローチに沿って厳密な安全制約を満たすとともに、正確な目標設定に達するという、終端ナビゲーションタスクにおけるこのメソッドクラスの構造的障害モードを同定する。
目標が制約がアクティブになる領域の近くにある場合、生存重み付けされた目的は、目標領域の外に居住することを厳格に好ましくし、低いタスク完了を伴う高い制約コンプライアンスを生み出します。
我々はこの病理を定式化し、PPOのような既製のRLアルゴリズムへの最小拡張が、この「実現可能性崩壊」を解消することを示す。
補助的値批判による高密度なステップ毎の成功信号の追加は、安全クリティカルな制約コンプライアンスを維持しつつ、タスク完了率を向上させることを実証的に実証する。
実験室におけるゼロショット・シム・トゥ・リアル・トランスファーのための浮体式プラットフォームテストベッドは、これらの発見の一般性を支持するものである。
関連論文リスト
- Directional Constraints for Efficient Exploration in Safe Reinforcement Learning [19.03722256244529]
本稿では,ATACOMフレームワークを拡張して,システムの事前知識やデータから直接学習する制約を強制する手法を提案する。
ATACOM-DC (ATACOM Directional Constraints) と呼ばれる提案手法は安全性と性能のトレードオフを大幅に改善する。
本手法は,制約違反コストとタスク性能の両面から,ロボット制御タスクのシミュレーション,解析,評価を行う。
論文 参考訳(メタデータ) (2026-07-14T13:59:20Z) - Occluding the Solution Space: Planner-Agnostic Adversarial Attacks on Tolerance-Aware Manipulation [57.9825059129472]
本稿では, 耐障害性を考慮したアタック・フレームワークを提案する。
提案手法は,評価パラダイムを目標領域を越えたタスクレベルの実現性にシフトする。
オンラインでは、この攻撃を最大カバレッジ最適化の予算として定式化しています。
論文 参考訳(メタデータ) (2026-07-04T08:14:44Z) - Kilohertz-Safe: A Scalable Framework for Constrained Dexterous Retargeting [26.496984289625022]
本稿では,非線形問題を共同微分空間における凸プログラムに再構成するスケーラブルな運動フレームワークを提案する。
提案フレームワークは,Wuji Handプラットフォーム上でのシミュレーションとハードウェア実験によって検証される。
このフレームワークは平均遅延9.05ミリ秒の高周波動作を実現し、95%以上の再ターゲットフレームが安全基準を満たす。
論文 参考訳(メタデータ) (2026-03-31T03:28:04Z) - BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。
BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
論文 参考訳(メタデータ) (2026-02-23T18:19:46Z) - Adaptive Neighborhood-Constrained Q Learning for Offline Reinforcement Learning [52.03884701766989]
オフライン強化学習(RL)アルゴリズムは、通常、アクション選択に制約を課す。
本稿では,Bellmanターゲットにおける行動選択を,データセットアクションの近傍の結合に制限する新しい地区制約を提案する。
我々は,この制約を満たす目標動作を用いてQ学習を行うための,単純で効果的なアルゴリズムであるAdaptive Neighborhood-Constrained Q Learning(ANQ)を開発した。
論文 参考訳(メタデータ) (2025-11-04T13:42:05Z) - Boundary-to-Region Supervision for Offline Safe Reinforcement Learning [56.150983204962735]
バウンダリ・トゥ・レギオン(Bundary-to-Region, B2R)は、コスト信号による非対称な条件付けを可能にするフレームワークである。
B2Rは、CTGを固定された安全予算の下で境界制約として再定義し、すべての実行可能な軌道のコスト分布を統一する。
実験の結果,B2Rは38項目中35項目の安全制約を満たすことがわかった。
論文 参考訳(メタデータ) (2025-09-30T03:38:20Z) - Uniformly Safe RL with Objective Suppression for Multi-Constraint Safety-Critical Applications [73.58451824894568]
広く採用されているCMDPモデルは予測のリスクを制約しており、長い尾の州で危険な行動を起こす余地がある。
安全クリティカルな領域では、そのような行動は破滅的な結果をもたらす可能性がある。
本稿では,目標を最大化するタスク報酬を適応的に抑制する新しい手法であるObjective Suppressionを提案する。
論文 参考訳(メタデータ) (2024-02-23T23:22:06Z) - Handling Long and Richly Constrained Tasks through Constrained
Hierarchical Reinforcement Learning [20.280636126917614]
目標の安全性 強化学習(RL)の設定は通常、軌道上の制約によって処理される。
本稿では,上位レベルの制約付き検索エージェントと下位レベルの目標条件付きRLエージェントを組み合わせた(安全)階層型強化学習(CoSHRL)機構を提案する。
CoSHRLの大きな利点は、コスト値分布の制約を処理でき、再トレーニングなしに柔軟な制約しきい値に調整できることである。
論文 参考訳(メタデータ) (2023-02-21T12:57:12Z) - Log Barriers for Safe Black-box Optimization with Application to Safe
Reinforcement Learning [72.97229770329214]
本稿では,学習時の安全性維持が不可欠である高次元非線形最適化問題に対する一般的なアプローチを提案する。
LBSGDと呼ばれるアプローチは、慎重に選択されたステップサイズで対数障壁近似を適用することに基づいている。
安全強化学習における政策課題の違反を最小限に抑えるためのアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2022-07-21T11:14:47Z) - Adjacency constraint for efficient hierarchical reinforcement learning [25.15808501708926]
目標条件強化学習(HRL)は、強化学習(RL)技術をスケールアップするための有望なアプローチである。
HRLは、高レベル、すなわちゴール空間のアクション空間が大きいため、トレーニングの非効率さに悩まされることが多い。
本研究では,高レベル動作空間を現在の状態の隣接する領域$k$-stepに制限することにより,この問題を効果的に緩和できることを示す。
論文 参考訳(メタデータ) (2021-10-30T09:26:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。