論文の概要: FAITH: Feasibility-Aware Safety-Filtered RL for High-Dimensional Systems

• arxiv url: http://arxiv.org/abs/2610.12432v1
• Date: Thu, 08 Oct 2026 17:57:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.245576
• Title: FAITH: Feasibility-Aware Safety-Filtered RL for High-Dimensional Systems
• Title（参考訳）: FAITH:高次元システムにおける安全フィルタRLの実現可能性
• Abstract要約: 本稿では、最適状態-動作安全値を近似し、フィードフォワードネットワークによる最小干渉フィルタリングを補正するフレームワークを提案する。 29-DoFのヒューマノイドでは99.95%の安全率に到達し、ウォーキング・エイヴォイドでは未濾過リターンの97%を維持している。 同じ方針は、現実世界のUnitree G1ヒューマノイドでも実証されている。
• 参考スコア（独自算出の注目度）: 16.34527459917725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safe reinforcement learning commonly places safety and task performance in the same policy objective, where they can introduce competing updates. Safety filters separate them at action execution, but classical designs require an analytic safety function and dynamics model, and standard minimal-intervention filters are myopic to long-horizon task return because they minimize only instantaneous action deviation. Hard projections are also undefined when no safe action exists. We present FAITH, a feasibility-aware, model-free framework that approximates the optimal state-action safety value and amortizes minimal-intervention filtering with a feedforward network. The task policy optimizes the task return through the filtered dynamics, which recovers the feasible constrained problem without a competing safety term in the task-policy update. When no action satisfies the learned safety condition, the same filter approaches the action with minimum predicted peak harm. On a double integrator example and a Safety Gym environment, FAITH achieves the highest return among methods with no feasible-start violations and matches the lowest harm from infeasible starts. On a 29-DoF humanoid, it reaches a 99.95% safety rate while retaining 97% of the unfiltered return in Walking-Avoid, and obtains the highest measured safety rate in Push-Avoid by learning to sacrifice balancing and fall away from the protected region. The same policies are also demonstrated on a real-world Unitree G1 humanoid.
• Abstract（参考訳）: 安全強化学習は一般的に、安全とタスクのパフォーマンスを同じ方針目標に配置し、競合する更新を導入する。 安全フィルタは動作実行時に分離するが、古典的な設計では解析的安全関数とダイナミックスモデルを必要とする。 安全なアクションが存在しない場合には、ハードプロジェクションも未定義である。 提案するFAITHは、最適状態-動作安全値を近似し、フィードフォワードネットワークによる最小干渉フィルタリングを補正する、実現可能性を考慮したモデルフリーフレームワークである。 タスクポリシーは、タスクポリティクス更新において競合する安全条件なしで、実行可能な制約付き問題を回復するフィルタされたダイナミクスを介してタスクリターンを最適化する。 学習した安全条件を満たすアクションが存在しない場合、同じフィルタが最小限のピーク障害でアクションに近づく。 ダブルインテグレータの例とセーフティガイムの環境において、FAITHは、実現不可能な開始違反のないメソッド間で最も高いリターンを達成する。 29-DoFのヒューマノイドでは、ウォーキング・エイヴォイドの未濾過リターンの97%を維持しながら99.95%の安全率に達し、バランスを犠牲にして保護地域から離れることを学ぶことで、プッシュ・エイヴォイドで最も高い安全率を得る。 同じ方針は、現実世界のUnitree G1ヒューマノイドでも実証されている。

関連論文リスト

• ActSafeGuard: Differentiable and Training-Aligned Constraint Enforcement for Flow-Matching Policies [13.296422778046148]
  私たちはActSafeGuardを紹介します。ActSafeGuardは、フローマッチングベースのポリシーのための差別化およびトレーニング対応のセーフガードレイヤです。 ActSafeGuardは、安全を推論時の外部コンポーネントとして扱うだけでなく、ポリシー学習にハードアクション実現可能性を統合する。
  論文  参考訳（メタデータ） (2026-09-10T15:21:47Z)
• Shield-Loco: Shielding Locomotion Policies with Predictive Safety Filtering [10.242244578585897]
  大規模オフライン安全な学習は、すべてのエッジケースをカバーするには実用的ではない。 本稿では,RLポリシーに従属する名目接触位置をポストホックフィルタでフィルタする安全フィルタを提案する。 密集した散らばった環境下での四足ロボットのフィルタの有効性を検証する。
  論文  参考訳（メタデータ） (2026-06-05T11:59:43Z)
• VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
  Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。 VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。 目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
  論文  参考訳（メタデータ） (2026-06-02T17:42:17Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Online Safety Filter for Deformable Object Manipulation with Horizon Agnostic Neural Operators [25.931880819916643]
  変形可能なオブジェクト操作のための制約駆動型オンライン安全フィルタを提案する。 このフィルタは、名目制御ポリシーを最小限に修正することで、タスクレベルの安全性の制約をリアルタイムで実施する。 提案手法はFluidLabにおいて,フィルタがフィルタされていない基本方針に対して,安全な軌道速度を最大22%向上させる。
  論文  参考訳（メタデータ） (2026-05-01T20:06:54Z)
• SafeR-CLIP: Mitigating NSFW Content in Vision-Language Models While Preserving Pre-Trained Knowledge [51.634837361795434]
  SaFeR-CLIPは安全性と性能を調整し、以前の方法に比べて最大8.0%のゼロショット精度を回復する。 NSFW-Capsは、分散シフト下での安全性をテストするために、1000の高度に整合したペアの新しいベンチマークである。
  論文  参考訳（メタデータ） (2025-11-20T19:00:15Z)
• Provably Optimal Reinforcement Learning under Safety Filtering [6.197103843323546]
  パーミッシブセーフティフィルタによる安全性の強制は、固有の性能を低下させるものではないことを示す。 安全決定プロセス (SC-MDP) により安全を形式化し, 破滅的故障状態を回避するためには, 高い確率ではなくカテゴリー的判断が必要である。 我々の主定理は、 (i) フィルタリングされた MDP における学習は安全な分類であり、 (ii) 標準 RL 収束は、フィルタされた MDP に受け継がれ、 (iii) フィルタされた MDP で最適となる政策は、いずれの政策も決定する。
  論文  参考訳（メタデータ） (2025-10-20T20:20:10Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• Safe Reinforcement Learning via Confidence-Based Filters [78.39359694273575]
  我々は,標準的な強化学習技術を用いて学習した名目政策に対して,国家安全の制約を認定するための制御理論的アプローチを開発する。 我々は、正式な安全保証を提供し、我々のアプローチの有効性を実証的に実証する。
  論文  参考訳（メタデータ） (2022-07-04T11:43:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。