論文の概要: SafeAlign-VLA: A Negative-Enhanced Safe Alignment Framework for Risk-Aware Autonomous Driving

• arxiv url: http://arxiv.org/abs/2605.19524v1
• Date: Tue, 19 May 2026 08:26:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.204488
• Title: SafeAlign-VLA: A Negative-Enhanced Safe Alignment Framework for Risk-Aware Autonomous Driving
• Title（参考訳）: SafeAlign-VLA: リスク対応自動運転のための負の強化されたセーフアライメントフレームワーク
• Authors: Kefei Tian, Yuansheng Lian, Kai Yang, Xiangdong Chen, Shen Li,
• Abstract要約: VLA(Vision-Language-Action)モデルは、その強力な推論能力のために有望である。 我々は,教師付き学習と強化学習に否定データを組み込んだ,ネガティブに強化された安全なアライメントフレームワークであるSafeAlign-VLAを提案する。 NAVSIMとDeepAccidentの実験は提案されたフレームワークを検証する。
• 参考スコア（独自算出の注目度）: 5.963051368087439
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: End-to-end autonomous driving systems excel in common scenarios but struggle with safety-critical long-tail cases. Vision-Language-Action (VLA) models are promising due to their strong reasoning capabilities. However, most VLA-based approaches rely on positive expert demonstrations, rarely exploiting negative samples, leading to insufficient understanding of risky behaviors and safety boundaries. To address this limitation, we propose SafeAlign-VLA, a unified negative-enhanced safe alignment framework that incorporates negative data into supervised learning and reinforcement learning. First, we develop a counterfactual safety pairing paradigm to generate structured safety labels and counterfactual positive trajectories from risky scenarios via counterfactual reasoning. Then, a two-stage training strategy is adopted: negative-enhanced supervised fine-tuning for failure feedback and trajectory correction, followed by anchor-based group relative policy optimization that uses positive and negative trajectories as contrastive anchors to steer sampling and penalize high-risk behaviors via group-relative advantages. Experiments on NAVSIM and DeepAccident validate the proposed framework. SafeAlign-VLA achieves 89.1 PDMS on the NAVSIM v1 testset, improving over the baseline without negative data by 1.3%. On DeepAccident, it reduces the collision rate to 3.36%, while achieving 84.2% language accuracy and 85.8% risk prediction accuracy. These results demonstrate the effectiveness of the proposed negative-enhanced safe alignment framework for safe and robust autonomous driving.
• Abstract（参考訳）: エンドツーエンドの自動運転システムは、一般的なシナリオでは優れているが、安全クリティカルなロングテールケースでは苦労している。 VLA(Vision-Language-Action)モデルは、その強力な推論能力のために有望である。 しかしながら、ほとんどのVLAベースのアプローチは、肯定的な専門家によるデモンストレーションに頼っており、否定的なサンプルを利用することは稀であり、リスクのある行動や安全性の境界に対する理解が不十分である。 この制限に対処するために,否定データを教師付き学習と強化学習に組み込む,統一された負の強化された安全なアライメントフレームワークであるSafeAlign-VLAを提案する。 まず, リスクシナリオから構造付き安全ラベルと正の軌道を生成するための, 対実的安全ペアリングパラダイムを開発する。 次に、障害フィードバックと軌道修正のための負の指導的微調整と、正と負の軌跡を対照的なアンカーとして用いたアンカーベースのグループ相対的ポリシー最適化と、グループ相対的優位性による高リスク行動のサンプリングとペナライズを行う2段階の訓練戦略を採用する。 NAVSIMとDeepAccidentの実験は提案されたフレームワークを検証する。 SafeAlign-VLA は NAVSIM v1 テストセットで89.1 PDMS を達成した。 DeepAccidentでは、衝突率を3.36%に削減し、84.2%の言語精度と85.8%のリスク予測精度を達成した。 これらの結果は、安全で堅牢な自動運転のための負の強化された安全アライメントフレームワークの有効性を示す。

関連論文リスト

• OOD-MMSafe: Advancing MLLM Safety from Harmful Intent to Hidden Consequences [64.01706941950489]
  現在の安全パラダイムは、主に悪意のある意図や状況違反をターゲットとしている。 我々は,自律型および実施型エージェントのロバスト展開に不可欠なパラダイムである,結果駆動型安全に向けた安全フロンティアのシフトを提案する。 本稿では,トークンレベルの自己蒸留報酬の動的参照として,モデル固有の推論を統合したCASPO(Consequence-Aware Safety Policy Optimization)フレームワークを開発する。
  論文  参考訳（メタデータ） (2026-03-10T14:16:43Z)
• Learning to Stay Safe: Adaptive Regularization Against Safety Degradation during Fine-Tuning [2.9184958249079975]
  既存の防衛は、限られた保護を提供するか、安全と実用性の間のトレードオフを強制する。 安全リスクに応じて正規化を適応するトレーニングフレームワークを導入する。 前世代の活性化から有害な意図信号が予測可能であることを実証的に検証する。
  論文  参考訳（メタデータ） (2026-02-19T16:59:54Z)
• Steering Externalities: Benign Activation Steering Unintentionally Increases Jailbreak Risk for Large Language Models [62.16655896700062]
  活性化ステアリングは大規模言語モデル(LLM)の有用性を高める技術である 重要かつ過度に調査された安全リスクを無意識に導入することを示します。 実験によると、これらの介入は強制乗算器として機能し、ジェイルブレイクに新たな脆弱性を発生させ、標準ベンチマークで攻撃成功率を80%以上向上させる。
  論文  参考訳（メタデータ） (2026-02-03T12:32:35Z)
• Learning Safe Autonomous Driving Policies Using Predictive Safety Representations [0.0]
  安全強化学習(SafeRL)は、自動運転における重要なパラダイムである。 リスク政策学習のための安全表現(SRPL)フレームワークは、エージェントに将来の違反の予測モデルを設けることでこの問題に対処する。 本稿では,SRPLが現実の自動運転シナリオに拡張するかどうかを検討する。
  論文  参考訳（メタデータ） (2025-12-19T13:52:19Z)
• SaFeR-VLM: Toward Safety-aware Fine-grained Reasoning in Multimodal Models [66.71948519280669]
  MLRM(Multimodal Large Reasoning Models)は、クロスモーダルな推論を示すが、しばしば敵のプロンプトによる安全性のリスクを増幅する。 既存の防御は主に出力レベルで動作し、推論プロセスを制約せず、モデルは暗黙のリスクに置かれる。 4つのコンポーネントを統合し,表面レベルのフィルタリングを超える動的かつ解釈可能な安全性決定をサポートするSaFeR-VLMを提案する。
  論文  参考訳（メタデータ） (2025-10-08T10:39:12Z)
• SafeVLA: Towards Safety Alignment of Vision-Language-Action Model via Constrained Learning [30.037309138373754]
  視覚言語アクションモデル(VLA)は、汎用的なロボットポリシーとしての可能性を示している。 これらのモデルは、環境、ロボット自身、人間への危害のリスクを含む、現実世界の展開中に極端な安全上の課題を生じさせる。 我々は、ISA(Integrated safety approach)を探求し、安全要件を体系的にモデル化し、多様な安全でない振る舞いを積極的に引き出すことによって、この問題に対処する。
  論文  参考訳（メタデータ） (2025-03-05T13:16:55Z)
• SafetyAnalyst: Interpretable, Transparent, and Steerable Safety Moderation for AI Behavior [56.10557932893919]
  我々は、新しいAI安全モデレーションフレームワークであるSafetyAnalystを紹介する。 AIの振る舞いを考えると、SafetyAnalystはチェーン・オブ・シークレット・推論を使用してその潜在的な結果を分析する。 効果を28個の完全に解釈可能な重みパラメータを使って有害度スコアに集約する。
  論文  参考訳（メタデータ） (2024-10-22T03:38:37Z)
• A Counterfactual Safety Margin Perspective on the Scoring of Autonomous Vehicles' Riskiness [52.27309191283943]
  本稿では,異なるAVの行動のリスクを評価するためのデータ駆動型フレームワークを提案する。 本稿では,衝突を引き起こす可能性のある名目行動から最小限の偏差を示す,対実的安全マージンの概念を提案する。
  論文  参考訳（メタデータ） (2023-08-02T09:48:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。