論文の概要: ShieldVLA: Feasibility-Aware Safety Alignment for Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2609.13231v1
• Date: Wed, 02 Sep 2026 10:10:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 16:32:15.662714
• Title: ShieldVLA: Feasibility-Aware Safety Alignment for Vision-Language-Action Models
• Title（参考訳）: ShieldVLA:ビジョン・ランゲージ・アクションモデルのための可能性を考慮した安全アライメント
• Abstract要約: ShieldVLAは、Hamilton-Jacobi (HJ)リーチビリティに基づいた、VLAモデルの安全性に配慮した微調整フレームワークである。 視覚的観察からHJ到達可能性値関数のモデル自由近似を学習する。 累積安全性コストを平均で57%削減し、SafeVLAよりも+0.13向上する。
• 参考スコア（独自算出の注目度）: 0.8892547811987671
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Vision-Language-Action (VLA) models demonstrate strong generalization in robotic manipulation and navigation, but existing fine-tuning methods provide limited safety guarantees. Current approaches primarily rely on Lagrangian optimization that enforces safety through soft penalties on expected cumulative cost, often resulting in residual constraint violations or overly conservative behavior. Moreover, learning safety in visual domains is challenging due to the absence of dense per-step safety annotations. We propose ShieldVLA, a safety-aligned fine-tuning framework for VLA models based on Hamilton-Jacobi (HJ) reachability. ShieldVLA learns a model-free approximation of the HJ reachability value function directly from visual observations to estimate the safe operating region. The learned safety critic gates policy optimization by separating reward maximization within feasible regions from recovery near unsafe states, avoiding persistent reward-cost trade-offs. To enable scalable supervision in visual environments, we introduce rubric-based VLM safety scores that convert semantic safety feedback into structured critic targets without requiring manual cost labels. Across five navigation and manipulation benchmarks spanning multiple VLA backbones, ShieldVLA reduces cumulative safety cost by 57% on average and improves task success rate by +0.13 over SafeVLA.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、ロボット操作とナビゲーションにおいて強力な一般化を示すが、既存の微調整手法は安全性の保証を限定している。 現在のアプローチは主に、期待される累積コストにソフトペナルティを通じて安全性を強制するラグランジアン最適化に依存しており、しばしば残留的な制約違反や過度に保守的な行動をもたらす。 さらに、ステップごとの安全性アノテーションがないため、視覚領域での学習の安全性は困難である。 ハミルトン-ヤコビ(HJ)リーチビリティに基づくVLAモデルのための安全整列細調整フレームワークであるShieldVLAを提案する。 ShieldVLAは、視覚的観察からHJ到達可能性値関数のモデルフリー近似を学習し、安全な動作領域を推定する。 学習した安全評論家は、不安全状態に近い回復から、実行可能領域内の報酬最大化を分離し、永続的な報酬コストのトレードオフを避けることで、政策の最適化をゲートする。 視覚環境におけるスケーラブルな監視を実現するために,手作業によるコストラベルを必要とせず,セマンティックな安全性フィードバックを構造化された批評家の目標に変換するルーリックベースのVLM安全スコアを導入する。 複数のVLAバックボーンにまたがる5つのナビゲーションおよび操作ベンチマークで、ShieldVLAは、累積安全性コストを平均で57%削減し、SafeVLAよりもタスク成功率を+0.13向上させた。

関連論文リスト

• ForesightSafety-VLA: A Unified Diagnostic Safety Benchmark for Vision-Language-Action Models [7.1396544907031165]
  本稿では,視覚自明な動作(VLA)システムにおいて,安全性を主要な評価対象とする診断ベンチマークであるForesightSafety-VLAを紹介する。 物理的相互作用安全性(セーフコア)、命令側安全(セーフラング)、知覚側安全(セーフビジョン)を対象とする13カテゴリーの安全分類を定義する。 我々は,RoboTwinの66の安全拡張ベースシナリオを5つの実施形態でインスタンス化し,代表VLAベースラインについて報告する。
  論文  参考訳（メタデータ） (2026-06-25T14:19:36Z)
• VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
  Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。 VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。 目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
  論文  参考訳（メタデータ） (2026-06-02T17:42:17Z)
• OOD-MMSafe: Advancing MLLM Safety from Harmful Intent to Hidden Consequences [64.01706941950489]
  現在の安全パラダイムは、主に悪意のある意図や状況違反をターゲットとしている。 我々は,自律型および実施型エージェントのロバスト展開に不可欠なパラダイムである,結果駆動型安全に向けた安全フロンティアのシフトを提案する。 本稿では,トークンレベルの自己蒸留報酬の動的参照として,モデル固有の推論を統合したCASPO(Consequence-Aware Safety Policy Optimization)フレームワークを開発する。
  論文  参考訳（メタデータ） (2026-03-10T14:16:43Z)
• Breaking the Safety-Capability Tradeoff: Reinforcement Learning with Verifiable Rewards Maintains Safety Guardrails in LLMs [3.198812241868092]
  検証可能な報酬(RLVR)による強化学習は、客観的に測定可能なタスクのモデルを最適化する有望な代替手段として登場した。 RLVRにおける安全特性の総合的・実証的な分析を行った。 実証実験により,RLVRは安全ガードレールの維持・改善を図りながら推論能力を同時に向上できることを示す。
  論文  参考訳（メタデータ） (2025-11-26T04:36:34Z)
• SaFeR-VLM: Toward Safety-aware Fine-grained Reasoning in Multimodal Models [66.71948519280669]
  MLRM(Multimodal Large Reasoning Models)は、クロスモーダルな推論を示すが、しばしば敵のプロンプトによる安全性のリスクを増幅する。 既存の防御は主に出力レベルで動作し、推論プロセスを制約せず、モデルは暗黙のリスクに置かれる。 4つのコンポーネントを統合し,表面レベルのフィルタリングを超える動的かつ解釈可能な安全性決定をサポートするSaFeR-VLMを提案する。
  論文  参考訳（メタデータ） (2025-10-08T10:39:12Z)
• HoliSafe: Holistic Safety Benchmarking and Modeling for Vision-Language Model [58.12612140992874]
  我々は、安全で安全でない5つの画像テキストの組み合わせにまたがる、全体的な安全データセットとベンチマークである textbfHoliSafeを紹介した。 また,入力画像の有害性を評価するために,視覚ガードモジュール(VGM)を用いて,VLMの安全性を高めるための新しいモジュラーフレームワークを提案する。 実験により、HoliSafeでトレーニングされたVGMを使用したSafe-VLMは、複数のVLMベンチマークで最先端の安全性能を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-06-05T07:26:34Z)
• SafeVLA: Towards Safety Alignment of Vision-Language-Action Model via Constrained Learning [30.037309138373754]
  視覚言語アクションモデル(VLA)は、汎用的なロボットポリシーとしての可能性を示している。 これらのモデルは、環境、ロボット自身、人間への危害のリスクを含む、現実世界の展開中に極端な安全上の課題を生じさせる。 我々は、ISA(Integrated safety approach)を探求し、安全要件を体系的にモデル化し、多様な安全でない振る舞いを積極的に引き出すことによって、この問題に対処する。
  論文  参考訳（メタデータ） (2025-03-05T13:16:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。