論文の概要: Neuro-Symbolic Safety Guidance for Vision-Language-Action Models via Constrained Flow Matching

• arxiv url: http://arxiv.org/abs/2607.01378v1
• Date: Wed, 01 Jul 2026 18:41:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-03 19:45:08.555859
• Title: Neuro-Symbolic Safety Guidance for Vision-Language-Action Models via Constrained Flow Matching
• Title（参考訳）: 拘束フローマッチングによる視覚・言語・行動モデルのための神経・身体安全誘導
• Abstract要約: 既存の安全対策は、ロボットの次の動作による衝突を防ぐだけである。 本稿では,フローマッチングに基づくVLAのニューラルネットワークによる安全誘導機構を提案する。 本手法は, 衝突回避率82.8%, タスク成功率81.6%, それぞれ6.3%, 19.8%向上した。
• 参考スコア（独自算出の注目度）: 11.335076684744628
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-Language-Action (VLA) models have demonstrated promising generalization capabilities across robotic manipulation tasks, yet their real-world deployment remains limited by the lack of effective safety measures. Specifically, existing safety measures only prevent collisions caused by the robot's next action. In this paper, we propose a neuro-symbolic safety guidance mechanism for flow matching based VLAs that enables predictive collision avoidance. Flow matching based VLAs determine the next actions by predicting a trajectory (a sequence of actions) through an iterative neural flow matching process. Our method formulates safety enforcement as a minimum-norm constrained optimization problem that corrects safety violations during the denoising process of noisy intermediate trajectory predictions. By analyzing predicted trajectories and applying corrections during iterative denoising, our approach anticipates collisions before they become unavoidable. This interleaving of symbolic constraint satisfaction with neural trajectory generation enables predictive collision avoidance rather than reactive intervention. On the SafeLIBERO benchmark, our method achieves 82.8% collision avoidance and 81.6% task success, a 6.3% and 19.8% improvement respectively over single-step methods, with the largest gains on long-horizon tasks where compounding distribution shift is most pronounced. Video demonstrations of our approach are included on our project page at https://willenglish.tech/SafetyGuidedFlowMatching/.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、ロボット操作タスク全体にわたって有望な一般化能力を示しているが、実際の展開は効果的な安全対策の欠如によって制限されている。 特に、既存の安全対策は、ロボットの次のアクションによる衝突を防ぐだけである。 本稿では,フローマッチングに基づくVLAのニューラルネットワークによる安全誘導機構を提案する。 フローマッチングに基づくVLAは、反復的ニューラルフローマッチングプロセスを通じて軌道(一連の動作)を予測することによって次の動作を決定する。 提案手法は,ノイズのある中間軌道予測の復調過程において,安全違反を補正する最小限の制約付き最適化問題として安全執行を定式化する。 提案手法は,予測軌道を解析し,反復的復調中に補正を加えることにより,衝突が回避不能になる前に衝突を予測できる。 この神経軌道生成による象徴的制約満足度の交差は、反応的介入よりも予測的衝突回避を可能にする。 SafeLIBERO ベンチマークでは, 衝突回避率82.8%, タスク成功率81.6%, シングルステップ法よりも6.3%, 19.8%向上し, 複合分散シフトが最も顕著な長軸タスクでは最大である。 私たちのアプローチのデモビデオは、プロジェクトのページhttps://willenglish.tech/SafetyGuidedFlowMatching/.comに掲載されています。

関連論文リスト

• The Geometry of Refusal: Linear Instability in Safety-Aligned LLMs [1.4323566945483497]
  我々は、"拒絶方向"を分離するゼロ最適化フレームワークであるContrastive Logit Steering (CLS)を紹介した。 CLSは出力分布を直接操作し、アライメントの診断プローブとして機能する。 7つのモデルファミリーに関する実験により、安全実装がアーキテクチャ上決定論的であることが判明した。
  論文  参考訳（メタデータ） (2026-06-21T22:04:48Z)
• DTP-Attack: A decision-based black-box adversarial attack on trajectory prediction [8.287137851936523]
  軌道予測システムは自動運転車の安全性に不可欠である。 軌道予測システムは、壊滅的な交通行動の誤解釈を引き起こす可能性のある敵攻撃に対して脆弱である。 DTP-Attackは、軌道予測システムに適した決定ベースのブラックボックス対逆攻撃フレームワークである。
  論文  参考訳（メタデータ） (2026-03-27T14:30:37Z)
• Shifting Uncertainty to Critical Moments: Towards Reliable Uncertainty Quantification for VLA Model [10.781664119473966]
  本稿では,ロールアウトの成功と失敗を予測するための統一的不確実性定量化手法を提案する。 本手法は, 故障予測精度を大幅に向上し, 故障検出のための信頼性の高い信号を得る。
  論文  参考訳（メタデータ） (2026-03-18T22:52:03Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
  ResADは正規化された残留軌道モデリングフレームワークである。 学習タスクを再編成し、慣性参照からの残留偏差を予測する。 NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
  論文  参考訳（メタデータ） (2025-10-09T17:59:36Z)
• Embedding Poisoning: Bypassing Safety Alignment via Embedding Semantic Shift [23.0914017433021]
  この研究は、モデルウェイトや入力テキストを変更することなく、埋め込み層出力に直接知覚不能な摂動を注入することで脆弱性を利用する、新しいデプロイメントフェーズ攻撃のクラスを特定する。 本稿では,リスクトークンに関連付けられた埋め込みに注意深く最適化された摂動を導入する,実用的なモデルに依存しないフレームワークである検索ベースの埋め込みポジショニングを提案する。
  論文  参考訳（メタデータ） (2025-09-08T05:00:58Z)
• Rethinking Safety in LLM Fine-tuning: An Optimization Perspective [56.31306558218838]
  我々は、本質的にトレードオフではなく、最適化の貧弱な選択が、しばしば安全上の問題を引き起こすことを示し、敵のプロンプトに対する有害な応答として測定する。 安全性能を保ったパラメータ空間における簡易指数移動平均(EMA)運動量法を提案する。 複数のデータセットにまたがるLlamaファミリーに関する実験は、安全性の問題が特別な介入なしに回避できることを実証している。
  論文  参考訳（メタデータ） (2025-08-17T23:46:36Z)
• HybridVLA: Collaborative Diffusion and Autoregression in a Unified Vision-Language-Action Model [54.64088247291416]
  操作ポリシー設計の基本的な目的は、ロボットに人間の指示を理解し、シーンの手がかりを推論し、動的な環境で一般化されたアクションを実行することである。 近年の自己回帰的視覚言語行動(VLA)法は、視覚言語モデル(VLM)から常識推論能力を継承し、次の行動予測を行う。 拡散に基づく行動の連続的な性質と自己回帰の文脈的推論を吸収する統合フレームワークであるHybridVLAを紹介する。
  論文  参考訳（メタデータ） (2025-03-13T17:59:52Z)
• Meta-Learning Priors for Safe Bayesian Optimization [72.8349503901712]
  メタ学習アルゴリズムであるF-PACOHを構築し,データ不足の設定において確実な定量化を実現する。 コアコントリビューションとして、安全に適合した事前をデータ駆動で選択するための新しいフレームワークを開発する。 ベンチマーク関数と高精度動作系において,我々のメタ学習先行が安全なBOアプローチの収束を加速することを示す。
  論文  参考訳（メタデータ） (2022-10-03T08:38:38Z)
• Log Barriers for Safe Black-box Optimization with Application to Safe Reinforcement Learning [72.97229770329214]
  本稿では,学習時の安全性維持が不可欠である高次元非線形最適化問題に対する一般的なアプローチを提案する。 LBSGDと呼ばれるアプローチは、慎重に選択されたステップサイズで対数障壁近似を適用することに基づいている。 安全強化学習における政策課題の違反を最小限に抑えるためのアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2022-07-21T11:14:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。