論文の概要: Safe Vision Language Action Models via Barrier Enhanced Flow Matching

• arxiv url: http://arxiv.org/abs/2607.29569v1
• Date: Fri, 31 Jul 2026 15:56:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.791184
• Title: Safe Vision Language Action Models via Barrier Enhanced Flow Matching
• Title（参考訳）: バリア強化フローマッチングによる安全な視覚言語行動モデル
• Abstract要約: 本稿では,フローマッチング生成モデルと公式な制御バリア関数の安全性を保証するモジュール型推論フレームワークを提案する。 滑らかなLog-Sum-Exponentialアグリゲーションバリアを利用することで、アクションチャンク全体の安全性を強制する。 2つのロボット操作プラットフォームと2次元ナビゲーションベンチマークによるアプローチの検証を行い、モデルの成功率を低下させることなく、信頼性の高い安全性を実現することを検証する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: This article presents a modular inference framework that integrates Flow Matching generative models with formal Control Barrier Function (CBF) safety guarantees. Unlike existing methods that apply external safety filters to a model's final output, our approach modifies the Flow Matching denoising process within the model to inherently generate safe trajectories. By employing a smooth Log-Sum-Exponential aggregate barrier, we enforce safety over entire action chunks. This aggregate barrier ensures a minimal increase in computational overhead and does not alter the semantic intent of the model. We show that, within the proposed framework, the 2-Wasserstein distance between the generated distribution and the target distribution remains bounded. Our method eliminates the need for safety-specific datasets or costly model retraining, providing a versatile solution for safe inference. We validate the approach on two robotic manipulation platforms and a 2D navigation benchmark, verifying that our framework achieves reliable safety without degrading the success rate of the model.
• Abstract（参考訳）: 本稿では,フローマッチング生成モデルと形式的制御バリア関数(CBF)の安全性を保証するモジュール型推論フレームワークを提案する。 モデルの最終出力に外部安全フィルタを適用する既存の方法とは異なり,本手法では,モデル内のフローマッチング記述プロセスを変更して,本質的に安全な軌跡を生成する。 滑らかなLog-Sum-Exponentialアグリゲーションバリアを利用することで、アクションチャンク全体の安全性を強制する。 この集約バリアにより、計算オーバーヘッドの最小化が保証され、モデルのセマンティックな意図が変更されない。 提案手法では, 生成した分布と対象分布との2-ワッサーシュタイン距離が有界であることを示す。 提案手法は,安全仕様データセットやコストのかかるモデル再訓練の必要性を排除し,安全な推論のための汎用的なソリューションを提供する。 2つのロボット操作プラットフォームと2次元ナビゲーションベンチマークによるアプローチの検証を行い、モデルの成功率を低下させることなく、信頼性の高い安全性を実現することを検証する。

関連論文リスト

• CrACK: Adversarial Attacks on Cross-Model Consistency in Collaborative Vision Foundation Models [16.64134816858303]
  CLIP、SAM、DINOといったVision Foundation Modelを統合する、トレーニング不要のコラボレーティブパイプラインは、強力なオープン語彙密度予測を実現する。 入力画素,モデル重み,トレーニングデータを変更することなく,このインターフェースを利用する推論時攻撃であるCrACKを提案する。 実験により、CrACKは破滅的な劣化を引き起こすが、個々のモデルはそのまま独立して出力を出力し続ける。
  論文  参考訳（メタデータ） (2026-09-07T13:47:33Z)
• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Provably Safe Generative Sampling with Constricting Barrier Functions [1.8377602530643375]
  フローベース生成モデルは複雑なデータ分布の学習において顕著な成功を収めた。 本稿では,事前学習した生成モデルのオンラインシールドとして機能する安全フィルタリングフレームワークを提案する。 本機構は, 各サンプリングステップにおいて, 元のモデルからの分布シフトを最小限に抑えながら, 安全なサンプリングを保証する。
  論文  参考訳（メタデータ） (2026-02-24T23:06:58Z)
• BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
  BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。 BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-02-23T18:19:46Z)
• LookAhead Tuning: Safer Language Models via Partial Answer Previews [62.529794567687354]
  ファインチューニングにより、大きな言語モデルは特定のドメインに適応できるが、しばしば以前に確立された安全アライメントを損なう。 LookAhead Tuningは、微調整時の安全性を維持する軽量で効果的なデータ駆動型アプローチである。
  論文  参考訳（メタデータ） (2025-03-24T18:11:42Z)
• From Uncertain to Safe: Conformal Fine-Tuning of Diffusion Models for Safe PDE Control [16.249515106834355]
  偏微分方程式(PDE)制約制御のための深層学習が注目されている。 我々は,安全制約下での最適制御を実現するために,PDE制御のためのセーフ拡散モデル(SafeDiffCon)を提案する。 我々は,1次元バーガー方程式,2次元非圧縮流体,制御核融合問題という3つの制御課題についてSafeDiffConを評価した。
  論文  参考訳（メタデータ） (2025-02-04T10:42:30Z)
• What Makes and Breaks Safety Fine-tuning? A Mechanistic Study [64.9691741899956]
  安全性の微調整は、大規模な言語モデル(LLM)を、安全なデプロイメントのための人間の好みに合わせるのに役立つ。 安全でない入力の健全な側面をキャプチャする合成データ生成フレームワークを設計する。 これを用いて,3つのよく知られた安全微調整手法について検討する。
  論文  参考訳（メタデータ） (2024-07-14T16:12:57Z)
• SafeDiffuser: Safe Planning with Diffusion Probabilistic Models [97.80042457099718]
  拡散モデルに基づくアプローチは、データ駆動計画において有望であるが、安全保証はない。 我々は,拡散確率モデルが仕様を満たすことを保証するために,SafeDiffuserと呼ばれる新しい手法を提案する。 提案手法は,迷路経路の生成,足歩行ロボットの移動,空間操作など,安全な計画作業の一連のテストを行う。
  論文  参考訳（メタデータ） (2023-05-31T19:38:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。