論文の概要: Route-Guided CBF-QP Repair for Safe Vision-Language-Action Models
- arxiv url: http://arxiv.org/abs/2611.01713v1
- Date: Sun, 01 Nov 2026 09:02:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 15:08:18.522726
- Title: Route-Guided CBF-QP Repair for Safe Vision-Language-Action Models
- Title(参考訳): 道路誘導CBF-QPによる安全な視線制御モデルの構築
- Abstract要約: 経路案内型CBF-QP修復は障害物周辺における進入帰着案内を生成する。
SafeLIBEROでは,AEGISと比較して衝突回避,タスク成功,SafeSuccessを改善する。
- 参考スコア(独自算出の注目度): 37.49320723894576
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Vision-language-action (VLA) models can generate task-oriented robot actions, but they do not guarantee safe execution in obstacle-rich manipulation scenes. Although CBF-QP safety filters can locally project unsafe actions into a safe set, such correction may push the robot away from the learned task trajectory and leave the VLA policy without a reliable recovery direction. We propose Route-Guided CBF-QP Repair, a post-hoc repair module that uses the short-horizon action chunk predicted by the VLA to detect blocked nominal trajectories and generate entry-exit-rejoin guidance around obstacles. The selected route is added to the CBF-QP objective as a soft guidance term, while the CBF safety constraint remains hard. On SafeLIBERO, our method improves collision avoidance, task success, and SafeSuccess compared with AEGIS. Our project page is available at GitHub.
- Abstract(参考訳): 視覚言語アクション(VLA)モデルはタスク指向のロボットアクションを生成することができるが、障害物の多い操作シーンにおける安全な実行を保証するものではない。
CBF-QP安全フィルタは、安全でない動作を安全なセットに局所的に投影することができるが、そのような修正は、ロボットを学習されたタスク軌跡から遠ざけ、信頼性の高い回復方向なしでVLAポリシーを離れる可能性がある。
本稿では,VLA が予測する短水平動作チャンクを用いて,ブロックされた名目軌道を検出し,障害物周辺への進入・帰着誘導を生成するポストホック修復モジュールである Route-Guided CBF-QP repair を提案する。
選択された経路は、CBF-QP目標にソフトガイダンス用語として付加され、CBFの安全制約は厳しいままである。
SafeLIBEROでは,AEGISと比較して衝突回避,タスク成功,SafeSuccessを改善する。
プロジェクトのページはGitHubで公開されている。
関連論文リスト
- BarrierFormer: Transformer-Guided Predictive Barrier Enforcement for Safe Robot Control [1.9116784879310025]
制御障壁関数(CBF)は、安全クリティカルなロボット工学における状態制約を符号化し、強制するための最も一般的なツールの1つである。
BarrierFormerは、モデルフリーの安全なポリシーを学ぶ際に、ロールアウトレベルのCBF制約を符号化するバリア管理型トランスフォーマーフレームワークである。
BarrierFormerは、既存の強化学習(RL)ベース、拡散ベース、MPCベース、トランスフォーマーベースの安全率と推論遅延のアプローチよりも優れていることを示す。
論文 参考訳(メタデータ) (2026-09-20T22:03:18Z) - Your Model Already Knows: Attention-Guided Safety Filter for Vision-Language-Action Models [25.34659221262947]
VLA(Vision-Language-Action)モデルでは、さまざまなロボット操作タスクにおいて、エンドツーエンドのパフォーマンスが著しく向上している。
既存の安全フィルタは、障害物とその位置を特定するために視覚言語モデル(VLM)をクエリすることで、この問題を回避している。
VLAモデル内の少数の注意点が、ポリシーがアプローチしようとする対象を確実に位置づけすることを発見した。
論文 参考訳(メタデータ) (2026-06-08T17:11:16Z) - Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
クロスモデル安全ステアリングのための最初のフレームワークを紹介する。
私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。
多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
論文 参考訳(メタデータ) (2026-06-03T18:00:04Z) - VLESA: Vision-Language Embodied Safety Agent for Human Activity Monitoring [60.53395558502203]
Vision-Language Embodied Safety Agent (VLESA)は、自我中心のビデオから人間の活動を監視する。
VLESAは、コンテキストに応じて同一のアクションが安全または危険である意図に依存した安全性に対処する。
目標を共同で推測し,映像から将来の行動を予測するための意図-行動予測エージェントを提案する。
論文 参考訳(メタデータ) (2026-06-02T17:42:17Z) - CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。
CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。
このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
論文 参考訳(メタデータ) (2026-04-10T09:41:21Z) - BarrierSteer: LLM Safety via Learning Barrier Steering [83.12893815611052]
BarrierSteerは、学習した非線形安全性制約を直接モデルの潜在表現空間に埋め込むことで、安全性を形式化する新しいフレームワークである。
BarrierSteerは、敵の成功率を大幅に低下させ、安全でない世代を減少させ、既存の手法より優れていることを示す。
論文 参考訳(メタデータ) (2026-02-23T18:19:46Z) - Designing Control Barrier Function via Probabilistic Enumeration for Safe Reinforcement Learning Navigation [55.02966123945644]
本稿では,ニューラルネットワーク検証技術を利用して制御障壁関数(CBF)とポリシー修正機構の設計を行う階層型制御フレームワークを提案する。
提案手法は,安全なCBFベースの制御層を構築するために使用される,安全でない操作領域を特定するための確率的列挙に依存する。
これらの実験は、効率的なナビゲーション動作を維持しながら、安全でない動作を補正する提案手法の能力を実証するものである。
論文 参考訳(メタデータ) (2025-04-30T13:47:25Z) - ASMA: An Adaptive Safety Margin Algorithm for Vision-Language Drone Navigation via Scene-Aware Control Barrier Functions [9.645098673995317]
VLNを運用するドローンプラットフォームについて検討し、新しいシーン認識CBFを定式化することによって安全性を向上させる。
CBFのないベースラインシステムは、コマンドを順序づけられたランドマークのシーケンスに変換するために、モーダルな注意を持つビジョンランゲージを使用する。
ASMAは移動物体を追跡し、シーン認識CBF評価をオンザフライで実行し、追加の制約として機能する。
論文 参考訳(メタデータ) (2024-09-16T13:44:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。