論文の概要: OGAM: Connecting Systematic Testing to Runtime Assurance through Object-Grounded Attention Monitoring for VLA Policies
- arxiv url: http://arxiv.org/abs/2610.05878v1
- Date: Mon, 05 Oct 2026 06:49:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 03:33:32.498784
- Title: OGAM: Connecting Systematic Testing to Runtime Assurance through Object-Grounded Attention Monitoring for VLA Policies
- Title（参考訳）: OGAM: VLAポリシのオブジェクト周囲のアテンション監視を通じて,システマティックテストと実行保証を接続する
- Abstract要約: ベンチマークはビジョンアクション(VLA)ポリシーをほとんど標準的な命令に公開するが、徹底的なデプロイメントテストは不可能である。
我々は,OGAM(Object-Grounded Attention Monitoring)を導入する。
4つの方針の中で、OGAMは20代予算で5-12秒の中央値で、失敗エピソードの87-100%を停止させる。
- 参考スコア（独自算出の注目度）: 6.108270362326288
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Benchmarks expose vision-language-action (VLA) policies to few canonical instructions, while exhaustive deployment testing is impossible. We introduce Object-Grounded Attention Monitoring (OGAM), connecting systematic testing to runtime assurance: testing reveals attention divergence between successful and failed executions, and OGAM uses this signal to stop failures beyond the finite suite. We generate scene-grounded instructions through pairwise combinations of action templates and objects, and separately test meaning-preserving paraphrases. All 87 out-of-benchmark cases reveal problematic behavior across OpenVLA, OpenVLA-OFT, UniVLA, and $π_{0.5}$: none completes any of the 24 feasible instructions, while infeasible or hazardous requests also trigger behavior substitution. At each action query, we project gradient-weighted visual attention through object masks and group it by instruction role for comparison across tasks and policies. Dynamic time warping aligns this course with a successful reference despite speed differences; conformal calibration on successful episodes sets the early-stopping threshold for sustained deviations, with a nominal false-stop target of $α=0.05$. Across four policies, OGAM stops 87-100% of failed episodes at median times of 5-12s within a 20s budget, with observed false-stop rates of 3-5%, without failure-labeled training. Finite testing thus identifies attention patterns that support online intervention before failure fully unfolds.
- Abstract（参考訳）: ベンチマークは、視覚言語アクション(VLA)ポリシーを少数の標準命令に公開するが、徹底的なデプロイメントテストは不可能である。
我々は、OGAM(Object-Grounded Attention Monitoring)を導入し、システマティックテストとランタイム保証を接続する。
アクションテンプレートとオブジェクトのペア結合によるシーングラウンド命令を生成し、意味保存パラフレーズを別々にテストする。
87のアウト・オブ・ベンチマークのケースはすべて、OpenVLA、OpenVLA-OFT、UniVLA、および$π_{0.5}$にまたがる問題行動を明らかにしている。
各アクションクエリでは、オブジェクトマスクを通して勾配重み付けされた視覚的注意を投影し、タスクとポリシーの比較のために命令ロールでグループ化する。
ダイナミック・タイム・ワープ(英語版)は、スピードの違いにもかかわらずこのコースを成功させ、成功エピソードのコンフォメーション・キャリブレーションによって、持続的な逸脱の早期停止しきい値が設定され、名目上の偽停止ターゲットは$α=0.05$である。
4つの方針の中で、OGAMは20代予算で5-12秒の中央値で失敗エピソードの87-100%を停止させる。
これにより、ファイナイトテストは、障害が完全に展開する前にオンライン介入をサポートする注意パターンを特定する。
関連論文リスト
- LIBERO-MAX: Do Robot Policies Adapt When the World Changes? [61.52324972910026]
多くのシミュレーションロバストネスベンチマークは、リセット時に外部条件を修正し、この時間的課題を過小評価する。
LIBERO-MAXは、幾何学、観察、外観、乱雑、経路の8種類の変化にまたがる8000のペアケースのベンチマークである。
各ペアはタスク実行と、タスク、初期状態、ポリシーシード、修正前のアクションシーケンスを保持する中タスクイベントとを比較します。
論文 参考訳（メタデータ） (2026-09-29T02:12:26Z) - FailureSpot: Label-Efficient Timestamp-Level Failure Detection for Vision-Language-Action Models [12.030216781017558]
視覚言語アクション(VLA)ポリシーは、長時間の水平実行中に予測不可能に失敗する可能性がある。
本稿では、まずラベルのないVLAアクションチャンクを利用して弱い監視信号を構築するデータ効率のフレームワークを提案する。
次に、アクティブラーニングを使用して、タイムスタンプレベルのアノテーションに対して最も不確実な軌跡のみを選択する。
論文 参考訳（メタデータ） (2026-09-03T00:04:06Z) - GUARD: Grounding Uncertainty and Ablation-Based Risk Detection for Diffusion-Based VLAs [0.0]
拡散に基づく視覚言語アクション(VLA)ポリシーは、そのタスクを定義する視覚的および言語的エビデンスに、その予測が弱く根付いていても、妥当なアクションを生成することができる。
我々は、事前訓練されたポリシーを変更することなく、このグラウンドを計測するテスト時間障害検出手法であるGUARDを紹介する。
論文 参考訳（メタデータ） (2026-08-05T06:48:15Z) - TrustVLA: Mechanism-Guided Inference-Time Defense Against Vision-Language-Action Backdoors [54.12833308568015]
VLA(Vision-Language-Action)モデルは、エンドユーザが監査できないパイプラインを通じてデプロイされる。
小さな視覚トリガーは、障害が観測可能である前に、長い水平ロボットポリシーをリダイレクトする。
個別に提案した2つのVLA攻撃を通してこのギャップについて検討した。
論文 参考訳（メタデータ） (2026-07-14T09:43:52Z) - VLA-FAIL: Efficient Task Failure Detection for Finetuned Vision-Language-Action Models [19.137291311347788]
視覚言語アクションモデル(VLA)は、多くのロボットタスクで最先端のパフォーマンスを達成するが、それでも、アウト・オブ・ディストリビューションのシナリオでは予測不可能に振る舞うことができる。
本稿では、2つの新しい障害検出器を最小限のオーバーヘッドで結合するフレームワークであるVLA-FAILを提案する。
論文 参考訳（メタデータ） (2026-06-19T12:51:21Z) - Hide-and-Seek in Trajectories: Discovering Failure Signals for VLA Runtime Monitoring [35.34120853605602]
textbf-and-Seekは、粗い教師付き学習問題としてVLA障害検出を定式化するフレームワークである。
我々は、LIBERO、VLABench、および3つの代表的なVLAポリシーをまたいだ現実世界のロボットプラットフォームについて、Hie-and-Seekの評価を行った。
論文 参考訳（メタデータ） (2026-05-29T04:40:12Z) - VisualThink-VLA: Visual Intermediate Reasoning for Effective and Low-Latency Vision-Language-Action Policies [58.65913948991329]
正確な低レイテンシVLAポリシーのためのビジュアル中間推論フレームワークであるVISUALTHINK-VLAを提案する。
私たちのブートストラップ哲学は、効果的な視覚的思考でアクションを導くことです。
これは、デコードオーバーヘッドを回避しながら空間的精度を保った、コンパクトなビジュアル・エビデンスインターフェースを通じてアクション予測をブートストラップする。
論文 参考訳（メタデータ） (2026-05-28T14:36:53Z) - How VLAs Fail Differently: Black-Box Action Monitoring Reveals Architecture-Specific Failure Signatures [0.0]
VLAアーキテクチャは、モーター・コマンドレベルで根本的に異なる予測可能な方法で失敗する。
我々は、よく知られた離散/連続的なVLAの区別の結果を定量化する。
論文 参考訳（メタデータ） (2026-05-27T16:44:55Z) - Evaluating Prompt Injection Defenses for Educational LLM Tutors: Security-Usability-Latency Trade-offs [51.56484100374058]
ガードレールの設計には、敵の堅牢性、良質なタスクのユーザビリティ、応答レイテンシの明確なトレードオフが伴う。
決定論的パターンフィルタ,構造検証,コンテキストサンドボックス,セッションレベルの動作チェックを組み合わせた,ドメイン固有のマルチレイヤセーフガードパイプラインの評価を行った。
NeMoは16.22パーセントのFPRと1.5パーセントのレイテンシで0パーセントのバイパスに達し、Prompt Guardは38.48パーセントのFPRと3.60パーセントのバイパスを実現している。
論文 参考訳（メタデータ） (2026-03-29T18:52:01Z) - TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。
本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。
我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
論文 参考訳（メタデータ） (2026-03-25T17:56:32Z) - Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。
内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
論文 参考訳（メタデータ） (2026-03-13T20:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。