論文の概要: Early Warning Signals for OpenVLA Failure under Visual Distribution Shift

• arxiv url: http://arxiv.org/abs/2606.29699v1
• Date: Mon, 29 Jun 2026 02:07:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.020033
• Title: Early Warning Signals for OpenVLA Failure under Visual Distribution Shift
• Title（参考訳）: 視覚分布シフトによるOpenVLA障害の早期警戒信号
• Authors: Dipesh Tharu Mahato, Rachel Ren,
• Abstract要約: 視覚言語行動モデル(Vision Language Action Model)は、知覚、言語基盤、制御を一つのポリシーで組み合わせる。 我々は, LIBERO 操作ロールアウトにおいて, OpenVLA フィードフォワードアクティベーションが, 短期的タスク障害に関する情報を線形にデオード可能な情報を含むかどうかを検証した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision Language Action models combine perception, language grounding, and control in a single policy, but their failures are hard to diagnose once visual conditions shift. We test whether OpenVLA feedforward activations contain linearly decodable information about near term task failure in LIBERO manipulation rollouts. The policy is fixed throughout. We log internal activations during execution and fit lightweight monitors after the rollouts are collected. Occlusion is the main controlled stress test. It reduces OpenVLA success from $57\%$ to $17\%$ over $100$ episodes per condition. Under this shift, a logistic probe at layer 16 reaches AUROC $0.972$ and AUPRC $0.352$ for predicting failure within a $15$ step horizon. It outperforms both a mean difference direction and an action disagreement baseline. A sparse layer sweep finds uneven decodability across depth: layer 16 is strongest among the tested layers, layer 8 remains informative, and layer 10 is weaker. To check whether the monitor is just an occlusion detector, we also evaluate color shift and camera jitter without refitting. Color shift produces no failures in this setting, so it is a benign control rather than a failure benchmark. Camera jitter does induce failures, and the occlusion trained monitor remains above random. The result is deliberately limited: OpenVLA internal states contain failure relevant structure under controlled perceptual shift, but these experiments do not establish a causal mechanism, task held out generalization, or a deployable recovery system.
• Abstract（参考訳）: 視覚言語アクションモデルは、知覚、言語接地、制御を一つのポリシーで組み合わせるが、視覚条件が変化すると、その失敗を診断することは困難である。 我々は, LIBERO 操作ロールアウトにおいて, OpenVLA フィードフォワードアクティベーションが, 短期的タスク障害に関する情報を線形にデオード可能な情報を含むかどうかを検証した。 その方針は至るところで修正されている。 実行中に内部のアクティベーションをログし、ロールアウトが収集された後、軽量モニタに適合します。 咬合は主制御ストレステストである。 OpenVLAの成功率を57ドルから17ドルに下げる。 このシフトの下で、第16層のロジスティックプローブがAUROC$0.972$に到達し、AUPRC$0.352$に到達して15ドルのステップ水平線内で故障を予測する。 平均差方向とアクション不一致ベースラインの両方を上回る。 スパース層スイープは、試験層のうち、層16が最強であり、層8が報知され、層10が弱くなる。 また、モニターが単に閉塞検知器であるかどうかを確認するために、色ずれやカメラジッタを調整せずに評価する。 カラーシフトは、この設定で失敗を発生しないため、失敗ベンチマークよりも良質な制御である。 カメラジッタは障害を発生させ、オクルージョントレーニングされたモニターは依然としてランダムな状態のままである。 OpenVLAの内部状態は、制御された知覚シフトの下での障害関連構造を含むが、これらの実験は因果メカニズム、一般化を保留するタスク、デプロイ可能なリカバリシステムを確立しない。

関連論文リスト

• Leverage Is Not Reach: A Control-Window Law for Single-Neuron Steering in Language Models [1.7259824817932294]
  我々は単一ニューロンステアリングのための予算正規化制御ウィンドウフレームワークを開発した。 1つの書き込み方向に沿った線量も1つの制御座標に減少する。 コヒーレント制御は、行動トリガーが崩壊天井の下にあるときに存在する。
  論文  参考訳（メタデータ） (2026-06-18T06:25:18Z)
• How VLAs Fail Differently: Black-Box Action Monitoring Reveals Architecture-Specific Failure Signatures [0.0]
  VLAアーキテクチャは、モーター・コマンドレベルで根本的に異なる予測可能な方法で失敗する。 我々は、よく知られた離散/連続的なVLAの区別の結果を定量化する。
  論文  参考訳（メタデータ） (2026-05-27T16:44:55Z)
• Capability and Robustness Cannot Both Be Free: An Information-Theoretic Bound for Vision-Language-Action Models [0.0]
  VLA(Vision-Language-Action)モデルはクリーンな入力で高い成功率に達するが、小さな逆方向の摂動で崩壊する。 PGD攻撃は、OpenVLA-7BのLIBEROの成功を95%ドルから5%以下に下げることを示す。 任意のVLAポリシーに対して、capability $I(Astar;Api)$と robustness $I(Api;Atildepi)-I(Api;)$ sum to at least $H(Astar)+I(X;Xt)
  論文  参考訳（メタデータ） (2026-05-25T14:16:57Z)
• Testing the Test: Score-Direction Instability in Class-Split Anomaly Detection [56.362776482614976]
  データセット内のクラス分割評価は、完全に非条件のアウト・オブ・ディストリビューション異常検出のプロキシとして広く利用されている。 このプロトコルは、保持された異常クラスが表現空間の通常の混合と重なり合う場合、悪用される可能性があることを示す。 そこで本研究では,Fashion-MNIST,CIFAR-10,Imagenette間のスコア方向不安定性を予測する。
  論文  参考訳（メタデータ） (2026-05-23T06:27:42Z)
• Architectural Observability Collapse in Transformers [0.0]
  トレーニングは、出力信頼が露呈しない内部的な意思決定品質のシグナルを保持します。 信頼制御は、平均60.3%の生プローブ信号を6つのファミリーの14モデルで吸収する。 Llama 3.1 8Bは、同じ32層、32頭、4096面の形状で崩壊する。
  論文  参考訳（メタデータ） (2026-04-27T02:39:02Z)
• Learning Uncertainty from Sequential Internal Dispersion in Large Language Models [52.29267172760918]
  不確実性推定は、大規模言語モデルにおける幻覚を検出するための有望なアプローチである。 最近の手法は一般に不確実性を推定するために内部状態のモデルに依存する。 本稿では,教師付き幻覚検出フレームワークであるシークエンシャル内部変数表現(SIVR)を提案する。
  論文  参考訳（メタデータ） (2026-04-17T06:31:29Z)
• Unified Unsupervised Anomaly Detection via Matching Cost Filtering [113.43366521994396]
  教師なし異常検出(UAD)は、通常のトレーニングデータのみを用いて画像レベルの異常と画素レベルの異常を識別することを目的としている。 UADモデルの異常コスト量を補正するための汎用的なポストホック精錬フレームワークであるUnified Cost Filtering (UCF) を提案する。
  論文  参考訳（メタデータ） (2025-10-03T03:28:18Z)
• Black-Box Diagnosis and Calibration on GAN Intra-Mode Collapse: A Pilot Study [116.05514467222544]
  現在、GAN(Generative Adversarial Network)は驚くべきリアリズムの画像を生成することができる。 懸念の1つは、最先端のGANの学習分布が依然としてモード崩壊に悩まされているかどうかである。 本稿では,GANのモード内崩壊を診断し,新たなブラックボックス設定でそれを校正する方法について検討する。
  論文  参考訳（メタデータ） (2021-07-23T06:03:55Z)
• Detecting Rewards Deterioration in Episodic Reinforcement Learning [63.49923393311052]
  多くのRLアプリケーションでは、トレーニングが終了すると、エージェント性能の劣化をできるだけ早く検出することが不可欠である。 我々は,各エピソードにおける報酬が独立でもなく,同一に分散した,マルコフでもない,エピソード的枠組みを考察する。 平均シフトは、時間信号の劣化(報酬など)に対応する方法で定義し、最適な統計的パワーでこの問題の試行を導出する。
  論文  参考訳（メタデータ） (2020-10-22T12:45:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。