論文の概要: Are Vision-Language-Action Models Robust to One-Step Observation Perturbations?

• arxiv url: http://arxiv.org/abs/2609.32550v1
• Date: Sat, 26 Sep 2026 12:29:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 06:29:20.139138
• Title: Are Vision-Language-Action Models Robust to One-Step Observation Perturbations?
• Title（参考訳）: 視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線・視線
• Abstract要約: 本研究は,1エピソード毎に1ステップずつ適用される1ステップの摂動に対するロバスト性について検討する。 本稿では,以前に予測されたアクションチャンクとの整合性に基づいて実行長を動的に選択するCAREを提案する。 CAREは、摂動下でのみ短い実行長を選択することによって、クリーンなパフォーマンスを維持しながら、計算オーバーヘッドの少ない堅牢性を向上させる。
• 参考スコア（独自算出の注目度）: 5.650647159993238
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Understanding the safety risks of vision-language-action (VLA) models is essential for their deployment in the physical world. Existing safety research has mainly considered persistent perturbations that are applied continuously to observations throughout an episode. However, momentary observation corruption, in which observations are severely perturbed only briefly within an episode, remains an underexplored safety threat. To address this gap, this work investigates robustness to one-step perturbations applied at a single time step per episode. Our experiments reveal that these perturbations substantially degrade VLA performance and that their impact depends on the action chunk execution length. Based on them, we propose CARE, which dynamically selects the execution length based on consistency with the previously predicted action chunk. CARE improves robustness with low computational overhead while preserving clean performance by selecting shorter execution lengths only under perturbations.
• Abstract（参考訳）: 視覚言語アクション(VLA)モデルの安全性のリスクを理解することは、物理世界への展開に不可欠である。 既存の安全研究は、主にエピソードを通して観察に継続的に適用される永続的な摂動を考慮してきた。 しかし、エピソード内でのみ観察が厳しく乱される一時的な観察の腐敗は、未発見の安全性の脅威として残されている。 このギャップに対処するため、この研究はエピソード毎に1ステップずつ適用された1ステップの摂動に対する頑健さを調査する。 実験の結果、これらの摂動はVLAの性能を著しく低下させ、その影響はアクションチャンクの実行長に依存することが明らかとなった。 そこで本研究では,これまで予測されていた動作チャンクとの整合性に基づいて実行長を動的に選択するCAREを提案する。 CAREは、摂動下でのみ短い実行長を選択することによって、クリーンなパフォーマンスを維持しながら、計算オーバーヘッドの少ない堅牢性を向上させる。

関連論文リスト

• ActFovea: Runtime Safeguarding for VLA Policies via Spatiotemporal Visual-Action Consistency [23.6841289206823]
  視覚言語アクション(VLA)ポリシーは、ロボット操作において強力なパフォーマンスを達成する。 それらは、視覚的な観察、ロボットの状態、実行中の動作の時間的アライメントを損なうランタイム障害に対して脆弱である。 本稿では,ActFoveaについて紹介する。ActFoveaは,VLAポリシーの再トレーニングや修正を行うことなく,そのような障害を検出し緩和する,プラグアンドプレイのセーフガードフレームワークである。
  論文  参考訳（メタデータ） (2026-07-31T08:47:57Z)
• TrustVLA: Mechanism-Guided Inference-Time Defense Against Vision-Language-Action Backdoors [54.12833308568015]
  VLA(Vision-Language-Action)モデルは、エンドユーザが監査できないパイプラインを通じてデプロイされる。 小さな視覚トリガーは、障害が観測可能である前に、長い水平ロボットポリシーをリダイレクトする。 個別に提案した2つのVLA攻撃を通してこのギャップについて検討した。
  論文  参考訳（メタデータ） (2026-07-14T09:43:52Z)
• When Behavioral Safety Evaluation Fails: A Representation-Level Perspective [23.598318016787147]
  大規模言語モデル(LLM)の安全性は、しばしば行動レベルで評価され、内部の堅牢性の限られた証拠を提供する。 我々は,この相違を監査ギャップとして定式化し,介入時の行動安全と頑健さの相違を考察した。 パラメータと潜伏空間のソフトな介入を通してモデルロバスト性をテストするための介入に基づく評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-06-06T08:10:56Z)
• SAFE-Pruner: Semantic Attention-Guided Future-Aware Token Pruning for Efficient Vision-Language-Action Manipulation [71.91583446135651]
  SAFE-Prunerはプラグアンドプレイのプルーニングフレームワークで、将来のレイヤーの注意手順をプルーニング決定に組み込む。 本手法は成功率を1.7%以下に抑えながら最大1.89倍の高速化を実現し,最先端の手法を最大1.9%向上させることを示した。
  論文  参考訳（メタデータ） (2026-05-28T09:23:08Z)
• Tracking the Truth: Object-Centric Spatio-Temporal Monitoring for Video Large Language Models [154.39583176906893]
  大規模言語モデル(ML)は高度な理解を持ち、シーンにおける幻覚の傾向が高い。 これは、時間的モニタリングの失敗、オブジェクトの動的アイデンティティ、状態、そして時間とともに関係を永続的に追跡する能力に起因している、と我々は主張する。 既存のベンチマークでは、局所的な視覚的手がかりや統計的先行によってしばしば解決される1つの最終回答クエリに頼って、この欠陥を曖昧にしている。
  論文  参考訳（メタデータ） (2026-05-09T14:32:36Z)
• HELM: Harness-Enhanced Long-horizon Memory for Vision-Language-Action Manipulation [2.9231828959903474]
  VLA(Vision-Language-Action)モデルは、短軸性能が強いにもかかわらず、長軸操作タスクにおいて体系的に失敗する。 この失敗は、現在のリアクティブ実行設定でコンテキスト長だけを拡張することで解決されないことを示す。 HELMは3つのコンポーネントでこれらの欠陥に対処するモデルに依存しないフレームワークである。
  論文  参考訳（メタデータ） (2026-04-20T19:57:35Z)
• Shifting Uncertainty to Critical Moments: Towards Reliable Uncertainty Quantification for VLA Model [10.781664119473966]
  本稿では,ロールアウトの成功と失敗を予測するための統一的不確実性定量化手法を提案する。 本手法は, 故障予測精度を大幅に向上し, 故障検出のための信頼性の高い信号を得る。
  論文  参考訳（メタデータ） (2026-03-18T22:52:03Z)
• EXPLORE-Bench: Egocentric Scene Prediction with Long-Horizon Reasoning [63.010793398283134]
  本研究では,多モーダルな言語モデルが,エゴセントリックな視点から行動の長期的物理的帰結を確実に推論できるかどうかを考察する。 EXPLORE-Benchは,様々なシナリオにまたがる実の1人称ビデオから算出したベンチマークである。 プロプライエタリでオープンソースのMLLMの実験では、人間にとって大きなパフォーマンスギャップが示される。
  論文  参考訳（メタデータ） (2026-03-10T14:33:44Z)
• See, Plan, Rewind: Progress-Aware Vision-Language-Action Models for Robust Robotic Manipulation [59.07792608884117]
  本稿では,See, Plan, Rewind (SPR)について紹介する。 SPRは、現在の状態と今後のマイルストーンを見て、次の2Dウェイポイントに向けて軌道を計画し、障害時に回復可能な状態に戻すという、継続的なコアサイクルを通じて運用される。 SPRは、OpenVLA-OFTとUniVLAを上回る最小のパフォーマンス低下で最先端のロバスト性を達成する。
  論文  参考訳（メタデータ） (2026-03-10T07:22:51Z)
• Fine-Tuning Lowers Safety and Disrupts Evaluation Consistency [17.57889200051214]
  特定のドメインやタスクに対して汎用的な大規模言語モデル(LLM)を微調整することは,一般ユーザにとって日常的な手順となっている。 我々は、これを「攻撃」の良質な性質と相まって、微調整の広汎な取り込みによるLCMの臨界故障モードとみなす。 本実験では, 微調整装置に不連続な変化が生じても, 安全性評価の結果に驚くほどのばらつきが認められた。
  論文  参考訳（メタデータ） (2025-06-20T17:57:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。