Fugu-MT 論文翻訳(概要): Lights, Camera, Malfunction: When Illumination Robustness Leaves VLA Models Blind to Color

論文の概要: Lights, Camera, Malfunction: When Illumination Robustness Leaves VLA Models Blind to Color

arxiv url: http://arxiv.org/abs/2607.14698v1
Date: Thu, 16 Jul 2026 08:01:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-17 17:01:33.035918
Title: Lights, Camera, Malfunction: When Illumination Robustness Leaves VLA Models Blind to Color
Title（参考訳）: 光、カメラ、故障:照明のロバストさが色に染まったVLAモデル
Abstract要約: VLA(Vision-Language-Action)モデルが汎用ロボット操作の強力なパラダイムとして登場した。 FLAREは、ターゲットの照明によってこれらの脆弱性を悪用する物理スポットライト攻撃フレームワークである。 FLAREは、良性タスクと攻撃性タスクにおいて、それぞれ97.5%と92.5%の成功率を達成することを示した。
参考スコア（独自算出の注目度）: 7.619100818009453
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Vision-Language-Action (VLA) models have emerged as a powerful paradigm for general-purpose robot manipulation; however, their transition to real-world environments reveals vulnerabilities to minor environmental perturbations. We propose FLARE, an optimized physical spotlight attack framework that exploits these vulnerabilities via targeted illuminations, dropping baseline task success rates to zero without any access to model internals. While adversarial training is the standard countermeasure, we identify a critical and previously underestimated defensive pitfall: naive data augmentations incorrectly condition VLA models to discard color as noise, collapsing their visual perception into a purely shape-biased processor. We expose this degradation through a diagnostic grayscale evaluation, in which the defended model maintains high success rates on grayscale inputs, while its success rate on benign, color-dependent real-world tasks drops to at most 47.5%, well below the undefended baseline. To address this, we propose ChromaGuard, a chroma-preserving adversarial training method. On a physical 6-DoF robotic platform, we demonstrate that ChromaGuard achieves 97.5% and 92.5% success rates in benign and attacked color-dependent tasks, respectively.
Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、汎用ロボット操作の強力なパラダイムとして登場したが、現実環境への移行は、小さな環境摂動の脆弱性を明らかにする。 FLAREは、ターゲット照明によってこれらの脆弱性を悪用し、モデル内部へのアクセスなしにベースラインタスク成功率をゼロに下げる、最適化された物理スポットライト攻撃フレームワークである。逆行訓練が標準的な対策である一方で、批判的かつ以前は過小評価されていた防御的落とし穴を識別する: 不正なデータ拡張 VLA モデルにより、色をノイズとして排除し、視覚的知覚を純粋な形状バイアスプロセッサに分解する。我々は、この劣化を診断用グレースケール評価により明らかにし、このモデルではグレースケールの入力において高い成功率を維持し、一方、良質で色に依存した実世界のタスクにおける成功率は47.5%にまで低下する。そこで本研究では,クロマグラード(ChromaGuard)を提案する。物理的な6-DoFロボットプラットフォーム上では、ChromaGuardがそれぞれ97.5%と92.5%の成功率を達成したことを実証する。

関連論文リスト

InfraPatch: Cross-Task Targeted Grayscale Patch Attacks on Infrared-Adapted Vision-Language Models [9.310612317083928]
赤外線視覚適応モデル(IR-VLM)は、低視認性条件下でのマルチモーダル知覚のための有望なパラダイムとして登場した。 IR-VLMに対するデジタルグレースケールパッチ攻撃を対象とするフレームワークであるInfraPatchを提案する。
論文参考訳（メタデータ） (2026-09-02T07:42:27Z)
Generative Testing of Automated Speech Recognition Systems [0.4914401344126589]
GATAS(ブラックボックステスト)は,入力の失敗を発生させる手法である。波形を直接摂動するのではなく、このアプローチは潜在表現を補間して転写エラーを誘発する。その結果,GATASは98%の成功率であり,歪みは低く,知覚品質も高いことがわかった。
論文参考訳（メタデータ） (2026-07-10T14:04:28Z)
Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
論文参考訳（メタデータ） (2026-04-07T08:43:36Z)
SABER: A Stealthy Agentic Black-Box Attack Framework for Vision-Language-Action Models [55.48982086345088]
SABERは、VLAモデルに対する命令ベースの敵攻撃を自動的に生成するエージェント中心のアプローチである。 SABERはタスク成功率を20.6%減らし,アクションシーケンス長を55%増し,制約違反を33%減らした。
論文参考訳（メタデータ） (2026-03-26T01:56:01Z)
Spatial Colour Mixing Illusions as a Perception Stress Test for Vision-Language Models [1.4969391620741985]
視覚言語モデル(VLM)は強力なベンチマーク結果を得るが、体系的な知覚的弱点を示すことができる。本研究では,自然画像上に構造パターンをオーバーレイする色歪みのファミリである空間色混合を用いて,このギャップについて検討する。簡単な人為的な前処理のステップが,いくつかの歪みに対して有意義な性能を回復することを示す。
論文参考訳（メタデータ） (2026-03-06T10:50:04Z)
Improving Robustness of Vision-Language-Action Models by Restoring Corrupted Visual Inputs [6.2827295422415235]
VLA(Vision-Language-Action)モデルは、汎用的なロボット操作の主要なパラダイムとして登場した。しかし、信頼性の高い現実世界の展開は、視覚障害に対する脆弱さによって著しく妨げられている。センサ障害に対してVLAモデルを免疫するために設計された視覚変換器であるCRT(Corruption Restoration Transformer)を導入する。
論文参考訳（メタデータ） (2026-02-01T11:09:08Z)
State Backdoor: Towards Stealthy Real-world Poisoning Attack on Vision-Language-Action Model in State Space [42.234025453061875]
VLA(Vision-Language-Action)モデルは、ロボット工学などの安全クリティカルな実施AIアプリケーションに広く採用されている。我々は,ロボットアームの初期状態をトリガーとして活用する,新規で実用的なバックドア攻撃であるState Backdoorを紹介した。提案手法は,攻撃成功率の90%以上を良質なタスク性能に影響を与えることなく達成し,組込みAIシステムにおける未探索の脆弱性を明らかにする。
論文参考訳（メタデータ） (2026-01-07T08:54:31Z)
Multi-Faceted Attack: Exposing Cross-Model Vulnerabilities in Defense-Equipped Vision-Language Models [54.61181161508336]
MFA(Multi-Faceted Attack)は、防衛装備型ビジョンランゲージモデル(VLM)の一般的な安全性上の脆弱性を明らかにするフレームワークである。 MFAの中核となるコンポーネントはアテンション・トランスファー・アタック(ATA)であり、競合する目的を持ったメタタスク内に有害な命令を隠す。 MFAは58.5%の成功率を獲得し、既存の手法を一貫して上回っている。
論文参考訳（メタデータ） (2025-11-20T07:12:54Z)
Poison Once, Control Anywhere: Clean-Text Visual Backdoors in VLM-based Mobile Agents [54.35629963816521]
この研究は、VLMベースのモバイルエージェントをターゲットにした最初のクリーンテキストバックドアアタックであるVIBMAを紹介する。この攻撃は、視覚的な入力だけを変更することによって、悪意ある振る舞いをモデルに注入する。クリーンタスクの動作を保ちながら高い成功率を達成できることを示す。
論文参考訳（メタデータ） (2025-06-16T08:09:32Z)
Exploring Visual Vulnerabilities via Multi-Loss Adversarial Search for Jailbreaking Vision-Language Models [92.79804303337522]
VLM(Vision-Language Models)は、安全アライメントの問題に対して脆弱である。本稿では、シナリオ認識画像生成を利用したセマンティックアライメントのための新しいジェイルブレイクフレームワークであるMLAIを紹介する。大規模な実験はMLAIの重大な影響を示し、MiniGPT-4で77.75%、LLaVA-2で82.80%の攻撃成功率を達成した。
論文参考訳（メタデータ） (2024-11-27T02:40:29Z)
Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
論文参考訳（メタデータ） (2024-11-18T01:52:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。