論文の概要: ARB4WM: An Adversarial Robustness Benchmark for World Models in Continuous Control
- arxiv url: http://arxiv.org/abs/2606.16605v1
- Date: Mon, 15 Jun 2026 11:51:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:34.499921
- Title: ARB4WM: An Adversarial Robustness Benchmark for World Models in Continuous Control
- Title（参考訳）: ARB4WM: 連続制御における世界モデルの逆ロバスト性ベンチマーク
- Authors: Junjian Zhang, Hao Tan, Ruonan Li, Dong Zhu, Aiping Li, Zhaoquan Gu,
- Abstract要約: ARB4WMは、視覚的摂動下でのワールドモデルエージェントのロバスト性とリスク評価のための統合された評価フレームワークである。
我々はMetaWorldとDeepMind Control Suiteから20タスクにわたるDreamerスタイルのエージェントを4つ評価した。
その結果、値推定、潜伏表現、RSSMのダイナミクスを標的とした攻撃は、直接的なポリシー破壊と同じくらい被害を受ける可能性が示唆された。
- 参考スコア（独自算出の注目度）: 13.959980050697645
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World models are widely used in robotic and agentic engineering control systems due to their ability to learn latent dynamics for planning and decision-making. As these systems are increasingly deployed in safety-critical settings, understanding their robustness under adversarial conditions has become essential. However, existing evaluations lack a unified benchmark for testing adversarial threats across the policy, value, and latent-dynamics levels of world-model agents. To fill this gap, we present ARB4WM, a unified evaluation framework for pre-deployment robustness and risk assessment of world-model agents under visual perturbations. ARB4WM defines five white-box loss objectives across these three levels and studies their effects when combined with single-step or multi-step perturbation strategies and temporal attack modes, including full-frame, half-sequence, and sparse-frame exposure. Specifically, we evaluate four Dreamer-style agents across 20 tasks from MetaWorld and the DeepMind Control Suite under different loss objectives, perturbation strategies, and temporal attack modes. Results show that attacks targeting value estimation, latent representations, and RSSM dynamics can be as damaging as direct policy disruption, and that early or frequent perturbations are especially harmful, while input-level defenses provide limited recovery under adaptive attacks. These findings suggest that safety, risk, and reliability assessment for world models should cover multiple component-oriented attack objectives and temporal exposure protocols rather than relying solely on action-space robustness. Source code is available at https://github.com/zaoanguai/ARB4WM.
- Abstract（参考訳）: 世界モデルはロボット工学やエージェント工学の制御システムで広く使われている。
これらのシステムは、安全クリティカルな環境にますます配置されているため、敵条件下での堅牢性を理解することが不可欠である。
しかし、既存の評価では、世界モデルエージェントのポリシー、価値、潜在力学レベルにわたる敵の脅威をテストするための統一されたベンチマークが欠落している。
このギャップを埋めるために、視覚的摂動下でのワールドモデルエージェントのロバスト性とリスク評価のための統合された評価フレームワークであるABB4WMを提案する。
ARB4WMはこれらの3つのレベルにまたがる5つのホワイトボックス損失目標を定義し、フルフレーム、ハーフシーケンス、スパースフレーム露光を含む1ステップまたは複数ステップの摂動戦略と時間的攻撃モードを組み合わせた場合の効果を研究する。
具体的には,MetaWorldとDeepMind Control Suiteの20タスクにまたがる4つのDreamerスタイルのエージェントを,異なる損失目標,摂動戦略,時間的攻撃モードで評価する。
以上の結果から,早期ないし頻繁な摂動は特に有害であり,入力レベルの防御は適応攻撃下では限定的な回復をもたらすことが示された。
これらの結果から,世界モデルの安全性,リスク,信頼性の評価は,アクション空間の堅牢性にのみ依存するのではなく,複数のコンポーネント指向の攻撃目標と時間的露光プロトコルをカバーすべきであることが示唆された。
ソースコードはhttps://github.com/zaoanguai/ARB4WMで入手できる。
関連論文リスト
- BadWorld: Adversarial Attacks on World Models [38.75847400495247]
視覚世界モデル(VWM)は、単一のコンテキストイメージからインタラクティブなアクション条件付きロールアウトを合成する。
標準的な敵攻撃はこの脆弱性を評価するのに失敗する。
我々は,自己回帰型VWMに適したラベルフリーの敵対的フレームワークであるBadWorldを紹介した。
論文 参考訳（メタデータ） (2026-06-15T10:21:12Z) - Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents [93.19140872946842]
大規模言語モデル(LLM)によって駆動されるWebエージェントは、現実の環境にますますデプロイされる。
これにより、一見良質なコンテンツがエージェントの振る舞いを操作する敵の命令を埋め込む、プロンプト・インジェクション・アタックに対して脆弱になる。
実世界のWebエージェントシステムにおいて,損害を体系的に分類し,属性付けするベンチマークである textbfsysname を導入する。
論文 参考訳（メタデータ） (2026-06-11T14:12:43Z) - WMAttack: Automated Attack Search for Adversarial Evaluation of World-Model Agents [53.84430233754606]
WMAttackは、世界モデルエージェントの敵意評価のための自動攻撃探索フレームワークである。
WMAttackは攻撃構成に対する有限予算探索としてロバストネス評価を定式化する。
WMAttackは評価ベースラインよりも強力な攻撃を継続的に発見することを示す。
論文 参考訳（メタデータ） (2026-05-22T04:31:09Z) - Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。
これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。
自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
論文 参考訳（メタデータ） (2026-04-23T23:44:01Z) - Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。
本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
論文 参考訳（メタデータ） (2026-04-07T08:43:36Z) - When World Models Dream Wrong: Physical-Conditioned Adversarial Attacks against World Models [54.08784776767683]
本稿では,物理条件を乱す最初のホワイトボックス世界モデルアタックであるPhysCond-WMA(PhysCond-WMA)を提案する。
PhysCond-WMAは知覚の忠実さを維持しながら意味、論理、決定レベルの歪みを引き起こす。
論文 参考訳（メタデータ） (2026-02-21T07:22:37Z) - The Shadow Self: Intrinsic Value Misalignment in Large Language Model Agents [37.75212140218036]
コントロの損失リスクを定式化し、これまで過小評価されていた内因性価値の相違(内因性VM)を識別する。
次に、このリスクを体系的に評価するシナリオ駆動フレームワークであるIMPRESSを紹介します。
我々は,21種類のLLMエージェント上での固有のVMの評価を行い,モデル間での安全性のリスクが広く見られることを発見した。
論文 参考訳（メタデータ） (2026-01-24T07:09:50Z) - AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models [60.39655329875822]
VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にするモデルである。
このようなモデルを攻撃することへの関心は高まっているが、既存の手法の有効性は依然として不明である。
我々はVLA開発ライフサイクルに合わせて統合されたフレームワークであるAttackVLAを提案する。
論文 参考訳（メタデータ） (2025-11-15T10:30:46Z) - Evaluating Robustness of Large Audio Language Models to Audio Injection: An Empirical Study [5.843063647136238]
本研究は4つの攻撃シナリオにまたがる5つのLALMを系統的に評価する。
単一のモデルはすべての攻撃タイプで他のモデルより一貫して優れています。
命令追従能力とロバスト性の間の負の相関は、命令に厳密に固執するモデルはより感受性が高いことを示唆している。
論文 参考訳（メタデータ） (2025-05-26T07:08:38Z) - Exploring the Physical World Adversarial Robustness of Vehicle Detection [13.588120545886229]
アドリアックは現実世界の検知モデルの堅牢性を損なう可能性がある。
CARLAシミュレータを用いた革新的なインスタントレベルデータ生成パイプラインを提案する。
本研究は, 逆境条件下での多種多様なモデル性能について考察した。
論文 参考訳（メタデータ） (2023-08-07T11:09:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。