論文の概要: BadWorld: Adversarial Attacks on World Models

• arxiv url: http://arxiv.org/abs/2606.16519v1
• Date: Mon, 15 Jun 2026 10:21:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:34.451213
• Title: BadWorld: Adversarial Attacks on World Models
• Title（参考訳）: BadWorld:世界モデルに対する敵対的攻撃
• Authors: Linghui Shen, Mingyue Cui, Xingyi Yang,
• Abstract要約: 視覚世界モデル(VWM)は、単一のコンテキストイメージからインタラクティブなアクション条件付きロールアウトを合成する。 標準的な敵攻撃はこの脆弱性を評価するのに失敗する。 我々は,自己回帰型VWMに適したラベルフリーの敵対的フレームワークであるBadWorldを紹介した。
• 参考スコア（独自算出の注目度）: 38.75847400495247
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Visual world models (VWMs) synthesize interactive, action-conditioned rollouts from a single context image. However, it remains an open question how robust these models are to adversarial perturbations. Standard adversarial attacks fail to assess this vulnerability because attackers lack ground-truth future videos and cannot predict subsequent user controls. We introduce BadWorld, a label-free adversarial framework tailored for autoregressive VWMs that systematically overcomes both constraints. First, to bypass the need for future supervision, we propose a self-supervised velocity attack that directly disrupts the early denoising dynamics of the model. Second, to ensure the attack generalizes across unpredictable user actions, we formulate a trajectory-adaptive bi-level optimization that actively mines hard control sequences to forge control-agnostic perturbations. Evaluated on representative VWMs with continuous and discrete controls, BadWorld exposes severe structural fragility. Visually indistinguishable adversarial images reliably trigger catastrophic degradation in future rollouts, leading to incomplete denoising, structural collapse, and control inconsistency. These findings reveal critical risks for deploying VWMs in safety-critical systems while highlighting a practical mechanism for privacy protection.
• Abstract（参考訳）: 視覚世界モデル(VWM)は、単一のコンテキストイメージからインタラクティブなアクション条件付きロールアウトを合成する。 しかし、これらのモデルが敵の摂動に対してどれほど頑丈かは未解決の問題である。 標準的な敵攻撃はこの脆弱性を評価するのに失敗する。 我々は,両制約を体系的に克服する自己回帰型VWMに適した,ラベルフリーの敵対的フレームワークであるBadWorldを紹介した。 まず、将来的な監視の必要性を回避すべく、モデルの早期認知力学を直接妨害する自己監督型速度攻撃を提案する。 第二に、予測不能なユーザアクションをまたいで攻撃が一般化されることを保証するために、ハードコントロールシーケンスを積極的にマイニングし、制御非依存の摂動を鍛えるトラジェクトリ適応バイレベル最適化を定式化する。 BadWorldは、連続的かつ離散的な制御を持つ代表的VWMに基づいて評価され、深刻な構造的脆弱性を露呈する。 視覚的に識別不能な敵画像は、将来のロールアウトにおいて破滅的な劣化を確実に引き起こし、不完全化、構造的崩壊、制御の不整合をもたらす。 これらの結果から,安全上重要なシステムにVWMを配置する上で重要なリスクを明らかにし,プライバシ保護の実践的メカニズムを強調した。

関連論文リスト

• ARB4WM: An Adversarial Robustness Benchmark for World Models in Continuous Control [13.959980050697645]
  ARB4WMは、視覚的摂動下でのワールドモデルエージェントのロバスト性とリスク評価のための統合された評価フレームワークである。 我々はMetaWorldとDeepMind Control Suiteから20タスクにわたるDreamerスタイルのエージェントを4つ評価した。 その結果、値推定、潜伏表現、RSSMのダイナミクスを標的とした攻撃は、直接的なポリシー破壊と同じくらい被害を受ける可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-15T11:51:19Z)
• Don't Fool Me Twice: Adapting to Adversity in the Wild with Experience-Driven Reasoning [2.3555777010480337]
  ロボット工学では、危険と逆転モードは、しばしば具体的であり、各エージェントに対して相対的である。 本稿では,障害から学習し,異常な動作を原因とみなすための,移動体具体化エージェントのための連続学習フレームワークを提案する。 本研究は,4つの仮説を提示し,シミュレーションおよびハードウェア上での逆数モードおよび逆数モードによる検証を行う。
  論文  参考訳（メタデータ） (2026-05-29T10:30:02Z)
• Intent-based Security Management Using the TM Forum TR292I Security Ontology [0.0]
  本稿では,TMフォーラムTR292Iセキュリティオントロジー v4.0.0の設計と標準化に基づく,宣言的かつ自律的な自己保護フレームワークを提案する。 提案手法では,動作中の脅威を動的に中和するために,Description Logic (DL) と自動グラフ推論をクローズドループ実行パイプライン内で利用する。 我々は、分散Denial of Service(DDoS)攻撃緩和シーケンスを分解したNext-Generation NodeBスライス上に構築した構造的形式検証ウォークスルーを通じて、モデル駆動アーキテクチャを検証する。
  論文  参考訳（メタデータ） (2026-05-26T22:35:01Z)
• Position: AI Safety Requires Effective Controllability [7.789894640525689]
  我々は、AIの安全性は第一級の目的として制御性を必要とすると論じている。 OpenClawベースのエージェントによる実験では、現在のアライメントとガードレール機構がリスクを低減しているが、永続的で権威的で強制可能なランタイムコントロールの提供に失敗することが多い。
  論文  参考訳（メタデータ） (2026-05-26T14:53:24Z)
• CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
  有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。 CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。 このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
  論文  参考訳（メタデータ） (2026-04-10T09:41:21Z)
• Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
  本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。 本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
  論文  参考訳（メタデータ） (2026-04-07T08:43:36Z)
• FlowHijack: A Dynamics-Aware Backdoor Attack on Flow-Matching Vision-Language-Action Models [16.1235621512052]
  FlowHijackは、フローマッチングVLAの基盤となるベクトルフィールドダイナミクスを体系的にターゲットする最初のバックドアアタックフレームワークである。 本研究は, 連続体化モデルにおける重大な脆弱性を明らかにし, モデル内部の生成動態を標的とした防衛の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2026-03-30T03:54:04Z)
• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS [70.60975663021952]
  ネットワーク分類器に対するブラックボックス攻撃について検討する。 我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。 攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
  論文  参考訳（メタデータ） (2021-11-23T23:42:16Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。