論文の概要: TrojanWorld: Backdooring World-Model Agents via Imagination Steering

• arxiv url: http://arxiv.org/abs/2609.07051v1
• Date: Mon, 07 Sep 2026 05:14:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.36566
• Title: TrojanWorld: Backdooring World-Model Agents via Imagination Steering
• Title（参考訳）: TrojanWorld: Imagination Steeringによるワールドモデルエージェントのバックドア化
• Abstract要約: TrojanWorldは、世界モデルエージェントのためのバックドアフレームワークで、内部の想像力を操ることで攻撃者が特定した振る舞いを誘導する。 トリガーアクティベーションの下では、トロイジャンワールドは0.026までの目標アクション偏差を達成し、対応するクリーンパフォーマンスの少なくとも98.8%を維持している。
• 参考スコア（独自算出の注目度）: 65.38754125569848
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: World models increasingly serve as the predictive core of model-based reinforcement learning agents, enabling them to simulate future dynamics and reason over imagined trajectories before acting. Their substantial training demands make pretrained world models attractive for distribution and reuse, exposing downstream systems to model supply chain threats. Backdoor attacks offer a targeted and stealthy means of exploiting such supply chains, yet their threat to interactive world-model agents remains largely unexplored. To fill this gap, we present TrojanWorld, a backdoor framework for world-model agents that induces attacker-specified behavior by steering internal imagination. A physical object placed in the scene acts as the trigger, enabling deployment-time activation through the agent's native observation pipeline without digitally manipulating the observation stream. To achieve effective, stealthy, and persistent control, TrojanWorld combines Decision-Reflective Induction to steer trigger-conditioned imagination toward attacker-specified actions using decision feedback, Clean Behavior Anchoring to preserve trigger-free predictive and behavioral fidelity, and Causal Propagation to sustain the induced preference along subsequent trajectories after the trigger disappears. Together, these mechanisms establish an end-to-end attack chain from physical perception through corrupted imagination to malicious action selection. Experiments with the TD-MPC2, DreamerV3, and R2-Dreamer systems across the DeepMind Control, MetaWorld, MyoSuite, and RoboDesk benchmarks show that under trigger activation, TrojanWorld achieves a target-action deviation as low as 0.026 while retaining at least 98.8% of the corresponding clean performance. Even after trigger removal, the compromised agent can remain trapped in the induced behavioral trajectory, continuing to execute attacker-specified actions.
• Abstract（参考訳）: 世界モデルは、モデルベースの強化学習エージェントの予測コアとして機能し、将来のダイナミクスをシミュレートし、行動する前に想像された軌跡を推論することを可能にする。 彼らの実質的な訓練要求は、事前訓練された世界モデルを流通と再利用のために魅力的にし、下流のシステムをサプライチェーンの脅威をモデル化するために露出させる。 バックドア攻撃は、そのようなサプライチェーンを悪用する標的でステルスな手段を提供するが、インタラクティブな世界モデルエージェントに対する脅威は、まだほとんど解明されていない。 このギャップを埋めるために,世界モデルエージェントのためのバックドアフレームワークであるTrojanWorldを紹介した。 シーンに置かれた物理的なオブジェクトがトリガーとして機能し、監視ストリームをデジタル操作することなく、エージェントのネイティブな観測パイプラインを通じてデプロイ時のアクティベーションを可能にする。 効果的な、ステルス的で永続的な制御を実現するため、TrojanWorldは、決定-反射的誘導と、決定フィードバックを使用した攻撃者の特定行動に対するステアトリガー条件の想像と、トリガーのない予測と行動の忠実性を維持するためのクリーンな行動アンチョーリングと、トリガーが消えた後の軌跡に沿って誘導された嗜好を維持するためのコーサルプロパゲーションを組み合わせている。 これらのメカニズムは、物理的知覚から腐敗した想像力から悪意ある行動選択に至るまで、エンド・ツー・エンド・アタック・チェーンを確立する。 TD-MPC2、DreamerV3、R2-DreamerシステムによるDeepMind Control、MetaWorld、MyoSuite、RoboDeskベンチマークによる実験では、トリガーアクティベーションの下では、トロイジャンワールドは少なくとも98.8%のクリーンパフォーマンスを維持しながら0.026の目標アクション偏差を達成している。 トリガー除去後も、妥協されたエージェントは誘導された行動軌跡に閉じ込められ、攻撃者が特定したアクションを実行し続ける。

関連論文リスト

• When the World Lies: Backdoor Attacks on Latent World Models for Downstream Control [16.24023192805139]
  我々は、リリースしたチェックポイントのみを制御する敵が下流のコントローラをハイジャックできることを示します。 攻撃は、明示的なトリガー・ツー・アクション・ルールを符号化しない。毒殺されたモデルは、選択された潜在領域にトリガー・ベアリングの観測をルートする。
  論文  参考訳（メタデータ） (2026-09-14T16:01:13Z)
• Sensorimotor World Models: Perception for Action via Inverse Dynamics [59.121736411156384]
  Inverse dynamics regularization で訓練されたエンド・ツー・エンドのセンサモレータ・ワールドモデルを導入する。 表現の崩壊を防ぎ、アクション整列表現を誘導する。 コンパクトで解釈可能な潜在空間を学習し、単純な2Dおよび3D制御タスク間の競合計画性能を実現する。
  論文  参考訳（メタデータ） (2026-06-18T11:25:16Z)
• FlowHijack: A Dynamics-Aware Backdoor Attack on Flow-Matching Vision-Language-Action Models [16.1235621512052]
  FlowHijackは、フローマッチングVLAの基盤となるベクトルフィールドダイナミクスを体系的にターゲットする最初のバックドアアタックフレームワークである。 本研究は, 連続体化モデルにおける重大な脆弱性を明らかにし, モデル内部の生成動態を標的とした防衛の必要性を浮き彫りにした。
  論文  参考訳（メタデータ） (2026-03-30T03:54:04Z)
• When Attention Betrays: Erasing Backdoor Attacks in Robotic Policies by Reconstructing Visual Tokens [32.50082492538355]
  視覚言語アクション(VLA)モデルの下流での微調整はロボティクスを強化するが、パイプラインをバックドアのリスクに晒す。 本稿では,遅延空間のローカライゼーションによって異常な注意を払ってトークンを検出するテスト時間バックドアフレームワークであるBelaを紹介する。 ベラは名目のパフォーマンスを効果的に維持し、攻撃の成功率を大幅に低下させ、バックドア出力から常に良質な振る舞いを復元する。
  論文  参考訳（メタデータ） (2026-02-03T06:09:43Z)
• Visual Backdoor Attacks on MLLM Embodied Decision Making via Contrastive Trigger Learning [89.1856483797116]
  MLLMをベースとした組込みエージェントに視覚的バックドアを注入する最初のフレームワークであるBEATを紹介する。 テキストトリガーとは異なり、オブジェクトトリガーは視点や照明の幅が広いため、確実に移植することは困難である。 BEATは攻撃の成功率を最大80%まで達成し、強い良識のあるタスクパフォーマンスを維持します。
  論文  参考訳（メタデータ） (2025-10-31T16:50:49Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• Temporal Logic-Based Multi-Vehicle Backdoor Attacks against Offline RL Agents in End-to-end Autonomous Driving [26.094398456088403]
  我々は、1台以上の車両の軌道をトリガーとして利用するエンド・ツー・エンドADシステムに対する新たなバックドア攻撃を導入する。 我々は、トリガーに似ているがバックドアを起動しないパッチトラジェクトリを組み込むことで、負のトレーニング戦略を開発する。 提案攻撃の柔軟性と効果を実証し、既存のエンドツーエンドADシステムの脆弱性を調査する。
  論文  参考訳（メタデータ） (2025-09-21T07:13:19Z)
• TrojanTO: Action-Level Backdoor Attacks against Trajectory Optimization Models [67.06525001375722]
  TrojanTOはTOモデルに対する最初のアクションレベルのバックドア攻撃である。 様々なタスクにバックドア攻撃を移植し、低い攻撃予算で目標を攻撃する。 TrojanTOはDT、GDT、DCに広く適用可能である。
  論文  参考訳（メタデータ） (2025-06-15T11:27:49Z)
• BadCLIP: Dual-Embedding Guided Backdoor Attack on Multimodal Contrastive Learning [85.2564206440109]
  本報告では,防衛後においてもバックドア攻撃が有効であり続けるという現実的なシナリオにおける脅威を明らかにする。 バックドア検出や細調整防御のモデル化に抵抗性のあるemphtoolnsアタックを導入する。
  論文  参考訳（メタデータ） (2023-11-20T02:21:49Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。