論文の概要: Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
- arxiv url: http://arxiv.org/abs/2607.28226v1
- Date: Thu, 30 Jul 2026 13:58:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.582464
- Title: Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
- Title（参考訳）: World Model-based Embodied AIのセキュリティ: 脅威、防御、評価のライフサイクル
- Abstract要約: この調査は、データ構築と表現学習、状態の接地と想像、軌道評価、実行、メモリとツールによる長期適応など、ライフサイクル全体の脅威をトレースする。
毒殺、バックドア、敵の例、センサーの密輸、迅速な注射、軌道操作、サプライチェーン攻撃は、世界国家を腐敗させたり、ダイナミクスを学んだり、余計な見積り、安全コストなど、異なる意味を持つ。
この調査は、ライフサイクル分類を提供し、既存の攻撃を世界モデルのセキュリティ特性にマッピングし、安全性障害の評価プロトコルを概説する。
- 参考スコア（独自算出の注目度）: 15.943456899620053
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: World models give embodied AI a predictive core: they compress observations into states, simulate action-conditioned futures, and enable planning beyond reactive control. This predictive layer, however, opens a new security boundary-compromise can propagate from data, sensors, prompts, or feedback into physical action. Rather than treating world models as an isolated component, this survey traces threats across their entire lifecycle-from data construction and representation learning, through state grounding and imagination, to trajectory evaluation, execution, and long-term adaptation via memory and tools. We show that familiar attack families: poisoning, backdoors, adversarial examples, sensor spoofing, prompt injection, trajectory manipulation, and supply-chain attacks take on distinct meanings when they corrupt world states, learned dynamics, affordance estimates, or safety costs. We also highlight a duality: world models can serve as runtime safety shields, yet when compromised or over-trusted they generate predictive safety illusions. The survey offers a lifecycle taxonomy, maps existing attacks to world-model security properties, outlines evaluation protocols for safety failures, and structures defenses across provenance, robust grounding, uncertainty-aware prediction, trajectory gating, feedback auditing, and deployment assurance.
- Abstract（参考訳）: 観測結果を状態に圧縮し、アクション条件付き未来をシミュレートし、反応制御を超えた計画を可能にする。
しかし、この予測レイヤーは、データ、センサー、プロンプト、フィードバックから物理的なアクションへと伝播する新しいセキュリティ境界を開放する。
この調査は、世界モデルを独立したコンポーネントとして扱うのではなく、データ構築と表現学習から状態基盤と想像、軌道評価、実行、メモリとツールによる長期適応に至るまで、ライフサイクル全体の脅威をトレースする。
毒殺、バックドア、敵の例、センサーの密輸、迅速な注射、軌道操作、サプライチェーン攻撃は、世界国家を腐敗させたり、ダイナミクスを学んだり、余計な見積り、安全コストなど、異なる意味を持つ。
世界モデルは実行時の安全シールドとして機能するが、妥協されたり過度に信頼されたりすると、予測可能な安全性の錯覚が発生する。
この調査では、ライフサイクル分類、既存の攻撃を世界モデルのセキュリティ特性にマッピングする、安全性障害の評価プロトコルを概説する、前例、堅牢な土台、不確実性を認識した予測、軌道ゲーティング、フィードバック監査、デプロイメント保証にまたがる構造的防御を提供する。
関連論文リスト
- World Models for Embodied Intelligence: From Plausible to Controllable to Actionable [100.13060753774657]
世界モデルは、隠れた状態を維持し、結果を予測し、介入を比較し、実行が期待から外れたときに適応することによって、インテリジェンスにおける知覚と意思決定を結びつける。
これは、どの予測能力が振る舞いを改善するかという、中心的な疑問を提起する。
可塑性モデルは、タスク関連時間的・幾何学的・物理的構造を保存し、制御可能なモデルは、介入がどのように構造を変えるかを予測し、アクション可能なモデルは、予測を計画、行動、学習、評価、検証、回復、データ選択において測定可能な利得に変換する。
論文 参考訳（メタデータ） (2026-09-15T06:22:42Z) - Rethinking World Models for Safety-Critical Embodied Systems [3.802367963338718]
この視点は、現在の世界モデリングにおける3つの構造的ミスマッチを識別する。
我々は、安全クリティカルな実施システムのための意思決定中心の研究方向として、リスクインフォームド・ワールド・モデル(RIWM)を提案する。
論文 参考訳（メタデータ） (2026-09-03T12:44:44Z) - Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions [21.047807094226986]
本稿では,大規模言語モデルの微調整セキュリティに関する体系的な調査を行う。
攻撃と防御を比較するライフサイクルベースのフレームワークを確立する。
我々は、重要なオープンな問題(構成ロバスト防衛、異相防衛構成、行動仮定を超えた埋め込み空間攻撃)を特定し、具体的な今後の研究方向性を提案する。
論文 参考訳（メタデータ） (2026-05-24T13:34:47Z) - From Stealthy Data Fabrication to Unsafe Driving: Realistic Scenario Attacks on Collaborative Perception [7.889284710970368]
協調的な知覚により、コネクテッドカーや自動運転車は知覚データを共有することで知覚を改善することができる。
以前の研究は、アタッカーが共有データを作成してオブジェクトを偽造または削除できることを示しているが、現実の運転におけるそのような攻撃の実用性はまだ不明である。
本稿では,エンド・ツー・エンドのシステム効果を通じて,安全でない運転行動を引き起こす,ステルスで現実的なデータ生成攻撃を提案する。
論文 参考訳（メタデータ） (2026-05-02T07:21:22Z) - Vision-Language-Action Safety: Threats, Challenges, Evaluations, and Mechanisms [61.29786895012393]
VLA(Vision-Language-Action)モデルがインボディードインテリジェンスのための統一された基盤として登場している。
この調査は、ビジョン・ランゲージ・アクションモデルにおける安全性の統一的で最新の概要を提供する。
論文 参考訳（メタデータ） (2026-04-26T15:58:19Z) - Safety, Security, and Cognitive Risks in World Models [0.0]
世界モデルは環境力学の内部シミュレーターを学習する。
世界モデルは、ロボット工学、自動運転車、エージェントAIにおいて、自律的な意思決定の基礎となってきています。
本稿では,世界モデル景観を調査し,軌跡の持続性と表現的リスクの形式的定義を紹介する。
本稿では,GRUベースのRSSMに対するトラジェクティブ・パーシスタント・アタックを実証する実証的概念証明を提案する。
論文 参考訳（メタデータ） (2026-04-01T19:57:33Z) - Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - WorldLens: Full-Spectrum Evaluations of Driving World Models in Real World [100.68103378427567]
エージェントは現実的な4D駆動環境を合成し、説得力があるように見えるが、物理的または行動的に失敗することが多い。
モデルがどのように構築され、理解され、その生成された世界の中でどのように振る舞うかを評価するフルスペクトルベンチマークであるWorldLensを紹介します。
さらに、数値的なスコアとテキストの合理性を備えた人間の注釈付きビデオの大規模データセット WorldLens-26K を構築し、WorldLens-Agent を開発した。
論文 参考訳（メタデータ） (2025-12-11T18:59:58Z) - Safety at Scale: A Comprehensive Survey of Large Model and Agent Safety [296.5392512998251]
我々は、敵攻撃、データ中毒、バックドア攻撃、ジェイルブレイクとプロンプトインジェクション攻撃、エネルギー遅延攻撃、データとモデル抽出攻撃、出現するエージェント固有の脅威を含む、大規模なモデルに対する安全脅威の包括的分類を提示する。
我々は、大規模なモデル安全性におけるオープンな課題を特定し、議論し、包括的な安全性評価、スケーラブルで効果的な防御機構、持続可能なデータプラクティスの必要性を強調します。
論文 参考訳（メタデータ） (2025-02-02T05:14:22Z) - Certifiers Make Neural Networks Vulnerable to Availability Attacks [70.69104148250614]
私たちは初めて、逆転戦略が敵によって意図的に引き起こされる可能性があることを示します。
いくつかの入力や摂動のために自然に発生する障害に加えて、敵は故意にフォールバックを誘発するために訓練時間攻撃を使用することができる。
我々は2つの新しいアベイラビリティーアタックを設計し、これらの脅威の実用的妥当性を示す。
論文 参考訳（メタデータ） (2021-08-25T15:49:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。