論文の概要: Security and Privacy in Large-Model-Driven Embodied Agents: Attacks, Defenses, and Future Directions

• arxiv url: http://arxiv.org/abs/2609.27847v1
• Date: Wed, 19 Aug 2026 15:18:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.110482
• Title: Security and Privacy in Large-Model-Driven Embodied Agents: Attacks, Defenses, and Future Directions
• Title（参考訳）: 大規模モデル駆動型身体エージェントのセキュリティとプライバシ:アタック,ディフェンス,今後の方向性
• Abstract要約: 本調査では,大規模モデル駆動型エンボディエージェントのセキュリティとプライバシのライフサイクルに基づく分析を行った。 既存の研究は、モデル構築とサプライチェーン、マルチモーダル入力とインタラクション、セマンティック推論とタスク計画、アクション実行と物理的フィードバック、長期展開の5段階に分けられる。 本分析は, エンボディドクローズドループの異なる段階において, 攻撃進入, 結果実現, 防御介入がしばしば発生することを示した。
• 参考スコア（独自算出の注目度）: 19.78153389272273
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large-model-driven embodied agents integrate foundation models with perception, reasoning, planning, and physical action, extending conventional model-level risks into embodied closed loops. Existing studies on their security and privacy remain fragmented across different system components and operational stages, making it difficult to understand how risks arise, propagate, and ultimately affect physical behavior or sensitive information. This survey presents a lifecycle-based analysis of security and privacy in large-model-driven embodied agents. We organize existing research into five stages: model construction and supply chain, multimodal input and interaction, semantic reasoning and task planning, action execution and physical feedback, and long-term deployment. Within this lifecycle, we systematically review representative attacks, defenses, and evaluation methods. Our analysis shows that attack entry, consequence realization, and defense intervention often occur at different stages of the embodied closed loop. It further reveals substantial gaps in end-to-end protection, real-world evaluation, and long-term privacy governance. This survey provides a unified perspective for understanding current progress and identifying critical directions for securing large-model-driven embodied agents.
• Abstract（参考訳）: 大規模モデル駆動型エンボディードエージェントは、知覚、推論、計画、物理的行動を含む基礎モデルを統合し、従来のモデルレベルのリスクをエンボディード閉ループに拡張する。 セキュリティとプライバシに関する既存の研究は、さまざまなシステムコンポーネントと運用ステージで断片化されており、リスクの発生、伝播、究極的には物理的な行動や機密情報に影響を与えることの理解が難しい。 本調査では,大規模モデル駆動型エンボディエージェントのセキュリティとプライバシのライフサイクルに基づく分析を行った。 既存の研究は、モデル構築とサプライチェーン、マルチモーダル入力とインタラクション、セマンティック推論とタスク計画、アクション実行と物理的フィードバック、長期展開の5段階に分けられる。 このライフサイクルの中で、我々は代表的攻撃、防御、評価方法を体系的にレビューする。 本分析は, エンボディドクローズドループの異なる段階において, 攻撃進入, 結果実現, 防御介入がしばしば発生することを示した。 さらに、エンド・ツー・エンドの保護、現実世界の評価、長期的なプライバシー管理のギャップも明らかにしている。 このサーベイは、現在の進捗を理解し、大規模モデル駆動型実施エージェントを確保するための重要な方向を特定するための統一された視点を提供する。

関連論文リスト

• Security of Foundation-Model-Powered Embodied Agents: Attack Surfaces, Attacks, Defenses, and Evaluation [12.47973140913683]
  本稿では,基礎モデルを用いたエンボディエージェントセキュリティに関する信頼境界を中心に調査を行う。 2026年8月15日までに収集された58件の攻撃記録と61件の防衛記録に基づいて, 代表攻撃, 層間伝播, 防御配置, 評価プラクティスを分析した。 我々は,状態の証明,構成的防御,長距離攻撃伝播,物理的実現性,ビザンチン多ロボット挙動,閉ループ評価の統一といった課題を解決した。
  論文  参考訳（メタデータ） (2026-08-17T17:28:49Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• Simulating and Understanding Deceptive Behaviors in Long-Horizon Interactions [18.182800471968132]
  大規模言語モデルにおける偽造の探索と評価のための最初のシミュレーションフレームワークを紹介する。 11のフロンティアモデルで実験を行い、クローズドシステムとオープンソースシステムの両方にまたがっています。 詐欺はモデルに依存しており、イベントプレッシャーの増加とともに増加し、常に監督的信頼を損なう。
  論文  参考訳（メタデータ） (2025-10-05T02:18:23Z)
• Safety at Scale: A Comprehensive Survey of Large Model and Agent Safety [296.5392512998251]
  我々は、敵攻撃、データ中毒、バックドア攻撃、ジェイルブレイクとプロンプトインジェクション攻撃、エネルギー遅延攻撃、データとモデル抽出攻撃、出現するエージェント固有の脅威を含む、大規模なモデルに対する安全脅威の包括的分類を提示する。 我々は、大規模なモデル安全性におけるオープンな課題を特定し、議論し、包括的な安全性評価、スケーラブルで効果的な防御機構、持続可能なデータプラクティスの必要性を強調します。
  論文  参考訳（メタデータ） (2025-02-02T05:14:22Z)
• Digital Privacy Under Attack: Challenges and Enablers [11.061112334099597]
  我々は、匿名データ、統計集計、プライバシー保護モデルという3つのドメインをターゲットにした攻撃を体系的に分類する。 各カテゴリにおいて、攻撃方法、敵の能力、脆弱性メカニズムを解析する。 我々の分析によると、差分プライバシーは強力な理論的保証を提供するが、新たな攻撃に対する実装上の課題と潜在的な脆弱性に直面している。
  論文  参考訳（メタデータ） (2023-02-18T08:34:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。