論文の概要: Security of Foundation-Model-Powered Embodied Agents: Attack Surfaces, Attacks, Defenses, and Evaluation
- arxiv url: http://arxiv.org/abs/2608.16843v1
- Date: Mon, 17 Aug 2026 17:28:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.820245
- Title: Security of Foundation-Model-Powered Embodied Agents: Attack Surfaces, Attacks, Defenses, and Evaluation
- Title（参考訳）: ファンデーションモデルを用いた防犯エージェントのセキュリティ:攻撃面、攻撃、防御、評価
- Abstract要約: 本稿では,基礎モデルを用いたエンボディエージェントセキュリティに関する信頼境界を中心に調査を行う。
2026年8月15日までに収集された58件の攻撃記録と61件の防衛記録に基づいて, 代表攻撃, 層間伝播, 防御配置, 評価プラクティスを分析した。
我々は,状態の証明,構成的防御,長距離攻撃伝播,物理的実現性,ビザンチン多ロボット挙動,閉ループ評価の統一といった課題を解決した。
- 参考スコア（独自算出の注目度）: 12.47973140913683
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Foundation models are increasingly used for perception, reasoning, planning, and action generation in embodied agents, creating security risks that can propagate from digital inputs to physical behavior. Existing surveys often organize threats by mechanisms such as jailbreaks, prompt injection, backdoors, poisoning, or adversarial examples, but these categories do not consistently identify where an adversary first enters the embodied control loop. We present a trust-boundary-centric survey of foundation-model-powered embodied-agent security. Using a first-compromised-trust-boundary principle, we separate attack surface from attack mechanism and organize the system into five layers and twelve attack surfaces spanning the model supply chain, user instructions, context and memory, physical semantic environments, multimodal perception, world state, internal reasoning, task planning, action interfaces, middleware, multi-agent communication, and execution control. Based on 58 attack records and 61 defense records collected through August 15, 2026, we analyze representative attacks, cross-layer propagation, defense placement, and evaluation practices. Our quantitative analysis shows that attack research is concentrated on multimodal perception and action interfaces, while defenses are especially concentrated on action-level and runtime protection. Context and long-term memory, middleware and networking, world-state integrity, and multi-agent trust remain comparatively underexplored. We conclude with open challenges in state provenance, compositional defenses, long-horizon attack propagation, physical realizability, Byzantine multi-robot behavior, and unified closed-loop evaluation.
- Abstract（参考訳）: 基礎モデルは、エンボディエージェントの知覚、推論、計画、行動生成にますます使われ、デジタル入力から物理的な行動へと伝播するセキュリティリスクを生み出している。
既存の調査では、ジェイルブレイク、プロンプトインジェクション、バックドア、毒殺、敵の例などのメカニズムによって脅威を組織することが多いが、これらのカテゴリは、敵が最初にエンボディドコントロールループに入る場所を常に特定していない。
本稿では,基礎モデルを用いたエンボディエージェントセキュリティに関する信頼境界を中心に調査を行う。
攻撃対象を攻撃機構から分離し,モデルサプライチェーン,ユーザ命令,コンテキストとメモリ,物理的セマンティック環境,マルチモーダル認識,世界状態,内部推論,タスク計画,アクションインターフェース,ミドルウェア,マルチエージェント通信,実行制御にまたがる5つのレイヤと12のアタックサーフェスに編成する。
2026年8月15日までに収集された58件の攻撃記録と61件の防衛記録に基づいて, 代表攻撃, 層間伝播, 防御配置, 評価プラクティスを分析した。
定量的分析の結果,攻撃研究はマルチモーダル認識とアクションインタフェースに集中しており,防御はアクションレベルと実行時保護に特に集中していることがわかった。
コンテキストと長期記憶、ミドルウェアとネットワーキング、世界状態の整合性、マルチエージェント信頼は、いまだに未熟である。
我々は,状態の証明,構成的防御,長距離攻撃伝播,物理的実現性,ビザンチン多ロボット挙動,閉ループ評価の統一といった課題を解決した。
関連論文リスト
- Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。
モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。
その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
論文 参考訳（メタデータ） (2026-06-22T09:23:50Z) - Vision-Language-Action Safety: Threats, Challenges, Evaluations, and Mechanisms [61.29786895012393]
VLA(Vision-Language-Action)モデルがインボディードインテリジェンスのための統一された基盤として登場している。
この調査は、ビジョン・ランゲージ・アクションモデルにおける安全性の統一的で最新の概要を提供する。
論文 参考訳（メタデータ） (2026-04-26T15:58:19Z) - Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。
デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。
この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
論文 参考訳（メタデータ） (2026-03-28T13:21:44Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - DREAM: Dynamic Red-teaming across Environments for AI Models [28.267208528754082]
我々は,動的多段階攻撃に対する大規模言語モデル(LLM)の評価フレームワークであるDREAMを紹介する。
DREAMの中核は、脆弱性のステートフルでクロスドメインな理解を維持するために、クロス環境適応知識グラフ(CE-AKG)を使用している。
これらの攻撃鎖は、ほとんどのモデルで70%以上のケースで成功している。
論文 参考訳（メタデータ） (2025-12-22T04:11:57Z) - SentinelNet: Safeguarding Multi-Agent Collaboration Through Credit-Based Dynamic Threat Detection [22.242243610133215]
大規模言語モデル(LLM)を用いたマルチエージェントシステム(MAS)の信頼性と意思決定能力に悪質なエージェントが重大な脅威をもたらす
マルチエージェントコラボレーションにおいて,悪意ある動作を積極的に検出・緩和する,最初の分散化フレームワークであるSentinelNetを提案する。
MASベンチマークの実験では、SentinelNetは2回の討論ラウンドで100%近く、悪意のあるエージェントのほぼ完全な検出を実現し、漏洩したベースラインからシステム精度の95%を回復している。
論文 参考訳（メタデータ） (2025-10-17T21:10:35Z) - Backdoor Attacks and Defenses in Computer Vision Domain: A Survey [12.384887829851834]
バックドア攻撃は、隠された制御可能な振る舞いを機械学習モデルに埋め込む。
本調査は,コンピュータビジョン領域におけるバックドア攻撃と防御に関する文献の急成長を概観するものである。
論文 参考訳（メタデータ） (2025-09-09T08:38:05Z) - Physical Adversarial Attacks for Surveillance: A Survey [40.81031907691243]
本稿では,監視アプリケーションに対する身体的敵攻撃の学習と設計における最近の試みと成果を概観する。
特に,身体的敵攻撃を解析するための枠組みを提案し,4つの主要な監視課題に対する身体的敵攻撃を包括的に調査する。
本稿では,物理的な攻撃に対する監視システム内でのレジリエンスを構築するための重要なステップについて述べる。
論文 参考訳（メタデータ） (2023-05-01T20:19:59Z) - Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
本稿では,身体的敵意攻撃の概要を概観する。
本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。
提案する評価基準であるhiPAAは6つの視点から構成される。
論文 参考訳（メタデータ） (2022-09-30T01:59:53Z) - Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。
既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。
以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
論文 参考訳（メタデータ） (2022-07-20T19:49:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。