論文の概要: SoK: Security and Privacy of Foundation-Model-Powered Robots

• arxiv url: http://arxiv.org/abs/2606.16788v1
• Date: Mon, 15 Jun 2026 14:32:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:34.619286
• Title: SoK: Security and Privacy of Foundation-Model-Powered Robots
• Title（参考訳）: SoK:ファンデーションモデル駆動ロボットのセキュリティとプライバシ
• Authors: Xueluan Gong, Chen Chen, Jinxin Liu, Qian Wang, Kwok-Yan Lam,
• Abstract要約: FM駆動ロボットのS&P解析のための,プログレッシブF-E-S-G構造境界フレームワークを提案する。 我々は,F-E-S-G信頼境界,セキュリティ・プライバシ問題,リスク軽減の観点から,先行研究を3段階にまとめる多段階分類法を開発した。 分析の結果,複数の脅威パターン,防衛ミスマッチ,単一境界の観点からの識別が難しい評価ギャップが明らかになった。
• 参考スコア（独自算出の注目度）: 31.235565710448437
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Foundation models are reshaping robotics by enabling robots to interpret open-ended instructions, reason over multimodal contexts, and operate in complex, open-world environments. However, their integration also introduces security and privacy (S&P) risks that extend beyond the FMs themselves to embodied execution pipelines, supporting ecosystems, and broader governance impacts. Existing literature reviews provide valuable insights but often focus on specific FM types, risk categories, mitigation strategies, or trust boundaries. Consequently, the field lacks a unified structure for analyzing where risks originate, how they propagate across robotic systems, and where mitigations should intervene. To address this gap, we propose a progressive F-E-S-G structural boundary framework for analyzing the S&P of FM-powered robots. The framework comprises four layers: the Foundation model layer (F), Embodied system layer (E), Supporting ecosystem layer (S), and Governance impact layer (G). Building on this structure, we develop a multi-level taxonomy that organizes prior studies along three levels: F-E-S-G trust boundary, security-privacy concerns, and risk-mitigation perspectives. We further annotate each study using fine-grained coding attributes, including target, lifecycle stage, mechanism, system access, and effect. Guided by this framework and taxonomy, we systematize 96 papers. Our analysis uncovers multiple threat patterns, defense mismatches, and evaluation gaps that are difficult to identify from a single-boundary perspective. Based on these findings, we identify open challenges and future directions to provide a research agenda for developing secure, privacy-preserving, and responsibly governed FM-powered robotic systems.
• Abstract（参考訳）: ファンデーションモデルは、ロボットがオープンエンドの指示を解釈し、マルチモーダルなコンテキストを推論し、複雑なオープンワールド環境で動作できるようにすることで、ロボティクスを再構築している。 しかし、その統合はまた、FM自体を越えて、実行パイプラインを具体化し、エコシステムをサポートし、より広範なガバナンスの影響を及ぼすセキュリティとプライバシ(S&P)リスクも導入している。 既存の文献レビューは貴重な洞察を提供するが、しばしば特定のFMタイプ、リスクカテゴリ、緩和戦略、信頼境界に焦点を当てる。 その結果、フィールドは、リスクの発する場所、ロボットシステム間の伝播方法、緩和すべき場所を分析するための統一された構造を欠いている。 このギャップに対処するために,FM駆動ロボットのS&P解析のためのプログレッシブF-E-S-G構造境界フレームワークを提案する。 このフレームワークは、ファンデーションモデルレイヤ(F)、エンボダイドシステムレイヤ(E)、エコシステムレイヤ(S)、ガバナンスインパクトレイヤ(G)の4つのレイヤで構成されている。 この構造に基づいて, F-E-S-G信頼境界, セキュリティ・プライバシ問題, リスク軽減の観点から, 先行研究を組織する多段階分類法を開発した。 さらに、ターゲット、ライフサイクルステージ、メカニズム、システムアクセス、エフェクトなど、詳細なコーディング属性を使用して各研究に注釈を付ける。 この枠組みと分類によって、96の論文を体系化した。 分析の結果,複数の脅威パターン,防衛ミスマッチ,単一境界の観点からの識別が難しい評価ギャップが明らかになった。 これらの知見に基づき、安全でプライバシーを保護し、責任を負うFM駆動ロボットシステムを開発するための研究課題と今後の方向性を明らかにする。

関連論文リスト

• Security Attack and Defense Strategies for Autonomous Agent Frameworks: A Layered Review with OpenClaw as a Case Study [6.816972488354133]
  本調査では,自律エージェントフレームワークにおけるセキュリティリスクと防衛戦略の階層的なレビューを行う。 分析を4つのセキュリティ関連レイヤ – コンテキスト層と命令層,ツール層とアクション層,ステート層と永続化層,エコシステム層とオートメーション層 – にまとめる。 自律エージェントフレームワークの脅威は、操作された入力から安全でないアクション、永続的な状態汚染、より広範なエコシステムレベルの影響に至るまで、階層にわたって伝播する可能性がある。
  論文  参考訳（メタデータ） (2026-04-30T06:04:34Z)
• From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems [0.5161531917413708]
  我々は,ロボットサイバーセキュリティ,敵対的知覚攻撃,LLMの安全性が信頼境界を越えてどのように作用し,伝播するかを研究する。 DFDをベースとした脅威分析は、LLM対応ロボットシステムの完全な認識計画アクチュエーターパイプラインに3つの脅威カテゴリを統合した初めてのものである。
  論文  参考訳（メタデータ） (2026-04-29T23:44:07Z)
• Safety in Embodied AI: A Survey of Risks, Attacks, and Defenses [168.50301366360344]
  Embodied AI (Embodied AI) は、知覚、認知、計画、相互作用を、安全クリティカルな環境で機能するエージェントに統合する。 デジタルAIシステムとは異なり、エンボディエージェントは不確実な検知、不完全な知識、動的な人間とロボットの相互作用の下で行動しなければならない。 この調査は、エンボディされたAIにおける安全性研究の包括的なレビューを提供し、完全なエンボディされたパイプラインにわたる攻撃と防御を調査している。
  論文  参考訳（メタデータ） (2026-03-28T13:21:44Z)
• Towards Secure Retrieval-Augmented Generation: A Comprehensive Review of Threats, Defenses and Benchmarks [21.880338678029503]
  Retrieval-Augmented Generation (RAG)は、大規模言語モデルにおける幻覚とドメイン知識の欠如を、外部知識ベースを組み込むことによって著しく軽減する。 本稿では、その基盤となる脆弱性メカニズムを分析し、データ中毒、敵攻撃、メンバシップ推論攻撃などのコア脅威ベクトルを体系的に分類する。 潜在的なリスクについて深い洞察を得ることにより、この研究は、高度に堅牢で信頼性の高い次世代RAGシステムの開発を促進することを目指している。
  論文  参考訳（メタデータ） (2026-03-23T07:32:59Z)
• Model Context Protocol (MCP): Landscape, Security Threats, and Future Research Directions [7.986500985812646]
  Model Context Protocol(MCP)は、AIモデルと外部ツールやリソースとの統一された双方向通信および動的発見プロトコルを定義する、新たなオープン標準である。 本稿では,アーキテクチャとセキュリティの両面からMPPを体系的に検討する。
  論文  参考訳（メタデータ） (2025-03-30T01:58:22Z)
• A Survey of Model Extraction Attacks and Defenses in Distributed Computing Environments [55.60375624503877]
  モデル抽出攻撃(MEA)は、敵がモデルを盗み、知的財産と訓練データを公開することによって、現代の機械学習システムを脅かす。 この調査は、クラウド、エッジ、フェデレーションのユニークな特性がどのように攻撃ベクトルや防御要件を形作るのかを、緊急に理解する必要に起因している。 本研究は, 自動運転車, 医療, 金融サービスといった重要な分野において, 環境要因がセキュリティ戦略にどう影響するかを実証し, 攻撃手法と防衛機構の進化を系統的に検討する。
  論文  参考訳（メタデータ） (2025-02-22T03:46:50Z)
• SoK: The Security-Safety Continuum of Multimodal Foundation Models through Information Flow and Game-Theoretic Defenses [58.93030774141753]
  MFM(Multimodal foundation model)は、多種多様なデータモダリティを統合し、複雑で広範囲なタスクをサポートする。 本稿では,モデル行動とシステムレベルの相互作用の両方から生じる致命的な脅威を特定することで,MFMの文脈における安全性とセキュリティの概念を統一する。
  論文  参考訳（メタデータ） (2024-11-17T23:06:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。