論文の概要: When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems

• arxiv url: http://arxiv.org/abs/2608.06830v1
• Date: Fri, 07 Aug 2026 05:39:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.370215
• Title: When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems
• Title（参考訳）: 協調が脅威となるとき--LLM制御マルチロボットシステムにおける通信攻撃
• Authors: Zhen Huang, Zhihuang Liu, Weijia Shi, Yifan Yang, Weishang Wu, Zhiping Cai,
• Abstract要約: 大規模言語モデル(LLM)は、具体化されたマルチロボットシステムにおいて、高レベルプランナーとしてますます使われている。 マルチロボットコラボレーションにおけるコミュニケーションリスクは, まだ十分に理解されていない。
• 参考スコア（独自算出の注目度）: 45.96097597345022
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are increasingly used as high-level planners in embodied multi-robot systems, enabling robots to interpret natural language instructions and coordinate executable actions. Yet, this growing reliance on LLM planners also raises security concerns. Prior work has focused mainly on individual robots, while communication risks in multi-robot collaboration remain insufficiently understood. Existing multi-robot studies are further limited to preliminary analysis under the Decentralized Multi-agent System (DMAS) architecture, so it remains unclear whether these risks persist across other common communication architectures and how attacker access settings shape their propagation. To fill this gap, we formulate two communication attacks corresponding to distinct attacker access settings: the External Entry Point Attack and the Privileged In-System Attack. We evaluate both attacks across DMAS, HMAS-1, and HMAS-2 using three LLMs and five embodied multi-robot tasks. Results show that unsafe information can turn into unsafe actions across all three architectures: DMAS reaches a 96.7\% entry endorsement rate and a 100\% post endorsement activation rate, HMAS-1 reaches a 97.8\% unsafe action success rate, and HMAS-2 triggers 88.3\% of task defined unsafe action slots. To mitigate risks from trusted information flow, we introduce the Claim Provenance and Verification (CPV) Gate, which verifies communicated claims before downstream reuse and reduces the violation rate from 70.0\% to 36.6\%.
• Abstract（参考訳）: 大規模言語モデル (LLM) は、ロボットが自然言語命令を解釈し、実行可能な動作を調整できるように、多ロボットシステムの高レベルプランナーとしてますます使われている。 しかし、このLLMプランナへの依存度の増加は、セキュリティ上の懸念も引き起こす。 従来の作業は主に個々のロボットに焦点を当てていたが、マルチロボットコラボレーションにおけるコミュニケーションリスクは十分に理解されていない。 既存のマルチロボット研究は、分散マルチエージェントシステム(DMAS)アーキテクチャの下での予備的な分析に制限されているため、これらのリスクが他の共通通信アーキテクチャにまたがって持続するか、攻撃者のアクセス設定が伝播をどう形成するかは、まだ不明である。 このギャップを埋めるために、異なる攻撃者アクセス設定に対応する2つの通信攻撃を定式化する。 DMAS, HMAS-1, HMAS-2の2つの攻撃を3つのLDMと5つの組込みマルチロボットタスクを用いて評価した。 DMASは96.7 %のエントリー支持率、100 %のポスト支持活性化率、HMAS-1 は97.8 %のアンセーフアクション成功率、HMAS-2 は88.3 %のタスク定義アンセーフアクションスロットをトリガーする。 信頼情報フローからのリスクを軽減するため,下流再使用前の通信請求を検証し,違反率を70.0\%から36.6\%に下げるCriim Provenance and Verification(CPV)ゲートを導入する。

関連論文リスト

• Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise [26.689718481370903]
  大規模言語モデル (LLMs) は、インテリジェンスにおける一般的なプランナーとしてますます使われている。 対戦相手が単一のエントリーロボットのみと対話するマルチロボットシステムに対する新たな攻撃パラダイムを提案する。 私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。
  論文  参考訳（メタデータ） (2026-05-15T05:45:52Z)
• From Prompt to Physical Action: Structured Backdoor Attacks on LLM-Mediated Robotic Control Systems [3.6185608572339962]
  大規模言語モデル(LLM)は、ユーザプロンプトを実行可能なコマンドに変換するために、ロボット制御パイプラインに統合される。 このデジタル・物理的インターフェースは、重要で未発見の脆弱性、すなわち微調整中に埋め込まれた構造化バックドア攻撃を導入している。 LLMによるROS2ロボット制御システムにおけるLoRAベースのサプライチェーンバックドアを実験的に検討し、ロボットの物理的実行への影響を評価する。
  論文  参考訳（メタデータ） (2026-04-04T23:06:16Z)
• X-Teaming: Multi-Turn Jailbreaks and Defenses with Adaptive Multi-Agents [76.66287343106204]
  X-Teamingは、一見無害な相互作用が有害な結果へとエスカレートし、対応する攻撃シナリオを生成するフレームワークである。 X-Teamingは最新のClaude 3.7 Sonnetモデルに対して96.2%の攻撃成功率を達成した。 XGuard-Trainは、オープンソースのマルチターン安全トレーニングデータセットで、前回のベストリソースの20倍大きい。
  論文  参考訳（メタデータ） (2025-04-15T16:11:28Z)
• Can We Trust Embodied Agents? Exploring Backdoor Attacks against Embodied LLM-based Decision-Making Systems [27.316115171846953]
  大規模言語モデル(LLM)は、実世界のAI意思決定タスクにおいて大きな可能性を示している。 LLMは、固有の常識と推論能力を活用するために微調整され、特定の用途に適合する。 この微調整プロセスは、特に安全クリティカルなサイバー物理システムにおいて、かなりの安全性とセキュリティの脆弱性をもたらす。
  論文  参考訳（メタデータ） (2024-05-27T17:59:43Z)
• On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。 LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。