論文の概要: Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise

• arxiv url: http://arxiv.org/abs/2605.15641v2
• Date: Mon, 18 May 2026 02:26:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:46.108111
• Title: Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise
• Title（参考訳）: 単一ロボットによるLLM制御多ロボット協調における安全でない動作の促進
• Authors: Zhen Huang, Zhihuang Liu, Mengxuan Luo, Weishang Wu, Zhiping Cai,
• Abstract要約: 大規模言語モデル (LLMs) は、インテリジェンスにおける一般的なプランナーとしてますます使われている。 対戦相手が単一のエントリーロボットのみと対話するマルチロボットシステムに対する新たな攻撃パラダイムを提案する。 私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。
• 参考スコア（独自算出の注目度）: 26.689718481370903
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) are increasingly used as general planners in embodied intelligence, enabling high level coordination and low level task planning for both single robot and multi-robot collaboration. This increasing reliance on embodied LLM planners also raises critical security concerns, since misaligned or manipulated instructions can be translated into physical actions. Prior work has studied such threats in single robot settings, while security risks in LLM controlled multi-robot collaboration, especially those propagated through inter robot communication, remain largely unexplored. To bridge this gap, we propose a novel attack paradigm for multi-robot system in which the adversary interacts with only a single entry robot. The compromised robot then propagates malicious intent through peer communication, leading to coordinated unsafe actions across the system. Our evaluation, covering high risk dimensions of dereliction of duty, privacy compromise, and public safety hazards, reveals a persistent safety alignment gap in multi-robot planners. We quantify this process with three metrics, obedience, infectiousness, and stealthiness. Experiments demonstrate both persistent attacker control and rapid propagation: obedience reaches 1.00 in the strongest cases, and infectiousness rises to 0.90. Notably, the attack is highly efficient, requiring as few as 3.0 rounds to compromise all the robots while maintaining a stealthiness score of 0.81. Such risks are amplified when robots must resolve trade offs in critical situations, such as emergencies or conflicts of rights, because the coordination mechanism can unintentionally allow adversarial instructions to override safety requirements. The code is available at https://github.com/TheFatInsect/InfectBot.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、インテリジェンスにおける一般的なプランナーとしてますます使われ、単一のロボットとマルチロボットのコラボレーションのための高レベルの調整と低レベルのタスク計画を可能にしている。 LLMプランナの具体化への依存度が高まると、ミスアライメントや操作された命令が物理的なアクションに変換されるため、セキュリティ上の重大な懸念が生じる。 LLMのセキュリティリスクは、特にロボット間通信を通じて伝播するマルチロボットのコラボレーションを制御し、そのような脅威を単一のロボット設定で研究してきた。 このギャップを埋めるために、敵が単一のエントリーロボットのみと対話するマルチロボットシステムのための新しい攻撃パラダイムを提案する。 侵入されたロボットは、ピアコミュニケーションを通じて悪意ある意図を伝達し、システム全体の安全でない行動を調整します。 本評価では, 複数ロボットプランナにおいて, 義務の逸脱, プライバシの妥協, 公衆安全の危険度の高いリスク次元をカバーし, 永続的な安全アライメントのギャップを明らかにした。 私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。 実験では、永続的なアタッカーコントロールと迅速な伝播の両方が示され、最も強いケースでは服従が1.00に達し、感染率は0.90に上昇する。 特にこの攻撃は非常に効率的で、ステルスネススコア0.81を維持しながら、全てのロボットを妥協するためには、最大3.0発のラウンドが必要になる。 このようなリスクは、ロボットが緊急時や権利紛争などの重要な状況でトレードオフを解決しなければならない場合に増幅される。 コードはhttps://github.com/TheFatInsect/InfectBotで入手できる。

関連論文リスト

• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• Safety Guardrails for LLM-Enabled Robots [82.0459036717193]
  従来のロボット安全アプローチは、大規模言語モデル(LLM)の新たな脆弱性に対処しない LLM対応ロボットの安全性を確保するための2段ガードレールアーキテクチャであるRoboGuardを提案する。 RoboGuardは、安全プランのパフォーマンスを損なうことなく、安全でないプランの実行を92%から2.5%以下に削減することを示す。
  論文  参考訳（メタデータ） (2025-03-10T22:01:56Z)
• BadRobot: Jailbreaking Embodied LLMs in the Physical World [20.96351292684658]
  Embodied AIは、AIが物理的エンティティに統合されるシステムを表す。 大きな言語モデル(LLM)は強力な言語理解能力を示す。 我々は,従来の音声ベースのユーザシステムインタラクションを通じて,LLMを安全性や倫理的制約に違反させることを目的とした,新たな攻撃パラダイムであるBadRobotを紹介した。
  論文  参考訳（メタデータ） (2024-07-16T13:13:16Z)
• Commonsense Reasoning for Legged Robot Adaptation with Vision-Language Models [81.55156507635286]
  脚のついたロボットは、様々な環境をナビゲートし、幅広い障害を克服することができる。 現在の学習手法は、人間の監督を伴わずに、予期せぬ状況の長い尾への一般化に苦慮することが多い。 本稿では,VLM-Predictive Control (VLM-PC) というシステムを提案する。
  論文  参考訳（メタデータ） (2024-07-02T21:00:30Z)
• Safety Control of Service Robots with LLMs and Embodied Knowledge Graphs [12.787160626087744]
  本稿では,大規模言語モデルとERCP(Embodied Robotic Control Prompts)とEKG(Embodied Knowledge Graphs)との新たな統合を提案する。 ERCPは、LLMが安全かつ正確な応答を生成するための事前定義された命令として設計されている。 EKGは、ロボットの動作が安全プロトコルと継続的に一致していることを保証する包括的な知識基盤を提供する。
  論文  参考訳（メタデータ） (2024-05-28T05:50:25Z)
• On the Vulnerability of LLM/VLM-Controlled Robotics [54.57914943017522]
  大規模言語モデル(LLM)と視覚言語モデル(VLM)を統合するロボットシステムの脆弱性を,入力モダリティの感度によって強調する。 LLM/VLM制御型2つのロボットシステムにおいて,単純な入力摂動がタスク実行の成功率を22.2%,14.6%減少させることを示す。
  論文  参考訳（メタデータ） (2024-02-15T22:01:45Z)
• Improving safety in physical human-robot collaboration via deep metric learning [36.28667896565093]
  柔軟な生産シナリオでは、ロボットとの直接の物理的相互作用がますます重要になっている。 リスクポテンシャルを低く抑えるため、物理的な接触がある場合や安全距離に違反する場合など、比較的簡単な操作措置が定められている。 この研究はDeep Metric Learning(DML)アプローチを用いて、非接触ロボットの動き、物理的人間とロボットの相互作用を目的とした意図的な接触、衝突状況の区別を行う。
  論文  参考訳（メタデータ） (2023-02-23T11:26:51Z)
• A New Paradigm of Threats in Robotics Behaviors [4.873362301533825]
  我々は、次世代ロボットにおけるセキュリティの脅威の新しいパラダイムを特定する。 これらの脅威は、既知のハードウェアやネットワークベースの脅威を超えます。 これらの脆弱性を現実的な例で悪用する攻撃の分類を提供する。
  論文  参考訳（メタデータ） (2021-03-24T15:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。