論文の概要: Lie Rarely, Lie Big: Stealthy Insider Attacks on LLM Robot Teams

• arxiv url: http://arxiv.org/abs/2610.04744v1
• Date: Sat, 03 Oct 2026 20:20:57 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-06 21:33:53.846373
• Title: Lie Rarely, Lie Big: Stealthy Insider Attacks on LLM Robot Teams
• Title（参考訳）: リー・レアリーとリー・ビッグ:LSMロボットチームへのステルスなインサイダー攻撃
• Abstract要約: マルチロボットサーベイにおけるロボットの脅威について検討する。 最悪のステルス攻撃は、極めて稀で完全なマグニチュードが証明される可能性が低い記録にあることを示している。 正直なロボットがLSMエージェントである実験では、どちらの境界も攻撃が実際に費やした予算に当てはまる。
• 参考スコア（独自算出の注目度）: 22.283866173947278
• License:
• Abstract: When a team of robots delegates planning and mutual trust to LLM agents, a single compromised robot can corrupt the shared outcome. We study this threat in a grounded task: a multi-robot survey in which measurements can be verified against the physical world, but every verification costs budget that would otherwise advance the mission. We treat the compromised robot as a stealthy adversary in the system-theoretic sense: it is limited not by an energy bound but by the team's own detectors. We then derive two bounds. First, the probability that the adversary's reports are verified is bounded below in terms of the degrees in the communication graph and the verification budget. Second, the map error caused by any stealthy adversary is bounded above by the value of a linear program over the adversary's bias distributions; its solution is an exchange rate between stealth budget and damage: below a critical verification level the worst stealthy attack tells rare, full-magnitude lies on the records least likely to be verified, and above it the better purchase is small biases hidden in the noise. In experiments where the honest robots are LLM agents, both bounds hold at the budget the attack actually spent. The experiments also show that which records an LLM robot re-checks is unbiased, but how much it re-checks is unpredictable.
• Abstract（参考訳）: ロボットのチームがLSMエージェントに計画と相互信頼を委譲すると、単一の妥協されたロボットが共通の結果を損なう可能性がある。 我々は、この脅威を、物理的世界に対して測定を検証できるマルチロボットサーベイ(Multi-robot survey)で調査するが、すべての検証は、ミッションを前進させる費用を負担する。 我々は、この妥協されたロボットを、システム理論的な意味でのステルス的な敵として扱う:エネルギー境界ではなく、チーム自身の検出器によって制限される。 次に2つの境界を導出する。 まず、相手の報告が検証される確率を、通信グラフの次数と検証予算の次数で表す。 第二に、任意のステルスの敵によるマップエラーは、敵のバイアス分布に対する線形プログラムの値によって上述される; その解決策は、ステルス予算と損害の間の交換レートである: 重大な検証レベル以下では、最悪のステルスの攻撃は稀であり、完全なマグニチュードは検証される可能性が低いレコードの上にあり、その上、より良い購入はノイズの中に隠れた小さなバイアスである。 正直なロボットがLSMエージェントである実験では、どちらの境界も攻撃が実際に費やした予算に当てはまる。 実験では、LLMロボットの再チェックの記録にはバイアスがかかりませんが、どの程度の再チェックが予測できないかが示されています。

関連論文リスト

• Taming VLAs under Robot Execution Errors: Self-Compensation and Stress Testing [59.15715295478112]
  視覚言語アクション(VLA)ポリシーは、ロボットが実行した動作が命令された動作から逸脱した場合にしばしば失敗する。 本稿では,VLAポリシーがロボットの実行エラーを事前に補償できるデプロイ時適応手法である自己補償型VLAを提案する。
  論文  参考訳（メタデータ） (2026-09-29T12:08:13Z)
• Seeing is Not Believing: Breaking the Physical-to-Digital Trust Boundary in Robotics [20.673284935764887]
  本稿では,ロボット・オペレーティング・システム(ROS)2における深刻な脆弱性を明らかにする。単一環境変数を変更することで,敵が事前に構築したフックを実行し,テレメトリと制御信号の両方を隠蔽して,公開前に注入することができる。 サードパーティのDockerコンテナに広く依存していることを活用することで、攻撃者は悪質なフックに埋め込まれた妥協パッケージを配布して、そのような攻撃を容易に起動することができる。 Secure ROS 2を実行しているFranka Emikaロボットアーム上で、我々の攻撃は3ミリ秒程度のジッタで製造したテレメトリをリアルタイムで注入し、時間同期とハードウェアの整合性を保ちながら、AIに対して87%の成功率を達成した。
  論文  参考訳（メタデータ） (2026-09-08T05:50:58Z)
• !Imperio, smolVLA: The Implications of Data Poisoning on Open Source Robotics [0.0]
  この研究は、視覚言語行動モデルのトリガーワードデータ中毒が実用的であることを証明している。 いくつかの有毒なサンプルは、命令でロボットを無効にするバックドアを静かに埋め込むことができる。 我々は、現実世界のピック・アンド・プレイス・タスクにおけるスモールVLAに対するこの脅威を評価し、3つの毒の比率をトレーニングし、LeRobotプラットフォーム上で異なるプロンプトで評価する。
  論文  参考訳（メタデータ） (2026-07-05T07:14:56Z)
• Propagating Unsafe Actions in LLM Controlled Multi-Robot Collaboration via Single Robot Compromise [26.689718481370903]
  大規模言語モデル (LLMs) は、インテリジェンスにおける一般的なプランナーとしてますます使われている。 対戦相手が単一のエントリーロボットのみと対話するマルチロボットシステムに対する新たな攻撃パラダイムを提案する。 私たちはこのプロセスを3つのメトリクス、服従、伝染、ステルスネスで定量化します。
  論文  参考訳（メタデータ） (2026-05-15T05:45:52Z)
• When Robots Say No: Temporal Trust Recovery Through Explanation [2.337620902636256]
  人間ロボットチーム(HRT)に統合されたロボットは、有害な建物を探すのに効果的に働く。 分散状況認識では、ロボットが要求に応じて即座に優先順位を変更することを辞退すると、ユーザーはロボットの完全性を疑う傾向にある。 本研究は,ハイテイクな人間ロボットチーム構成シナリオにおけるオンミッション信頼度に関するコンピュータによる研究結果である。
  論文  参考訳（メタデータ） (2025-09-15T14:29:52Z)
• Jailbreaking LLM-Controlled Robots [82.04590367171932]
  大規模言語モデル(LLM)は、文脈推論と直感的な人間とロボットの相互作用を可能にすることによって、ロボット工学の分野に革命をもたらした。 LLMは脱獄攻撃に弱いため、悪意のあるプロンプトはLLMの安全ガードレールをバイパスすることで有害なテキストを誘発する。 LLM制御ロボットをジェイルブレイクするアルゴリズムであるRoboPAIRを紹介する。
  論文  参考訳（メタデータ） (2024-10-17T15:55:36Z)
• Learning Vision-based Pursuit-Evasion Robot Policies [54.52536214251999]
  我々は、部分的に観察可能なロボットの監督を生成する完全観測可能なロボットポリシーを開発する。 我々は、RGB-Dカメラを搭載した4足歩行ロボットに、野生での追従回避のインタラクションにポリシーを展開させる。
  論文  参考訳（メタデータ） (2023-08-30T17:59:05Z)
• Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
  エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。 既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。 以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
  論文  参考訳（メタデータ） (2022-07-20T19:49:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。