論文の概要: Silent Sabotage: Internal State Triggered Backdoor Attacks on LLM-Powered Robotic Systems

• arxiv url: http://arxiv.org/abs/2609.26184v1
• Date: Wed, 02 Sep 2026 00:18:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.917
• Title: Silent Sabotage: Internal State Triggered Backdoor Attacks on LLM-Powered Robotic Systems
• Title（参考訳）: サイレント・サボタージュ:LLM搭載ロボットシステムにおける内部状態トリガーバックドア攻撃
• Abstract要約: 本稿では,LSMを利用したロボットシステムにおける履歴に基づくバックドア攻撃の総合的研究について述べる。 攻撃者は、その指示を操作することで、LLMベースのロボットコントローラにステルスなバックドアを埋め込むことができる。 このバックドアは、外部のキューではなく、ロボット自身の過去のアクションの特定のまれなシーケンスによって起動される。
• 参考スコア（独自算出の注目度）: 1.6634990036714443
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The integration of Large Language Models (LLMs) into robotic control systems is enabling a new generation of autonomous agents capable of complex reasoning and planning. While this paradigm shift accelerates progress, it also introduces novel security risks that remain largely unexplored. Current research into LLM backdoors has focused on attacks triggered by external stimuli, such as specific words, visual objects, or environmental states. These attacks, while potent, overlook a more insidious class of vulnerability where the trigger is internal to the agent's own operational logic. This paper presents the first comprehensive study of history-based backdoor attacks on LLM-powered robotic systems. We demonstrate that an attacker can embed a stealthy backdoor into an LLM-based robot controller by manipulating its instructions. This backdoor is triggered not by an external cue, but by a specific, rare sequence of the robot's own past actions. It remains dormant during normal operation, preserving the robot's utility, but can be activated to induce a malicious behavior, such as a complete stop or a collision. Our experiments, conducted in a simulated environment with a variety of robots and LLMs, show that this history-based attack is highly effective, achieving a near-perfect attack success rate while remaining exceptionally difficult to detect. These findings reveal a critical and previously unaddressed vulnerability in autonomous systems and underscore the urgent need for security measures that account for an agent's internal state.
• Abstract（参考訳）: ロボット制御システムへのLarge Language Models(LLM)の統合は、複雑な推論と計画が可能な新しい世代の自律エージェントを可能にする。 このパラダイムシフトは進歩を加速する一方で、探索されていない新しいセキュリティリスクももたらします。 LLMバックドアに関する最近の研究は、特定の単語、視覚的物体、環境状態などの外部刺激によって引き起こされる攻撃に焦点を当てている。 これらの攻撃は強力だが、トリガーがエージェント自身の操作ロジックの内部にある、より汚いタイプの脆弱性を見落としている。 本稿では,LSMを利用したロボットシステムにおける履歴に基づくバックドア攻撃の総合的研究について述べる。 攻撃者は、その指示を操作することで、LLMベースのロボットコントローラにステルスなバックドアを埋め込むことができることを示す。 このバックドアは、外部のキューではなく、ロボット自身の過去のアクションの特定のまれなシーケンスによって起動される。 通常の操作では休眠状態のままで、ロボットの実用性を保っているが、完全な停止や衝突などの悪意ある行動を引き起こすために起動することができる。 各種ロボットやLSMを用いたシミュレーション実験により,この履歴に基づく攻撃は極めて効果的であり,検出が極めて困難でありながら,ほぼ完全な攻撃成功率を達成した。 これらの発見は、自律システムにおいて重要で、未修正の脆弱性を明らかにし、エージェントの内部状態を考慮に入れた緊急のセキュリティ対策の必要性を浮き彫りにしている。

関連論文リスト

• Backdoors in Learning-Based Industrial Robotic Arm Manipulation: An Empirical Security Study [9.88548510485795]
  本稿では,2つの産業用産業用ロボットアームを用いた学習型ロボット操作におけるバックドア攻撃と防御の予備的安全性について述べる。 本研究は,タスク実行時のステルス性を保ちながら,バックドアが意味的に不正確な操作行動を確実に引き起こせるかどうかを考察する。 我々は、実行時にトリガを検出して中和するオンラインディフェンスパイプラインを開発し、その効果をオフラインの微調整ディフェンスと比較する。
  論文  参考訳（メタデータ） (2026-09-22T16:46:10Z)
• TrojanWorld: Backdooring World-Model Agents via Imagination Steering [65.38754125569848]
  TrojanWorldは、世界モデルエージェントのためのバックドアフレームワークで、内部の想像力を操ることで攻撃者が特定した振る舞いを誘導する。 トリガーアクティベーションの下では、トロイジャンワールドは0.026までの目標アクション偏差を達成し、対応するクリーンパフォーマンスの少なくとも98.8%を維持している。
  論文  参考訳（メタデータ） (2026-09-07T05:14:10Z)
• From Prompt to Physical Action: Structured Backdoor Attacks on LLM-Mediated Robotic Control Systems [3.6185608572339962]
  大規模言語モデル(LLM)は、ユーザプロンプトを実行可能なコマンドに変換するために、ロボット制御パイプラインに統合される。 このデジタル・物理的インターフェースは、重要で未発見の脆弱性、すなわち微調整中に埋め込まれた構造化バックドア攻撃を導入している。 LLMによるROS2ロボット制御システムにおけるLoRAベースのサプライチェーンバックドアを実験的に検討し、ロボットの物理的実行への影響を評価する。
  論文  参考訳（メタデータ） (2026-04-04T23:06:16Z)
• TrojanRobot: Physical-world Backdoor Attacks Against VLM-based Robotic Manipulation [63.68326640737848]
  textitTrojanRobotは、物理的世界で非常にステルスで、広く有効なロボットバックドア攻撃だ。 バックドアモジュールをモジュール型ロボティクスポリシーに組み込むことにより,モジュール・ポゾン方式を導入する。 我々は,3種類の素攻撃(e,textitpermutation, textitstagnation, textitintentional attack)を開発し,より微細なバックドアを実現する。
  論文  参考訳（メタデータ） (2024-11-18T16:09:26Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Physical Backdoor Attack can Jeopardize Driving with Vision-Large-Language Models [53.701148276912406]
  Vision-Large-Language-models (VLMs) は自動運転において大きな応用可能性を持っている。 BadVLMDriverは、物理的オブジェクトを使用して実際に起動できる自動運転のためのVLMに対する最初のバックドア攻撃である。 BadVLMDriverは、赤い風船を持った歩行者に突如、加速を誘導する攻撃の成功率を92%達成する。
  論文  参考訳（メタデータ） (2024-04-19T14:40:38Z)
• AutoAttacker: A Large Language Model Guided System to Implement Automatic Cyber-attacks [13.955084410934694]
  大規模言語モデル (LLM) は、自然言語処理における印象的な結果を示している。 LLMは必然的に前進するので、前と後の両方の攻撃段階を自動化できるかもしれない。 この研究は、防衛システムやチームが、野生で使用する前に予防的に新しい攻撃行動を検出することを学ぶのに役立つ。
  論文  参考訳（メタデータ） (2024-03-02T00:10:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。