論文の概要: Backdoors in Learning-Based Industrial Robotic Arm Manipulation: An Empirical Security Study

• arxiv url: http://arxiv.org/abs/2609.26868v1
• Date: Tue, 22 Sep 2026 16:46:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.703258
• Title: Backdoors in Learning-Based Industrial Robotic Arm Manipulation: An Empirical Security Study
• Title（参考訳）: 学習型産業用ロボットアームマニピュレーションのバックドア--経験的セキュリティ研究
• Abstract要約: 本稿では,2つの産業用産業用ロボットアームを用いた学習型ロボット操作におけるバックドア攻撃と防御の予備的安全性について述べる。 本研究は,タスク実行時のステルス性を保ちながら,バックドアが意味的に不正確な操作行動を確実に引き起こせるかどうかを考察する。 我々は、実行時にトリガを検出して中和するオンラインディフェンスパイプラインを開発し、その効果をオフラインの微調整ディフェンスと比較する。
• 参考スコア（独自算出の注目度）: 9.88548510485795
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning-based models (e.g., visuomotor and Vision-Language-Action (VLA)) are increasingly explored for industrial robotic manipulation, where model predictions are directly translated into physical actions. This tight coupling between model behavior and physical execution makes hidden security vulnerabilities particularly consequential. While backdoor attacks have been widely studied in conventional AI models, their effects on deployed learning-based robotic arm manipulation systems remain less understood: a backdoored robot can behave normally during benign operation while inducing attacker-specified behaviors only when specific triggers are present, posing potentially serious risks in physical environments. In this work, we present a preliminary empirical security study of backdoor attacks and defenses in learning-based robotic manipulation on two real commercial industrial robotic arms (FANUC and xArm). We investigate whether a backdoor can reliably induce semantically incorrect manipulation behaviors while remaining stealthy under nominal task execution. We then develop an online defense pipeline that detects and neutralizes triggers at runtime, and compare its effectiveness against an offline fine-tuning defense. Beyond defense effectiveness, we further evaluate the computational latency and execution overhead introduced by the defense pipeline to assess its suitability for high-throughput industrial operation.
• Abstract（参考訳）: VLA(Visuomotor)やVision-Language-Action(Vision-Language-Action)といった学習ベースのモデルは、モデル予測を直接物理的な行動に変換する産業ロボット操作のために研究されている。 このモデル動作と物理的実行の密結合は、特にセキュリティ上の脆弱性を隠蔽する。 バックドアロボットは、特定のトリガーが存在する場合にのみ攻撃特異的な振る舞いを誘導し、物理的環境において重大なリスクを生じさせる。 本研究では,2つの実産業用産業用ロボットアーム(FANUCとxArm)を用いた学習型ロボット操作におけるバックドア攻撃と防御の予備的セキュリティ研究を示す。 本研究は,タスク実行時のステルス性を保ちながら,バックドアが意味的に不正確な操作行動を確実に引き起こせるかどうかを考察する。 次に、実行時にトリガを検出して中和するオンラインディフェンスパイプラインを開発し、その効果をオフラインの微調整ディフェンスと比較する。 防衛効果の他に、防衛パイプラインが導入した計算遅延と実行オーバーヘッドを更に評価し、高スループット産業運用に適合性を評価する。

関連論文リスト

• From Prompt to Physical Action: Structured Backdoor Attacks on LLM-Mediated Robotic Control Systems [3.6185608572339962]
  大規模言語モデル(LLM)は、ユーザプロンプトを実行可能なコマンドに変換するために、ロボット制御パイプラインに統合される。 このデジタル・物理的インターフェースは、重要で未発見の脆弱性、すなわち微調整中に埋め込まれた構造化バックドア攻撃を導入している。 LLMによるROS2ロボット制御システムにおけるLoRAベースのサプライチェーンバックドアを実験的に検討し、ロボットの物理的実行への影響を評価する。
  論文  参考訳（メタデータ） (2026-04-04T23:06:16Z)
• ANNIE: Be Careful of Your Robots [48.89876809734855]
  エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。 すべての安全カテゴリーで攻撃の成功率は50%を超えている。 結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
  論文  参考訳（メタデータ） (2025-09-03T15:00:28Z)
• TrojanRobot: Physical-world Backdoor Attacks Against VLM-based Robotic Manipulation [63.68326640737848]
  textitTrojanRobotは、物理的世界で非常にステルスで、広く有効なロボットバックドア攻撃だ。 バックドアモジュールをモジュール型ロボティクスポリシーに組み込むことにより,モジュール・ポゾン方式を導入する。 我々は,3種類の素攻撃(e,textitpermutation, textitstagnation, textitintentional attack)を開発し,より微細なバックドアを実現する。
  論文  参考訳（メタデータ） (2024-11-18T16:09:26Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• BEEAR: Embedding-based Adversarial Removal of Safety Backdoors in Instruction-tuned Language Models [57.5404308854535]
  大型言語モデル(LLM)における安全バックドア攻撃は、正常な相互作用中の検出を回避しながら、安全でない振る舞いをステルス的に引き起こすことができる。 モデル埋め込み空間において,バックドアトリガーが比較的均一なドリフトを引き起こすという知見を活かした緩和手法であるBEEARを提案する。 両レベル最適化手法は、不要な振る舞いを誘発する普遍的な埋め込み摂動を特定し、モデルパラメータを調整し、これらの摂動に対する安全な振舞いを強化する。
  論文  参考訳（メタデータ） (2024-06-24T19:29:47Z)
• Deception Game: Closing the Safety-Learning Loop in Interactive Robot Autonomy [7.915956857741506]
  既存の安全手法は、ロボットが実行時に学習し適応する能力を無視することが多く、過度に保守的な行動を引き起こす。 本稿では,ロボットの進化する不確実性を明示的に考慮した安全制御ポリシを合成するための,新しいクローズドループパラダイムを提案する。
  論文  参考訳（メタデータ） (2023-09-03T20:34:01Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• Active Predicting Coding: Brain-Inspired Reinforcement Learning for Sparse Reward Robotic Control Problems [79.07468367923619]
  ニューラルジェネレーティブ・コーディング(NGC)の神経認知計算フレームワークによるロボット制御へのバックプロパゲーションフリーアプローチを提案する。 我々は、スパース報酬から動的オンライン学習を容易にする強力な予測符号化/処理回路から完全に構築されたエージェントを設計する。 提案するActPCエージェントは,スパース(外部)報酬信号に対して良好に動作し,複数の強力なバックプロップベースのRLアプローチと競合し,性能が優れていることを示す。
  論文  参考訳（メタデータ） (2022-09-19T16:49:32Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。