論文の概要: Trojan Attacks on Neural Network Controllers for Robotic Systems

• arxiv url: http://arxiv.org/abs/2602.05121v1
• Date: Wed, 04 Feb 2026 23:12:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:41.184673
• Title: Trojan Attacks on Neural Network Controllers for Robotic Systems
• Title（参考訳）: ロボットシステムのためのニューラルネットワーク制御系に対するトロイの木馬攻撃
• Authors: Farbod Younesi, Walter Lucia, Amr Youssef,
• Abstract要約: 本稿では,ニューラルネットワークに対するバックドア(トロイジャン)攻撃について検討する。 コントローラ内に組み込むことができる軽量で並列なトロイの木馬ネットワークを設計する。 その結果、提案攻撃の有効性を確認し、ニューラルネットワークに基づくロボット制御システムが潜在的に重大なセキュリティ脅威にさらされていることを示す。
• 参考スコア（独自算出の注目度）: 0.3823356975862005
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural network controllers are increasingly deployed in robotic systems for tasks such as trajectory tracking and pose stabilization. However, their reliance on potentially untrusted training pipelines or supply chains introduces significant security vulnerabilities. This paper investigates backdoor (Trojan) attacks against neural controllers, using a differential-drive mobile robot platform as a case study. In particular, assuming that the robot's tracking controller is implemented as a neural network, we design a lightweight, parallel Trojan network that can be embedded within the controller. This malicious module remains dormant during normal operation but, upon detecting a highly specific trigger condition defined by the robot's pose and goal parameters, compromises the primary controller's wheel velocity commands, resulting in undesired and potentially unsafe robot behaviours. We provide a proof-of-concept implementation of the proposed Trojan network, which is validated through simulation under two different attack scenarios. The results confirm the effectiveness of the proposed attack and demonstrate that neural network-based robotic control systems are subject to potentially critical security threats.
• Abstract（参考訳）: ニューラル・ネットワーク・コントローラは、軌道追跡や姿勢安定化などのタスクのためにロボットシステムにますます配備されている。 しかし、信頼できないトレーニングパイプラインやサプライチェーンへの依存は、重大なセキュリティ脆弱性をもたらす。 本稿では、ディファレンシャルドライブ型移動ロボットプラットフォームを事例として、ニューラルネットワークに対するバックドア(トロイの木馬)攻撃について検討する。 特に、ロボットのトラッキングコントローラがニューラルネットワークとして実装されていると仮定して、コントローラ内に埋め込まれる軽量で並列なトロイの木馬ネットワークを設計する。 この悪質なモジュールは正常な操作の間は休眠状態にあるが、ロボットのポーズとゴールパラメータによって定義される非常に特異的なトリガー条件を検出すると、一次制御器の車輪速度コマンドを乱し、望ましくない、潜在的に安全でないロボットの動作を引き起こす。 本稿では,2つの異なる攻撃シナリオ下でのシミュレーションにより,提案するトロイの木馬ネットワークの概念実証実装を提案する。 その結果、提案攻撃の有効性を確認し、ニューラルネットワークに基づくロボット制御システムが潜在的に重大なセキュリティ脅威にさらされていることを示す。

関連論文リスト

• Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
  プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。 我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
  論文  参考訳（メタデータ） (2025-10-10T15:12:44Z)
• Cybersecurity AI: Humanoid Robots as Attack Vectors [0.448741371377488]
  本報告では,Unitree G1ヒューマノイドのセキュリティ評価について述べる。 同時に秘密監視ノードとして機能し、アクティブなサイバー運用プラットフォームとして利用することができる。
  論文  参考訳（メタデータ） (2025-09-17T16:18:53Z)
• Offensive Robot Cybersecurity [0.0]
  この論文は、ロボットアーキテクチャとサイバーセキュリティの深い関係を明らかにしている。 防衛と攻撃の両面からサイバーセキュリティにアプローチすることが重要である。 この論文は、サイバーセキュリティ認知エンジンのための新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2025-06-18T10:49:40Z)
• Model Extraction Attacks Against Reinforcement Learning Based Controllers [9.273077240506016]
  本稿では,Reinforcement Learning (RL)アルゴリズムを用いてDNN(Deep Neural Network)コントローラをトレーニングし,システムを制御する際の設定に焦点を当てる。 オフラインフェーズとも呼ばれる第1フェーズでは、攻撃者はRL-リワード関数とシステムダイナミクスに関するサイドチャネル情報を使用して、未知のDNNの候補推定セットを特定する。 オンラインフェーズとも呼ばれる第2フェーズでは、攻撃者は未知のDNNの振る舞いを観察し、これらの観察を使用して最終的なポリシー推定のセットをショートリスト化する。
  論文  参考訳（メタデータ） (2023-04-25T18:48:42Z)
• FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases [50.065022493142116]
  バックドア攻撃とも呼ばれるディープニューラルネットワークに対するトロイの木馬攻撃は、人工知能に対する典型的な脅威である。 FreeEagleは、複雑なバックドア攻撃を効果的に検出できる最初のデータフリーバックドア検出方法である。
  論文  参考訳（メタデータ） (2023-02-28T11:31:29Z)
• Active Predicting Coding: Brain-Inspired Reinforcement Learning for Sparse Reward Robotic Control Problems [79.07468367923619]
  ニューラルジェネレーティブ・コーディング(NGC)の神経認知計算フレームワークによるロボット制御へのバックプロパゲーションフリーアプローチを提案する。 我々は、スパース報酬から動的オンライン学習を容易にする強力な予測符号化/処理回路から完全に構築されたエージェントを設計する。 提案するActPCエージェントは,スパース(外部)報酬信号に対して良好に動作し,複数の強力なバックプロップベースのRLアプローチと競合し,性能が優れていることを示す。
  論文  参考訳（メタデータ） (2022-09-19T16:49:32Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Cassandra: Detecting Trojaned Networks from Adversarial Perturbations [92.43879594465422]
  多くの場合、事前トレーニングされたモデルは、トロイの木馬の振る舞いをモデルに挿入するためにトレーニングパイプラインを中断したかもしれないベンダーから派生している。 本稿では,事前学習したモデルがトロイの木馬か良馬かを検証する手法を提案する。 本手法は,ニューラルネットワークの指紋を,ネットワーク勾配から学習した逆方向の摂動の形でキャプチャする。
  論文  参考訳（メタデータ） (2020-07-28T19:00:40Z)
• Robustness to Adversarial Attacks in Learning-Enabled Controllers [3.4983716329137353]
  多様な敵攻撃を含む国家の摂動を考察し、敵国を発見するための攻撃スキームについて述べる。 有効にするためには、これらの攻撃は自然であり、コントローラーが合理的に有意義な応答を期待できる状態をもたらす必要がある。 我々の防衛戦略は、コントローラと環境を未知のダイナミクスを持つブラックボックスとして扱うことを可能にする。
  論文  参考訳（メタデータ） (2020-06-11T22:29:07Z)
• Populations of Spiking Neurons for Reservoir Computing: Closed Loop Control of a Compliant Quadruped [64.64924554743982]
  本稿では,ニューラルネットワークを用いた中央パターン生成機構を実装し,閉ループロボット制御を実現するためのフレームワークを提案する。 本研究では,従順な四足歩行ロボットのシミュレーションモデル上で,予め定義された歩行パターン,速度制御,歩行遷移の学習を実演する。
  論文  参考訳（メタデータ） (2020-04-09T14:32:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。