論文の概要: From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems

• arxiv url: http://arxiv.org/abs/2604.27267v2
• Date: Mon, 04 May 2026 05:54:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 14:09:06.997508
• Title: From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
• Title（参考訳）: プロンプトから身体運動へ:LLM実現ロボットシステムの全体的脅威モデリング
• Authors: Neha Nagaraja, Hayretdin Bahsi, Carlo R. da Cunha,
• Abstract要約: 我々は,ロボットサイバーセキュリティ,敵対的知覚攻撃,LLMの安全性が信頼境界を越えてどのように作用し,伝播するかを研究する。 DFDをベースとした脅威分析は、LLM対応ロボットシステムの完全な認識計画アクチュエーターパイプラインに3つの脅威カテゴリを統合した初めてのものである。
• 参考スコア（独自算出の注目度）: 0.5161531917413708
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As large language models are integrated into autonomous robotic systems for task planning and control, compromised inputs or unsafe model outputs can propagate through the planning pipeline to physical-world consequences. Although prior work has studied robotic cybersecurity, adversarial perception attacks, and LLM safety independently, no existing study traces how these threat categories interact and propagate across trust boundaries in a unified architectural model. We address this gap by modeling an LLM-enabled autonomous robot in an edge-cloud architecture as a hierarchical Data Flow Diagram and applying STRIDE-per-interaction analysis across six boundary-crossing interaction points using a three-category taxonomy of Conventional Cyber Threats, Adversarial Threats, and Conversational Threats. The analysis reveals that these categories converge at the same boundary crossings, and we trace three cross-boundary attack chains from external entry points to unsafe physical actuation, each exposing a distinct architectural property: the absence of independent semantic validation between user input and actuator dispatch, cross-modal translation from visual perception to language-model instruction, and unmediated boundary crossing through provider-side tool use. To our knowledge, this is the first DFD-based threat analysis integrating all three threat categories across the full perception-planning-actuation pipeline of an LLM-enabled robotic system.
• Abstract（参考訳）: 大きな言語モデルはタスク計画と制御のために自律的なロボットシステムに統合されるため、妥協された入力や安全でないモデル出力は、計画パイプラインを通して物理的な結果へと伝播することができる。 これまでの研究は、ロボットサイバーセキュリティ、敵知覚攻撃、LLMの安全性を独立して研究してきたが、これらの脅威カテゴリがどのように相互作用し、統一されたアーキテクチャモデルで信頼境界を越えて伝播するかを、これまでの研究では示していない。 このギャップを、エッジクラウドアーキテクチャのLLM対応自律ロボットを階層型データフローダイアグラムとしてモデル化し、従来のサイバー脅威、敵脅威、会話脅威の3つのカテゴリの分類法を用いて、6つの境界交差相互作用点にわたるSTRIDE-per-action分析を適用することで解決する。 分析の結果、これらのカテゴリは同じ境界交差に収束し、外部エントリポイントから安全でない物理的アクティベーションまで3つのクロスバウンダリアタックチェーンをトレースし、それぞれ異なるアーキテクチャ特性を明らかにする。 我々の知る限り、この脅威分析は、LDM対応ロボットシステムの完全な認識計画アクチュエーターパイプライン全体にわたって3つの脅威カテゴリを統合した、DFDベースの脅威分析としては初めてである。

関連論文リスト

• Telecom World Models: Unifying Digital Twins, Foundation Models, and Predictive Planning for 6G [60.29349053952935]
  本稿では,テレコムシステムダイナミクスの学習,行動条件,不確実性を考慮したモデリングのためのアーキテクチャであるTWM(Telecom World Model)の概念を紹介する。 本研究では,空間環境予測のためのフィールドワールドモデル,動作条件付きキーパフォーマンス指標(KPI)軌道予測のための制御/力学ワールドモデル,意図翻訳とオーケストレーションのための通信基盤モデルレイヤからなる3層アーキテクチャを提案する。
  論文  参考訳（メタデータ） (2026-04-08T09:41:58Z)
• Semi-Automated Threat Modeling of Cloud-Based Systems Through Extracting Software Architecture from Configuration and Network Flow [0.27998963147546135]
  クラウドデプロイメントには予期せぬ脅威、特に信頼性境界を越えて脆弱性を連鎖するマルチステージ攻撃が導入されている。 既存のセキュリティツールは、コンポーネントを分離して分析し、システム構成からアーキテクチャ上の脅威を検出できず、設定されたポリシーに対して実行時の動作を検証することができない。 本稿では、ランタイム観測からシステムアーキテクチャを自動的に推論し、継続的な脅威モデリングを可能にするという重要なイノベーションを通じて、このギャップに対処する。
  論文  参考訳（メタデータ） (2026-03-23T21:57:53Z)
• The Path Ahead for Agentic AI: Challenges and Opportunities [4.52683540940001]
  この章では、複雑な環境で自律的に動作するエージェントAIシステムの出現について考察する。 我々は、統計モデルからトランスフォーマーベースのシステムへのアーキテクチャの進歩を辿り、エージェントの振る舞いを可能にする能力を識別する。 既存の調査とは異なり、私たちは、言語理解から自律的な行動へのアーキテクチャの移行に注目し、デプロイ前に解決しなければならない技術的ギャップを強調します。
  論文  参考訳（メタデータ） (2026-01-06T06:31:42Z)
• Explainable Neural Inverse Kinematics for Obstacle-Aware Robotic Manipulation: A Comparative Analysis of IKNet Variants [0.28544513613730205]
  ディープニューラルネットワークは、低コストのマニピュレータが複雑な軌道をリアルタイムで実行できる地点まで、逆運動学(IK)推論を加速させた。 本研究では,Shapley値属性と物理に基づく障害物回避評価を統合した説明可能性中心ワークフローを提案する。
  論文  参考訳（メタデータ） (2025-12-29T09:02:02Z)
• CIS-BA: Continuous Interaction Space Based Backdoor Attack for Object Detection in the Real-World [10.969593776020757]
  静的なオブジェクト特徴から連続的なオブジェクト間相互作用パターンにシフトすることでトリガ設計を再定義する新しいバックドアアタックパラダイムを提案する。 これらのパターンを連続的な相互作用空間としてモデル化することにより、CIS-BAは、初めてマルチトリガー・マルチオブジェクト攻撃機構を可能にする空間トリガーを導入する。 CIS-BAは、複雑な環境下で97%以上の攻撃を成功させ、動的マルチトリガー条件下で95%以上の有効性を維持する。
  論文  参考訳（メタデータ） (2025-12-16T07:37:46Z)
• ASTRIDE: A Security Threat Modeling Platform for Agentic-AI Applications [4.5053527030708285]
  ASTRIDEはAIエージェントベースのシステム向けに開発された自動脅威モデリングプラットフォームである。 脅威モデリングを自動化するため、ASTRIDEは細調整された視覚言語モデルのコンソーシアムとOpenAI-gpt-oss推論LLMを組み合わせた。 我々の評価は、ASTRIDEが次世代インテリジェントシステムに対して正確でスケーラブルで説明可能な脅威モデリングを提供することを示す。
  論文  参考訳（メタデータ） (2025-12-04T13:32:40Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Risk-Averse MPC via Visual-Inertial Input and Recurrent Networks for Online Collision Avoidance [95.86944752753564]
  本稿では,モデル予測制御(MPC)の定式化を拡張したオンライン経路計画アーキテクチャを提案する。 我々のアルゴリズムは、状態推定の共分散を推論するリカレントニューラルネットワーク(RNN)とオブジェクト検出パイプラインを組み合わせる。 本手法のロバスト性は, 複雑な四足歩行ロボットの力学で検証され, ほとんどのロボットプラットフォームに適用可能である。
  論文  参考訳（メタデータ） (2020-07-28T07:34:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。