論文の概要: AuthGuard-R: Safety-Compliant Mission Hijacking and Dual-Gate Defense for LLM-Controlled Robots
- arxiv url: http://arxiv.org/abs/2609.31110v1
- Date: Fri, 25 Sep 2026 10:56:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.355944
- Title: AuthGuard-R: Safety-Compliant Mission Hijacking and Dual-Gate Defense for LLM-Controlled Robots
- Title（参考訳）: AuthGuard-R:LLM制御ロボットの安全対応ミッションハイジャックとデュアルゲートディフェンス
- Abstract要約: 本論文は,行動は物理的に安全であり,ユーザによる許可されたミッションに反する可能性がある,という問題を考察する。
認証されたミッションに違反しながら安全ゲートを通過する計画を探索するアダプティブアタックフレームワークであるMissionPAIRを提案する。
また、署名されたミッションにすべての実行可能なアクションをバインドする決定論的認証層であるAuthGuard-Rを提案する。
- 参考スコア（独自算出の注目度）: 0.7519872646378835
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models are increasingly used as high-level planners for mobile robots, robot manipulators, and autonomous vehicles. Recent studies show that these systems can be influenced through malicious text, speech, visual instructions, retrieved documents, and poisoned sensory context. Most defenses ask whether a proposed action is physically safe. This paper studies a different problem: an action may be physically safe and still violate the mission authorized by the user. An attacker may redirect a delivery robot, replace an approved object, extend a robot's operating region, activate an unnecessary sensor, or delay a mission without creating an immediate physical hazard. We call this attack \emph{safety-compliant mission hijacking}. We propose MissionPAIR, an adaptive attack framework that searches for executable plans that pass a safety gate while violating an authenticated mission. We also propose AuthGuard-R, a deterministic authorization layer that binds every executable action to a signed mission, robot identity, object and region scope, current state, time, and input provenance. AuthGuard-R operates with an independent safety gate, giving a dual-gate architecture. We formalize mission policies over robot traces, define security games, and prove authorization soundness, mission non-escalation, replay resistance, robot binding, provenance separation, threshold-approval security, audit-log tamper evidence, and trace-level composition. We report a preliminary cross-model evaluation with Claude Haiku~4.5 and the open-source Qwen2.5~7B planner. Across 240 live attack trials, the planners followed an injected mission deviation in 109 trials; AuthGuard-R rejected all 109 resulting unauthorized actions. A separate hand-constructed suite of eleven protocol- and policy-level attacks was also blocked completely.
- Abstract（参考訳）: 大規模な言語モデルは、移動ロボット、ロボットマニピュレータ、自動運転車の高レベルプランナーとしてますます使われている。
近年の研究では, 悪意のあるテキスト, 音声, 視覚的指示, 検索された文書, 有毒な感覚コンテキストによって, これらのシステムに影響を及ぼす可能性が示唆されている。
ほとんどの被告は、提案された行動が物理的に安全かどうかを問う。
本論文は,行動は物理的に安全であり,ユーザによる許可されたミッションに反する可能性がある,という,別の問題を研究する。
攻撃者は、配達ロボットをリダイレクトしたり、承認された物体を置き換えたり、ロボットの動作領域を拡張したり、不要なセンサーを起動したり、即時的な物理的危険を生じさせることなくミッションを遅らせたりすることができる。
私たちはこの攻撃を、emph{safety-compliant mission hijacking}と呼んでいる。
認証されたミッションに違反しながら安全ゲートを通過する実行可能なプランを探索するアダプティブアタックフレームワークであるMissionPAIRを提案する。
また、署名されたミッション、ロボットアイデンティティ、オブジェクトと領域の範囲、現在の状態、時間、入力前駆体にすべての実行可能なアクションをバインドする決定論的認証層であるAuthGuard-Rを提案する。
AuthGuard-Rは独立した安全ゲートで動作し、デュアルゲートアーキテクチャを提供する。
我々は、ロボットトレースに対するミッションポリシーを定式化し、セキュリティゲームを定義し、承認音性、ミッション非エスカレーション、リプレイ抵抗、ロボットバインディング、プロファイランス分離、しきい値認証セキュリティ、監査ログのタンパー証拠、トレースレベルの構成を証明する。
本稿では,Claude Haiku~4.5 とオープンソース Qwen2.5~7B プランナによる予備的クロスモデル評価について報告する。
240回のライブ攻撃試験で、計画者は109回の試験でミッション偏差を注入し、AuthGuard-Rは109の全てを拒絶し、結果として無許可の行動となった。
11のプロトコルとポリシーレベルの攻撃からなる手作りのスイートも完全にブロックされた。
関連論文リスト
- Physical Agentic AI: An Architecture for Orchestrating a Robot Crew with LLMs [6.2312877626161205]
本稿では,スキルグラウンドロボットエージェントオーケストレーションのためのフレームワークであるPhysical Agentic AIを紹介する。
ロボットオーケストレーションレイヤは、スキルライブラリ、ロボット状態、名前付きロケーション、ワークフローコントラクトを非アクチュエータミッションプランナに公開する。
我々は,ガゼボで全条件で全ミッションが実行され,ドローン-UGV検索・ディスパッチミッションを評価する。
論文 参考訳（メタデータ） (2026-08-23T23:35:31Z) - From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors [89.92617739143846]
ローカルエージェントハーネスにおけるマルチステップトロイの木馬攻撃を識別するベンチマークであるClawTrojanを紹介する。
そこで我々は,DASGuardを提案する。DASGuardは,コントロールライクなテキストをセンシティブなローカルファイルでスキャンし,その起源を辿り,信頼されたソースから派生しないコントロールコンテンツを除去する。
この結果から, DASGuardは, 実行時の攻撃ブロックと作業空間への衛生的コミットを組み合わせることで, 強力な動的防御を実現することがわかった。
論文 参考訳（メタデータ） (2026-05-29T09:19:07Z) - Evaluation of Prompt Injection Defenses in Large Language Models [0.0]
LLMベースのアプリケーションは、システムプロンプトにシークレットを定期的に埋め込むが、モデルを騙してそれらを明らかにすることができる。
私たちはアダプティブアタックを構築し、数百ラウンドにわたって戦略を進化させ、20,000以上の攻撃に対して9つの防御構成に対してテストしました。
論文 参考訳（メタデータ） (2026-04-26T21:22:35Z) - Semantic Denial of Service in LLM-controlled robots [2.1942030377331245]
敵は、モデルをジェイルブレイクしたりポリシーをオーバーライドしたりすることなく、モデルが実行を停止または中断する理由をモデルに引き起こすことが示される。
即時防衛は、真のハザード反応に対する攻撃抑制を禁止している。
実際の意味は、プロンプトレベルではなくアーキテクチャである。
論文 参考訳（メタデータ） (2026-04-25T10:52:29Z) - Agent2Agent Threats in Safety-Critical LLM Assistants: A Human-Centric Taxonomy [4.058281338403478]
本稿では,攻撃経路解析から資産識別を分離するAgentHeLLMという脅威モデリングフレームワークを提案する。
我々は、調和指向の「市民モデリング」から派生した人間中心の資産分類を導入し、人権の普遍宣言に触発された。
本稿では,オープンソースのアタックパス提案ツールであるAgentHeLLMアタックパスジェネレータを用いて,フレームワークの実用性を示す。
論文 参考訳（メタデータ） (2026-02-05T16:53:41Z) - Zero-Permission Manipulation: Can We Trust Large Multimodal Model Powered GUI Agents? [6.9619059967556725]
アクションリバインド(Action Rebinding)は、エージェントの実行をリバインドする危険な権限をゼロにする、一見良心的なアプリを可能にする、新たな攻撃である。
エージェントのタスク回復ロジックとAndroidのUI状態保存を武器化し、プログラム可能なマルチステップアタックチェーンを編成する。
以上の結果から,原子間相互作用リバインディングの成功率は100%であり,マルチステップアタックチェーンを確実にオーケストレーションできることが示唆された。
論文 参考訳（メタデータ） (2026-01-18T10:54:54Z) - Cuckoo Attack: Stealthy and Persistent Attacks Against AI-IDE [64.47951172662745]
Cuckoo Attackは、悪意のあるペイロードを構成ファイルに埋め込むことで、ステルス性と永続的なコマンド実行を実現する新しい攻撃である。
攻撃パラダイムを初期感染と持続性という2つの段階に分類する。
当社は、ベンダーが製品のセキュリティを評価するために、実行可能な7つのチェックポイントを提供しています。
論文 参考訳（メタデータ） (2025-09-19T04:10:52Z) - Safety Guardrails for LLM-Enabled Robots [82.0459036717193]
従来のロボット安全アプローチは、大規模言語モデル(LLM)の新たな脆弱性に対処しない
LLM対応ロボットの安全性を確保するための2段ガードレールアーキテクチャであるRoboGuardを提案する。
RoboGuardは、安全プランのパフォーマンスを損なうことなく、安全でないプランの実行を92%から2.5%以下に削減することを示す。
論文 参考訳（メタデータ） (2025-03-10T22:01:56Z) - MELON: Provable Defense Against Indirect Prompt Injection Attacks in AI Agents [60.30753230776882]
LLMエージェントは間接的プロンプトインジェクション(IPI)攻撃に対して脆弱であり、ツール検索情報に埋め込まれた悪意のあるタスクはエージェントをリダイレクトして不正なアクションを取ることができる。
マスク機能によって修正されたマスク付きユーザでエージェントの軌道を再実行することで攻撃を検知する新しいIPIディフェンスであるMELONを提案する。
論文 参考訳（メタデータ） (2025-02-07T18:57:49Z) - When Authentication Is Not Enough: On the Security of Behavioral-Based Driver Authentication Systems [53.2306792009435]
我々はランダムフォレストとリカレントニューラルネットワークアーキテクチャに基づく2つの軽量ドライバ認証システムを開発した。
我々は,SMARTCANとGANCANという2つの新しいエスケープアタックを開発することで,これらのシステムに対する攻撃を最初に提案する。
コントリビューションを通じて、これらのシステムを安全に採用する実践者を支援し、車の盗難を軽減し、ドライバーのセキュリティを高める。
論文 参考訳（メタデータ） (2023-06-09T14:33:26Z) - Illusory Attacks: Information-Theoretic Detectability Matters in Adversarial Attacks [76.35478518372692]
エプシロン・イリューソリー(epsilon-illusory)は、シーケンシャルな意思決定者に対する敵対的攻撃の新たな形態である。
既存の攻撃と比較して,エプシロン・イリューソリーの自動検出は極めて困難である。
以上の結果から, より優れた異常検知器, 効果的なハードウェアおよびシステムレベルの防御の必要性が示唆された。
論文 参考訳（メタデータ） (2022-07-20T19:49:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。