論文の概要: Speed Kills: Exploring Confused Deputy Attacks Through Edge AI Accelerators
- arxiv url: http://arxiv.org/abs/2605.17707v1
- Date: Mon, 18 May 2026 00:04:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:48.411394
- Title: Speed Kills: Exploring Confused Deputy Attacks Through Edge AI Accelerators
- Title（参考訳）: スピード・キルズ:エッジAI加速器による混乱した副攻撃を探る
- Authors: Datta Manikanta Sri Hari Danduri, Aravind Kumar Machiry,
- Abstract要約: AIアプリケーションの需要が高まり、エッジや組み込みデバイスにAIアクセラレータ(AIAs)が広く採用されている。
AIAはオペレーティング・システム(OS)の制限に縛られておらず、アプリケーション・プロセッサ(AP)のセキュリティ機構に制限がある。
本研究はAIAを用いた混乱した副攻撃の詳細な研究である。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: AI Accelerator (AIA) are specialized hardware e.g., Tensor Processing Unit (TPU), that enable optimal and efficient execution of AI applications and on-device inference. The growing demand for AI applications has led to the widespread adoption of AIAs on Edge or embedded devices on Edge or embedded devices. Unlike applications, AIAs are not bound by Operating System (OS) restrictions and have limited visibility into Application Processor (AP) security mechanisms (e.g., kernel vs. application memory, process isolation). This semantic gap can lead to confused deputy vulnerabilities, i.e., AIA can be tricked by a malicious application to perform privileged operations on their behalf. In this paper, we conducted the first in-depth study of Confused Deputy Attacks (CDAs) using AIA. We design DeputyHunt, a Large Language Model (LLM) assisted framework to extract CDA relevant information for a given AIA through a combination of dynamic and static analysis. We used this information to explore the feasibility of CDA on seven different AIAs from popular vendors, i.e., Google, NVIDIA, Hailo, Texas Instruments, NXP, AWS, and Rockchip. Our analysis revealed that CDA is feasible on six out of the seven AIAs, impacting over 128 System On Chips (SOCs) and over 100 million devices. Our findings highlight critical security risks posed by AIA on system security. Our work has been acknowledged by the corresponding vendors and assigned the CVE-2025-66425. We propose an on-demand validation defense against CDA, and evaluation on the Gem5- salam simulator shows that it incurs minimal runtime overhead (i.e., ~15%).
- Abstract（参考訳）: AI Accelerator(AIA)は、AIアプリケーションの最適かつ効率的な実行とデバイス上の推論を可能にする特別なハードウェアである。
AIアプリケーションに対する需要の高まりにより、Edge上のAIAや、Edgeまたは組み込みデバイス上の組み込みデバイスへのAIAの普及が広まっている。
アプリケーションとは異なり、AIAはオペレーティングシステム(OS)の制限に縛られず、アプリケーションプロセッサ(AP)のセキュリティメカニズム(例えば、カーネル対アプリケーションメモリ、プロセス分離)に限定的な可視性を持つ。
このセマンティックギャップは、混乱した副脆弱性、すなわちAIAを悪質なアプリケーションによって騙され、彼らの代理として特権的な操作を行うことができる。
本稿では,AIAを用いたコンフューズド・アタック(CDA)の詳細な研究を行った。
我々は,動的解析と静的解析を組み合わせた大規模言語モデル(LLM)を設計し,与えられたAIAのCDA関連情報を抽出する。
私たちはこの情報を使って、Google、NVIDIA、Haylo、Texas Instruments、NXP、AWS、Rockchipといった人気ベンダの7つのAIAにおけるCDAの実現可能性を調査しました。
分析の結果、CDAは7つのAIAのうち6つで実現可能であり、128のシステムオンチップ(SOC)と1億以上のデバイスに影響を及ぼすことがわかった。
本研究は,AIAがシステムセキュリティにもたらす重大なセキュリティリスクを浮き彫りにした。
我々の作業は、対応するベンダーによって承認され、CVE-2025-66425を割り当てました。
本稿では,CDAに対するオンデマンドのバリデーションディフェンスを提案し,Gem5- salamシミュレータによる評価により,最小限のランタイムオーバーヘッド(すなわち15%)が生じることを示した。
関連論文リスト
- ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? [92.21756459993695]
低レベルのプログラム推論を必要とするため、爆発は難しい作業です。
その重要性と診断価値にもかかわらず、搾取は未評価のままである。
ExploitGymは、AIエージェントのエクスプロイト能力に関する大規模で多様な、現実的なベンチマークである。
論文 参考訳（メタデータ） (2026-05-11T18:00:14Z) - SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。
このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。
我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
論文 参考訳（メタデータ） (2026-03-24T08:21:51Z) - ReasAlign: Reasoning Enhanced Safety Alignment against Prompt Injection Attack [52.17935054046577]
本稿では、間接的インジェクション攻撃に対する安全性アライメントを改善するためのモデルレベルのソリューションであるReasAlignを提案する。
ReasAlignには、ユーザクエリの分析、競合する命令の検出、ユーザの意図したタスクの継続性を維持するための構造化された推論ステップが組み込まれている。
論文 参考訳（メタデータ） (2026-01-15T08:23:38Z) - Let the Barbarians In: How AI Can Accelerate Systems Performance Research [80.43506848683633]
我々は、この繰り返しサイクルを、AI駆動システム研究の生成、評価、洗練のサイクルと呼ぶ。
我々はADRSが生成するソリューションが人間の最先端の設計に適合し、さらに優れることを示した。
論文 参考訳（メタデータ） (2025-12-16T18:51:23Z) - Cuckoo Attack: Stealthy and Persistent Attacks Against AI-IDE [64.47951172662745]
Cuckoo Attackは、悪意のあるペイロードを構成ファイルに埋め込むことで、ステルス性と永続的なコマンド実行を実現する新しい攻撃である。
攻撃パラダイムを初期感染と持続性という2つの段階に分類する。
当社は、ベンダーが製品のセキュリティを評価するために、実行可能な7つのチェックポイントを提供しています。
論文 参考訳（メタデータ） (2025-09-19T04:10:52Z) - Breaking SafetyCore: Exploring the Risks of On-Device AI Deployment [0.0]
デバイス上でデプロイされるAIモデルの増加。
この変更は、プライバシを高め、レイテンシを低減するだけでなく、従来のソフトウェアとは異なるセキュリティリスクももたらします。
本稿では,機密画像検出を取り入れたAndroidシステムであるSafetyCoreのケーススタディを通じて,これらのリスクについて検討する。
論文 参考訳（メタデータ） (2025-09-08T06:53:13Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z) - VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents [74.6761188527948]
完全なシステムアクセスを持つコンピュータ利用エージェント(CUA)は、セキュリティとプライバシの重大なリスクを負う。
我々は、悪意のある命令がレンダリングされたユーザーインターフェイスに視覚的に埋め込まれた視覚的プロンプトインジェクション(VPI)攻撃について検討する。
実験により,現在のCUAとBUAは,それぞれのプラットフォーム上で最大51%,100%の速度で騙すことができることがわかった。
論文 参考訳（メタデータ） (2025-06-03T05:21:50Z) - Position: Bridge the Gaps between Machine Unlearning and AI Regulation [10.678785419935728]
人工知能規制のインバウンド波は、機械学習のための重要な新しいユースケースを提供するかもしれないと主張する者もいる。
このポジションペーパーは、研究者が機械学習の最先端とAI規制への潜在的な応用の間のギャップを積極的に橋渡しすれば、この機会は実現される、と論じている。
論文 参考訳（メタデータ） (2025-02-18T02:03:03Z) - Compliance Cards: Automated EU AI Act Compliance Analyses amidst a Complex AI Supply Chain [9.991293429067065]
我々は、複雑なAIサプライチェーンの中で、プロバイダ側AIAコンプライアンス分析のための完全なシステムを導入する。
ひとつは、AIA固有のメタデータをキャプチャする、計算的でマルチステークホルダーの透明性アーティファクトのインターロックセットです。
第2のアルゴリズムは、AIシステムやモデルがAIAに準拠しているかどうかをリアルタイムで予測するアルゴリズムである。
論文 参考訳（メタデータ） (2024-06-20T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。