論文の概要: Protecting On-Device AI Inference: A Systematic Review of Attacks and Defence Mechanisms

• arxiv url: http://arxiv.org/abs/2605.29450v1
• Date: Thu, 28 May 2026 06:44:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-30 02:45:55.863051
• Title: Protecting On-Device AI Inference: A Systematic Review of Attacks and Defence Mechanisms
• Title（参考訳）: デバイス上のAI推論を保護する - 攻撃と防御メカニズムの体系的レビュー
• Authors: Zisis Tsiatsikas, Alexandros Fakis, Georgios Karopoulos, Vasileios Kouliaridis, Marios Anagnostopoulos,
• Abstract要約: 本稿では,デバイス上でのAI推論をターゲットとした脅威とそれに対応する防御機構の総合的なレビューを行う。 調査対象の攻撃論文の4分の1は知的財産権(IP)攻撃に焦点が当てられている。 いくつかの攻撃カテゴリは、攻撃文献のおよそ3分の1を占める敵攻撃など、それらに関連する防衛紙を持っていない。
• 参考スコア（独自算出の注目度）: 36.94429692322632
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The need for secure and private Artificial Intelligence (AI) and Machine Learning (ML) on edge and mobile devices has increased the necessity of protecting the architecture of these systems from threats to both security and privacy. With an ever-increasing number of pre-trained AI models being used on mobile platforms for client-side inference, there are rising concerns about the risks associated with the theft/extraction of AI models, adversarial attacks on AI models, and data breaches. As a result of this trend, a variety of defence mechanisms have been proposed to protect against these threats. These include Trusted Execution Environments (TEEs), homomorphic encryption, obfuscation, and differential privacy, among others. However, current surveys largely focus on edge intelligence, which includes distributed training, and thus overlook security and privacy issues that are specific to on-device AI inference. To the best of our knowledge, this paper presents the first comprehensive review of threats and corresponding defence mechanisms targeting on-device inference. Our results show that the attack and defence literature are unbalanced: approximately one quarter of the surveyed attack papers focus on Intellectual Property (IP) attacks, whereas half of the defence solutions tackle the same issue. More importantly, some attack categories have no defence paper associated to them, such as adversarial attacks that account for roughly one third of the attack literature. This asymmetry between known attacks and available mitigations highlights clear opportunities for future research on securing on-device AI inference.
• Abstract（参考訳）: エッジとモバイルデバイスにおけるセキュアでプライベートな人工知能(AI)と機械学習(ML)の必要性は、セキュリティとプライバシの両方の脅威から、これらのシステムのアーキテクチャを保護する必要性を高めている。 クライアント側推論のためにモバイルプラットフォームでトレーニング済みのAIモデルが増え続けている中で、AIモデルの盗難/引き抜き、AIモデルに対する敵対的攻撃、データ侵害に関連するリスクに対する懸念が高まっている。 この傾向の結果として、これらの脅威から保護するために様々な防御機構が提案されている。 その中には、Trusted Execution Environments (TEE)、同型暗号化、難読化、差分プライバシーなどが含まれる。 しかしながら、現在の調査は、分散トレーニングを含むエッジインテリジェンスに重点を置いているため、オンデバイスAI推論に特有のセキュリティやプライバシの問題を見落としている。 そこで本研究では,デバイス上の推論をターゲットとした脅威とそれに対応する防御機構の総合的なレビューを行った。 調査対象となった攻撃論文の約4分の1は知的財産権(IP)攻撃に焦点をあてているのに対し,防衛ソリューションの半数は同じ問題に対処している。 さらに重要なことは、いくつかの攻撃カテゴリは、攻撃文献のおよそ3分の1を占める敵攻撃など、それらに関連する防衛用紙を持っていないことである。 既知の攻撃と利用可能な緩和の間のこの非対称性は、デバイス上でのAI推論の安全性に関する将来の研究の明確な機会を浮き彫りにする。

関連論文リスト

• Techniques of Modern Attacks [51.56484100374058]
  Advanced Persistent Threats (APT) は特定の標的を狙った複雑な攻撃方法である。 本稿では,近年の学術研究で提案されている攻撃ライフサイクルと最先端の検知・防衛戦略について検討する。 それぞれのアプローチの長所と短所を強調し、より適応的なAPT緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-01-19T22:15:25Z)
• AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and Defensive Strategies [0.0]
  本稿では,サイバーセキュリティにおけるAIに関連する新興リスク,攻撃メカニズム,防衛上の問題点を分析することを目的とする。 我々は、AI能力と脅威のモダリティと防御を結びつける比較分類法を導入する。 我々の発見は、説明可能な、学際的で、規制に順応するAI防衛システムに対する緊急性を強調した。
  論文  参考訳（メタデータ） (2026-01-06T05:09:40Z)
• A Systematic Survey of Model Extraction Attacks and Defenses: State-of-the-Art and Perspectives [65.3369988566853]
  近年の研究では、敵が対象モデルの機能を複製できることが示されている。 モデル抽出攻撃は知的財産権、プライバシー、システムのセキュリティに脅威をもたらす。 本稿では,攻撃機構,防衛手法,計算環境に応じてMEAを分類する新しい分類法を提案する。
  論文  参考訳（メタデータ） (2025-08-20T19:49:59Z)
• Securing AI Systems: A Guide to Known Attacks and Impacts [0.0]
  本稿では,予測型および生成型AIシステムに特有の敵攻撃の概要について述べる。 我々は11種類の主要な攻撃タイプを特定し、その影響に攻撃テクニックを明示的にリンクする。 我々は、AI固有のリスクを認識し、効果的な防御を実装するための基礎知識を、研究者、開発者、セキュリティ実践者、および政策立案者に提供することを目的としています。
  論文  参考訳（メタデータ） (2025-06-29T15:32:03Z)
• A Novel Approach to Guard from Adversarial Attacks using Stable Diffusion [0.0]
  我々の提案は、AI Guardianフレームワークに対する別のアプローチを提案する。 トレーニングプロセスに敵対的な例を含める代わりに、AIシステムをトレーニングせずに行うことを提案する。 これは、より広い範囲の攻撃に対して本質的に回復力のあるシステムを構築することを目的としています。
  論文  参考訳（メタデータ） (2024-05-03T04:08:15Z)
• Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS [70.60975663021952]
  ネットワーク分類器に対するブラックボックス攻撃について検討する。 我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。 攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
  論文  参考訳（メタデータ） (2021-11-23T23:42:16Z)
• Security and Privacy for Artificial Intelligence: Opportunities and Challenges [11.368470074697747]
  近年、ほとんどのAIモデルは高度なハッキング技術に弱い。 この課題は、敵AIの研究努力を共同で進めるきっかけとなった。 我々は、AIアプリケーションに対する敵攻撃を実証する総合的なサイバーセキュリティレビューを提示する。
  論文  参考訳（メタデータ） (2021-02-09T06:06:13Z)
• Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain [58.30296637276011]
  本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。 サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
  論文  参考訳（メタデータ） (2020-07-05T18:22:40Z)
• Vulnerabilities of Connectionist AI Applications: Evaluation and Defence [0.0]
  この記事では、コネクショナリスト人工知能(AI)アプリケーションのITセキュリティを扱い、完全性への脅威に焦点を当てます。 脅威の包括的リストと軽減の可能性は、最先端の文献をレビューすることによって提示される。 緩和に関する議論は同様に、AIシステム自体のレベルに限定されず、むしろサプライチェーンの文脈でAIシステムを見ることを提唱している。
  論文  参考訳（メタデータ） (2020-03-18T12:33:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。