論文の概要: SoK: Attack and Defense Landscape of Mobile On-device AI Systems
- arxiv url: http://arxiv.org/abs/2607.00362v1
- Date: Wed, 01 Jul 2026 03:00:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.69646
- Title: SoK: Attack and Defense Landscape of Mobile On-device AI Systems
- Title（参考訳）: SoK: モバイルオンデバイスAIシステムの攻撃と防御
- Abstract要約: ローカルにデプロイされたAIモデルと従来のモバイルソフトウェアコンポーネントを統合するモバイルオンデバイスAI(MoAI)システムは、エンドユーザーデバイスに直接インテリジェントな機能を提供するための重要なパラダイムとして浮上している。
本稿では,MoAIシステムのセキュリティ柱,攻撃景観,防衛景観を網羅する,MoAIセキュリティに関する知識の包括的体系化について述べる。
- 参考スコア（独自算出の注目度）: 33.39239747497822
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mobile on-device AI (MoAI) systems that integrate locally deployed AI models with conventional mobile software components are emerging as a key paradigm for delivering intelligent functionality directly on end-user devices. By moving inference from remote cloud services to the local mobile environment, such systems enable privacy-preserving, low-latency, and offline-capable AI functionality, yet introduce new security risks arising from the local storage of AI models. This paper presents the first comprehensive systematization of knowledge on MoAI security, covering security pillars, attack landscape, and defense landscape of MoAI systems. We further identify unresolved gaps in current attack and defense research and point to promising directions for future research in this emerging area. Our work establishes the first systematic framework for understanding the attack and defense landscapes of MoAI systems, serving as a foundation for building secure MoAI systems and advancing research in this critical domain. Companion resources are available at https://github.com/Jinxhy/Awesome-MoAI-Security.
- Abstract（参考訳）: ローカルにデプロイされたAIモデルと従来のモバイルソフトウェアコンポーネントを統合するモバイルオンデバイスAI(MoAI)システムは、エンドユーザーデバイスに直接インテリジェントな機能を提供するための重要なパラダイムとして浮上している。
リモートクラウドサービスからローカルモバイル環境に移行することで、このようなシステムは、プライバシ保護、低レイテンシ、オフライン対応のAI機能を実現すると同時に、AIモデルのローカルストレージから生じる新たなセキュリティリスクを導入する。
本稿では,MoAIシステムのセキュリティ柱,攻撃景観,防衛景観を網羅する,MoAIセキュリティに関する知識の包括的体系化について述べる。
我々は、現在の攻撃・防衛研究における未解決のギャップをさらに特定し、この新興地域での今後の研究に向けた有望な方向性を示す。
本研究は,MoAIシステムの攻撃・防御環境を理解するための最初の体系的枠組みを確立し,セキュアなMoAIシステムの構築と,この重要な領域における研究の進展の基盤として機能する。
コンパニオンリソースはhttps://github.com/Jinxhy/Awesome-MoAI-Security.comで入手できる。
関連論文リスト
- Protecting On-Device AI Inference: A Systematic Review of Attacks and Defence Mechanisms [36.94429692322632]
本稿では,デバイス上でのAI推論をターゲットとした脅威とそれに対応する防御機構の総合的なレビューを行う。
調査対象の攻撃論文の4分の1は知的財産権(IP)攻撃に焦点が当てられている。
いくつかの攻撃カテゴリは、攻撃文献のおよそ3分の1を占める敵攻撃など、それらに関連する防衛紙を持っていない。
論文 参考訳（メタデータ） (2026-05-28T06:44:46Z) - The Attack and Defense Landscape of Agentic AI: A Comprehensive Survey [46.278608570660005]
大規模言語モデルと非AIシステムコンポーネントを組み合わせたAIエージェントは、現実世界のアプリケーションで急速に出現している。
本稿では,AIエージェントのセキュリティに関する最初の体系的かつ包括的な調査について述べる。
論文 参考訳（メタデータ） (2026-03-11T05:25:55Z) - AI-driven Intrusion Detection for UAV in Smart Urban Ecosystems: A Comprehensive Survey [3.26654570054705]
本稿では、スマートシティにおけるUAVアプリケーションの構造化されたエビデンスに基づく合成とそのセキュリティ上の課題について述べる。
1)UAVの通信インフラを標的としたサイバー攻撃と,2)UAV自体による無断または無許可の物理的侵入である。
我々は、異常検出のためのマシン/ディープ学習や物体認識のためのコンピュータビジョンといったAIベースの手法が、UAVセキュリティの強化においてどのように重要な役割を果たすかを分析する。
論文 参考訳（メタデータ） (2026-01-27T08:26:05Z) - 3D Guard-Layer: An Integrated Agentic AI Safety System for Edge Artificial Intelligence [11.998914775359191]
エッジデバイスに直接AIを組み込むエッジ人工知能の採用は急速に増加している。
ガードレールと安全メカニズムの実装にもかかわらず、このドメインではセキュリティの脆弱性と課題がますます広まっている。
本稿では、3Dを利用して専用の安全層を統合するエージェントAI安全アーキテクチャを提案する。
論文 参考訳（メタデータ） (2025-11-11T23:55:09Z) - OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。
我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
論文 参考訳（メタデータ） (2025-10-28T13:22:39Z) - ANNIE: Be Careful of Your Robots [48.89876809734855]
エンボディドAIシステムに対する敵の安全攻撃に関する最初の体系的研究について述べる。
すべての安全カテゴリーで攻撃の成功率は50%を超えている。
結果は、実証済みのAIシステムにおいて、これまで未調査だったが、非常に連続的な攻撃面を露呈する。
論文 参考訳（メタデータ） (2025-09-03T15:00:28Z) - Surveying the Operational Cybersecurity and Supply Chain Threat Landscape when Developing and Deploying AI Systems [0.08594140167290097]
本稿では,AIをソフトウェアシステムに組み込む際に導入された,新たなサイバー脅威に対する認識を高める。
AIライフサイクルにおける運用上のサイバーセキュリティとサプライチェーンのリスクについて検討する。
これらのリスクを理解することによって、組織はAIシステムをよりよく保護し、信頼性とレジリエンスを確保することができる。
論文 参考訳（メタデータ） (2025-08-27T22:46:23Z) - The Security and Privacy of Mobile Edge Computing: An Artificial Intelligence Perspective [64.36680481458868]
Mobile Edge Computing (MEC)は、クラウドコンピューティングと情報技術(IT)サービスをネットワークのエッジで配信できるようにする新しいコンピューティングパラダイムである。
本稿では,人工知能(AI)の観点からMECのセキュリティとプライバシに関する調査を行う。
新たなセキュリティとプライバシの問題に加えて、AIの観点からの潜在的なソリューションにも重点を置いています。
論文 参考訳（メタデータ） (2024-01-03T07:47:22Z) - Trustworthy AI Inference Systems: An Industry Research View [58.000323504158054]
我々は、信頼できるAI推論システムの設計、展開、運用にアプローチするための業界調査ビューを提供する。
信頼された実行環境を用いたAIシステムの機会と課題を強調します。
我々は,産業,アカデミック,政府研究者のグローバルな集団的注意を必要とする,さらなる発展の分野を概説する。
論文 参考訳（メタデータ） (2020-08-10T23:05:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。