論文の概要: TEE-X: TEE-aware Acceleration Framework for Large Vision Models at the Edge
- arxiv url: http://arxiv.org/abs/2608.22716v1
- Date: Mon, 24 Aug 2026 02:05:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 13:29:43.847189
- Title: TEE-X: TEE-aware Acceleration Framework for Large Vision Models at the Edge
- Title(参考訳): TEE-X:エッジでの大規模ビジョンモデルのためのTEE対応アクセラレーションフレームワーク
- Abstract要約: TEE-Xは、センシティブ・アウェアのモジュール化技術を導入し、TEE推論におけるベクトル化を可能にするTEE対応加速度フレームワークである。
この設計はArm TrustZoneのOP-TEEで検証されており、NVIDIA Jetson AGX Xavierのパフォーマンスを最適化してエッジビジョンの効率的な応用を可能にしている。
- 参考スコア(独自算出の注目度): 15.135142694332322
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Despite their remarkable success, machine learning models, particularly in vision applications, are alarmingly vulnerable to a range of security threats. One key factor in the attack landscape is the distinction between white-box and black-box threat models, as the latter poses challenges that limit attack effectiveness when access to model information is limited. As a result, using Trusted Execution Environments (TEEs) enhances security for machine learning applications by protecting model confidentiality and execution integrity, effectively shifting the execution environment from the white-box to the black-box side of the threat model spectrum. While adopting TEEs for large vision models, e.g., Vision Transformers (ViTs), is crucial for enhancing security and privacy, significant challenges related to memory constraints and increased computational latency must be addressed, especially in time-sensitive edge applications where safety and privacy are paramount. The objective of this work is to enable large vision models to be fully hosted within TEEs, achieving GPU-level inference latency for time-sensitive edge vision applications while maintaining performance. To this end, we propose TEE-X, a TEE-aware acceleration framework that introduces a sensitivity-aware modularization technique and enables vectorization in TEE inference. This design is validated on OP-TEE for Arm TrustZone, configured to optimize performance on the NVIDIA Jetson AGX Xavier for efficient edge vision applications using ViT models. The findings reveal that TEE-X delivers an effective TEE-aware acceleration framework that achieves minimal accuracy-latency trade-offs while ensuring fast and secure edge inference for vision models.
- Abstract(参考訳): その顕著な成功にもかかわらず、特にビジョンアプリケーションにおける機械学習モデルは、さまざまなセキュリティ脅威に対して非常に脆弱である。
攻撃環境における重要な要素の1つは、ホワイトボックスとブラックボックスの脅威モデルの違いである。
その結果、Trusted Execution Environments(TEEs)を使用することで、モデル機密性と実行の整合性を保護することにより、マシンラーニングアプリケーションのセキュリティが向上し、脅威モデルスペクトルのホワイトボックス側からブラックボックス側へ実行環境を効果的にシフトする。
例えば、ビジョントランスフォーマー(ViT)は、セキュリティとプライバシを高めるために重要であるが、特に安全性とプライバシが最重要である時間に敏感なエッジアプリケーションでは、メモリ制約や計算遅延の増加に関連する重要な課題に対処する必要がある。
この作業の目的は、大規模なビジョンモデルをTEE内で完全にホストできるようにすることであり、パフォーマンスを維持しながら、時間に敏感なエッジビジョンアプリケーションのためのGPUレベルの推論レイテンシを実現することである。
そこで本研究では,感性を考慮したモジュール化技術を導入し,TEE推論におけるベクトル化を実現するTEE-Xを提案する。
この設計はArm TrustZoneのOP-TEEで検証され、NVIDIA Jetson AGX Xavierの性能をViTモデルを用いた効率的なエッジビジョンアプリケーションに最適化する。
この結果から,TEE-Xは,視覚モデルの高速かつセキュアなエッジ推論を確保しつつ,最小精度のレイテンシトレードオフを実現する,効果的なTEE対応加速度フレームワークを提供することがわかった。
関連論文リスト
- DiSCO: Defending text-to-image generation through distribution-guided contrastive prompt optimization [65.89030524420933]
DiSCOはゼロショットで厳密にブラックボックスのディフェンスで、プラグイン・アンド・プレイモジュールとしてプロンプトレベルで完全に動作する。
我々は,DiSCOが無防備モデルと防御モデルの両方の安全性を継続的に向上することを示した。
ブラックボックスでアーキテクチャに依存しないモジュールとして、DiSCOはどんなテキスト・ツー・イメージ・システムにも容易に適用できる。
論文 参考訳(メタデータ) (2026-08-17T19:13:55Z) - SafeVision: Efficient Image Guardrail with Robust Policy Adherence and Explainability [49.074914896839466]
我々は,適応性と透明性を高めるために人間ライクな推論を統合する新しいイメージガードレールであるSafeVisionを紹介する。
提案手法には,効率的なデータ収集・生成フレームワーク,ポリシフォロートレーニングパイプライン,カスタマイズされた損失関数が組み込まれている。
SafeVisionは、異なるベンチマークで最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2025-10-28T00:35:59Z) - SecureInfer: Heterogeneous TEE-GPU Architecture for Privacy-Critical Tensors for Large Language Model Deployment [9.666696979829359]
SecureInferは、計算集約的な操作を信頼できないアクセラレータにオフロードするフレームワークである。
LLaMA-2モデルを用いてSecureInferのプロトタイプを実装し,性能およびセキュリティ指標間で評価する。
論文 参考訳(メタデータ) (2025-10-22T19:17:31Z) - Securing Transformer-based AI Execution via Unified TEEs and Crypto-protected Accelerators [19.93096649006403]
マシンラーニングは信頼できないクラウドインフラストラクチャ上で動作し、データとモデルを潜在的な侵害に晒す。
信頼された実行環境(TEE)内で完全にモデル推論を実行すると、非自明なスローダウンが発生する。
異種TEEおよびアクセラレータシステムにおけるセキュアトランスフォーマー推論を実現するフレームワークであるTwinShieldを提案する。
論文 参考訳(メタデータ) (2025-07-04T03:52:53Z) - TensorShield: Safeguarding On-Device Inference by Shielding Critical DNN Tensors with TEE [15.680713503694951]
既存の知恵は信頼された実行環境(TEE)内にモデルをデプロイする
本論文は,MS と MIA を完全に防御しながらモデルの部分テンソルを遮蔽する,最初の効率的なデバイス上の推論作業であるShield とのギャップを埋めるものである。
論文 参考訳(メタデータ) (2025-05-28T18:00:24Z) - R-TPT: Improving Adversarial Robustness of Vision-Language Models through Test-Time Prompt Tuning [69.72249695674665]
視覚言語モデル(VLM)のためのロバストテスト時プロンプトチューニング(R-TPT)を提案する。
R-TPTは、推論段階における敵攻撃の影響を緩和する。
プラグアンドプレイの信頼性に基づく重み付きアンサンブル戦略を導入し,防御強化を図る。
論文 参考訳(メタデータ) (2025-04-15T13:49:31Z) - Intelligent IoT Attack Detection Design via ODLLM with Feature Ranking-based Knowledge Base [0.964942474860411]
IoT(Internet of Things)デバイスは,重大なサイバーセキュリティ上の課題を導入している。
従来の機械学習(ML)技術は、混在するパターンと進化するパターンの複雑さのために、このような攻撃を検出するのに不足することが多い。
本稿では,オンデバイス大規模言語モデル(ODLLMs)を微調整と知識ベース(KB)統合で拡張し,インテリジェントなIoTネットワーク攻撃検出を実現する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2025-03-27T16:41:57Z) - Tit-for-Tat: Safeguarding Large Vision-Language Models Against Jailbreak Attacks via Adversarial Defense [90.71884758066042]
大きな視覚言語モデル(LVLM)は、視覚入力による悪意のある攻撃に対する感受性という、ユニークな脆弱性を導入している。
本稿では,脆弱性発生源からアクティブ防衛機構へ視覚空間を変換するための新しい手法であるESIIIを提案する。
論文 参考訳(メタデータ) (2025-03-14T17:39:45Z) - Efficient Detection Framework Adaptation for Edge Computing: A Plug-and-play Neural Network Toolbox Enabling Edge Deployment [59.61554561979589]
エッジコンピューティングは、時間に敏感なシナリオでディープラーニングベースのオブジェクト検出をデプロイするための重要なパラダイムとして登場した。
既存のエッジ検出手法では、軽量モデルによる検出精度のバランスの難しさ、適応性の制限、現実の検証の不十分といった課題に直面している。
本稿では,汎用的なプラグイン・アンド・プレイコンポーネントを用いてエッジ環境にオブジェクト検出モデルを適用するエッジ検出ツールボックス(ED-TOOLBOX)を提案する。
論文 参考訳(メタデータ) (2024-12-24T07:28:10Z) - TEESlice: Protecting Sensitive Neural Network Models in Trusted Execution Environments When Attackers have Pre-Trained Models [12.253529209143197]
TSDPは、TEE内のプライバシーに敏感な重みを保護し、GPUに不感な重みをオフロードする手法である。
トレーニング戦略の前に新たなパーティションを導入し,プライバシに敏感な重みをモデルの他のコンポーネントと効果的に分離する。
提案手法は, 計算コストを10倍に削減し, 完全なモデル保護を実現できることを示す。
論文 参考訳(メタデータ) (2024-11-15T04:52:11Z) - Enhancing Physical Layer Communication Security through Generative AI with Mixture of Experts [80.0638227807621]
生成人工知能(GAI)モデルは、従来のAI手法よりも優れていることを示した。
ゲート機構による予測に複数の専門家モデルを使用するMoEは、可能なソリューションを提案する。
論文 参考訳(メタデータ) (2024-05-07T11:13:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。