論文の概要: EnclaveX: End-to-End Confidential AI with CPU/GPU TEEs
- arxiv url: http://arxiv.org/abs/2606.31408v1
- Date: Tue, 30 Jun 2026 09:35:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.166903
- Title: EnclaveX: End-to-End Confidential AI with CPU/GPU TEEs
- Title(参考訳): EnclaveX: CPU/GPU TEEを使用したエンドツーエンドの信頼AI
- Abstract要約: 大規模言語モデル(LLM)は急速に普及し、AIアプリケーションの普及を促している。
ほとんどのデプロイメントは、Microsoft Azure、Google Cloud、AWSなどの集中型インフラストラクチャに依存しており、ユーザは機密データやトレーニング、微調整コードを共有する必要がある。
クラウドプロバイダは機密性と整合性を確保するために信頼しなければなりません。
我々は、(Intel TDXとAMD SEV-SNPによる)VMレベルでの機密性と整合性を保証するメカニズムとアプリケーションレベルでのアプリケーションレベルのセキュリティを保証するメカニズムを提案し、管理者が機密VMコンテンツにアクセスする能力などの脆弱性を強調した。
- 参考スコア(独自算出の注目度): 0.26249027950824505
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) have rapidly proliferated, driving widespread adoption of AI applications. Most deployments rely on centralized infrastructures such as Microsoft Azure, Google Cloud, or AWS, requiring users to share sensitive data and training or fine-tuning code. This dependence raises significant security and privacy concerns, as cloud providers must be trusted to ensure confidentiality and integrity. Trusted Execution Environments (TEEs) e.g., Intel SGX/TDX, AMD SEV-SNP, and ARM CCA have been introduced to mitigate these risks. More recently, NVIDIA has developed GPU TEEs (e.g., H100/H200), yet comprehensive evaluations of end-to-end workflows that integrate CPU and GPU TEEs remain limited. Critical aspects, including performance overhead, remote attestation, and security guarantees for AI/LLM applications, have not been sufficiently studied. This paper addresses this gap by presenting an end-to-end workflow that combines CPU and GPU TEEs. We propose mechanisms to ensure confidentiality and integrity at both the VM level (via Intel TDX and AMD SEV-SNP) and the application level, highlighting vulnerabilities such as Kubernetes administrators' ability to access confidential VM contents. Finally, we evaluate the performance overhead of our system using industry benchmarks, focusing on configurations that integrate Intel TDX with NVIDIA H200 GPUs.
- Abstract(参考訳): 大規模言語モデル(LLM)が急速に普及し、AIアプリケーションの普及が加速している。
ほとんどのデプロイメントは、Microsoft Azure、Google Cloud、AWSなどの集中型インフラストラクチャに依存しており、ユーザは機密データやトレーニング、微調整コードを共有する必要がある。
クラウドプロバイダは機密性と整合性を確保するために信頼しなければなりません。
Trusted Execution Environments (TEEs) eg、Intel SGX/TDX、AMD SEV-SNP、ARM CCAがこれらのリスクを軽減するために導入された。
近年、NVIDIAはGPU TEE(例:H100/H200)を開発したが、CPUとGPU TEEを統合するエンドツーエンドワークフローの包括的な評価は限定的のままである。
AI/LLMアプリケーションのパフォーマンスオーバーヘッド、リモートテスト、セキュリティ保証など、重要な側面は十分に研究されていない。
本稿では、CPUとGPUのTEEを組み合わせたエンドツーエンドワークフローを提供することで、このギャップに対処する。
我々は、(Intel TDXとAMD SEV-SNPを介して)VMレベルでの機密性と整合性を保証するメカニズムと、Kubernetes管理者の機密VMコンテンツへのアクセス能力のような脆弱性を強調するアプリケーションレベルの両方を提案する。
最後に,Intel TDXとNVIDIA H200 GPUを統合する構成に着目し,業界ベンチマークを用いてシステムの性能オーバーヘッドを評価する。
関連論文リスト
- ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? [92.21756459993695]
低レベルのプログラム推論を必要とするため、爆発は難しい作業です。
その重要性と診断価値にもかかわらず、搾取は未評価のままである。
ExploitGymは、AIエージェントのエクスプロイト能力に関する大規模で多様な、現実的なベンチマークである。
論文 参考訳(メタデータ) (2026-05-11T18:00:14Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳(メタデータ) (2026-01-14T23:06:35Z) - Scalable GPU-Based Integrity Verification for Large Machine Learning Models [4.301162531343759]
我々は、CPUとGPUプラットフォーム間の整合性保護を標準化することで、分散機械学習を強化するセキュリティフレームワークを提案する。
提案手法は,GPUアクセラレータ上での大規模なMLモデル実行と直接的に整合性検証を行う。
私たちは、基盤となるCPUやGPUインフラストラクチャに関係なく、エンタープライズチームがデプロイできるハードウェアに依存しない基盤を提供します。
論文 参考訳(メタデータ) (2025-10-27T23:45:21Z) - Confidential LLM Inference: Performance and Cost Across CPU and GPU TEEs [16.49726695421423]
大規模言語モデル(LLM)は、収束したクラウドと高性能コンピューティングインフラストラクチャにますますデプロイされている。
LLMが機密入力を処理するため、セキュリティ要件が高められ、医療や金融といったプライバシーに敏感な分野への採用が遅れる。
エンド・ツー・エンドのLSM推論のためのソリューションとして,Trusted Execution Environments (TEEs)を提案する。
論文 参考訳(メタデータ) (2025-09-23T10:36:47Z) - NVIDIA GPU Confidential Computing Demystified [23.473530599624937]
GPU Confidential ComputingはNVIDIA Hopper Architectureの一部として導入された。
エンドユーザにとって、GPU-CCモードへの移行はシームレスであり、既存のAIアプリケーションを変更する必要はない。
透明性の欠如は、GPU-CCのアーキテクチャと運用メカニズムのより深い理解を求めるセキュリティ研究者にとって大きな課題となっている。
論文 参考訳(メタデータ) (2025-07-03T16:31:07Z) - VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents [74.6761188527948]
完全なシステムアクセスを持つコンピュータ利用エージェント(CUA)は、セキュリティとプライバシの重大なリスクを負う。
我々は、悪意のある命令がレンダリングされたユーザーインターフェイスに視覚的に埋め込まれた視覚的プロンプトインジェクション(VPI)攻撃について検討する。
実験により,現在のCUAとBUAは,それぞれのプラットフォーム上で最大51%,100%の速度で騙すことができることがわかった。
論文 参考訳(メタデータ) (2025-06-03T05:21:50Z) - Ascend-CC: Confidential Computing on Heterogeneous NPU for Emerging Generative AI Workloads [1.8633238548765558]
クラウドワークロードは、大規模言語モデル(LLM)に基づいた生成AIを支配している
GPU、NPU、TPUといった特殊なハードウェアアクセラレータは、汎用CPUよりも優れたパフォーマンスのため、AIの採用において重要な役割を果たす。
AIモデルとデータは、しばしば非常に敏感で、相互に不信な関係者から来ています。
本稿では,ホストシステムへの信頼を必要としない離散NPUデバイスに基づく秘密計算アーキテクチャAscend-CCを提案する。
論文 参考訳(メタデータ) (2024-07-16T16:17:28Z) - HasTEE+ : Confidential Cloud Computing and Analytics with Haskell [50.994023665559496]
信頼性コンピューティングは、Trusted Execution Environments(TEEs)と呼ばれる特別なハードウェア隔離ユニットを使用して、コテナントクラウドデプロイメントにおける機密コードとデータの保護を可能にする。
低レベルのC/C++ベースのツールチェーンを提供するTEEは、固有のメモリ安全性の脆弱性の影響を受けやすく、明示的で暗黙的な情報フローのリークを監視するための言語構造が欠如している。
私たちは、Haskellに埋め込まれたドメイン固有言語(cla)であるHasTEE+を使って、上記の問題に対処します。
論文 参考訳(メタデータ) (2024-01-17T00:56:23Z) - The Security and Privacy of Mobile Edge Computing: An Artificial Intelligence Perspective [64.36680481458868]
Mobile Edge Computing (MEC)は、クラウドコンピューティングと情報技術(IT)サービスをネットワークのエッジで配信できるようにする新しいコンピューティングパラダイムである。
本稿では,人工知能(AI)の観点からMECのセキュリティとプライバシに関する調査を行う。
新たなセキュリティとプライバシの問題に加えて、AIの観点からの潜在的なソリューションにも重点を置いています。
論文 参考訳(メタデータ) (2024-01-03T07:47:22Z) - FusionAI: Decentralized Training and Deploying LLMs with Massive
Consumer-Level GPUs [57.12856172329322]
我々は、巨大な未使用のコンシューマレベルのGPUをアンロックする分散システムを構想する。
このシステムは、CPUとGPUメモリの制限、ネットワーク帯域幅の低さ、ピアとデバイスの多様性など、重要な課題に直面している。
論文 参考訳(メタデータ) (2023-09-03T13:27:56Z) - Confidential Machine Learning within Graphcore IPUs [1.8657490510210906]
GraphcoreのGC200 IPUはTSMCの7nm技術ノードで出力された。
ITXは、パフォーマンスのオーバーヘッドが低い場合に、強力な機密性と整合性を保証するAIワークロードの実行を可能にする。
論文 参考訳(メタデータ) (2022-05-18T15:41:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。