論文の概要: OpenPCC: Open and Confidential LLM Serving on Commodity TEEs

• arxiv url: http://arxiv.org/abs/2606.11145v1
• Date: Tue, 09 Jun 2026 17:33:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-11 16:42:38.070755
• Title: OpenPCC: Open and Confidential LLM Serving on Commodity TEEs
• Title（参考訳）: OpenPCC: オープンで信頼性の高いLLMがコモディティTEEをサポート
• Authors: Haoling Zhou, Shixuan Zhao, Chao Wang, Zhiqiang Lin,
• Abstract要約: セキュアでオープンなクラウド推論サービスを構築するための基本的な要件について分析する。 我々はオープンソースのプロトタイプを実装し、Llama-3 8B vLLMワークロード上でエンドツーエンドを特徴付ける。 分析と評価により,システムの実現可能性と安全性が示された。
• 参考スコア（独自算出の注目度）: 9.964425648424017
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Generative AI applications such as personal AI agents, image generators, and chat assistants offer advanced capabilities to improve user experience. Behind the scenes, Large Language Models (LLMs) that power these services require a massive amount of computation and are usually deployed in the cloud, available as APIs, meaning that a user's request has to be sent to a Cloud Inference Service (CIS) for processing. However, the strong capabilities of LLM also mean that user's requests now contain much more personal sensitive or enterprise confidential information, demanding equally strong protection in CIS. While early industry efforts such as Apple Private Cloud Compute (PCC) and Google Private AI Compute have emerged to show the potential of secure CIS, they are not adoptable for deployment by others due to their reliance on proprietary hardware and closed ecosystem. In addition, they all suffer from their own design glitches that can undermine the ambitious goal of bringing in true privacy protection to end users. In this paper, we present our analysis of the fundamental requirements of building a secure yet open CIS. We then present OpenPCC, a Confidential CIS framework that does not rely on proprietary hardware but instead uses commercially available TEEs. We implement an open-source prototype and characterize it end-to-end on a Llama-3 8B vLLM workload, separating OpenPCC's own cost from the underlying TEE hardware. Our analysis and evaluation demonstrated the feasibility and security of the system.
• Abstract（参考訳）: パーソナルAIエージェント、イメージジェネレータ、チャットアシスタントなどの生成AIアプリケーションは、ユーザーエクスペリエンスを改善するための高度な機能を提供する。 裏では、これらのサービスを動かすLarge Language Models(LLM)が大量の計算を必要とし、通常、APIとして利用可能なクラウドにデプロイされる。 しかし、LLMの強力な能力は、ユーザの要求にCISの強力な保護を要求する、より個人的な機密情報や企業機密情報が含まれることを意味している。 Apple Private Cloud Compute(PCC)やGoogle Private AI Computeといった初期の業界の取り組みは、セキュアなCISの可能性を示すために現れてきたが、プロプライエタリなハードウェアとクローズドなエコシステムに依存しているため、他の企業では採用できない。 さらに、彼らはそれぞれ、エンドユーザに真のプライバシ保護をもたらすという野心的な目標を損なうような、独自のデザインに悩まされている。 本稿では、安全でオープンなCISを構築するための基本的な要件について分析する。 このフレームワークは、プロプライエタリなハードウェアに依存しず、商用に利用可能なTEEを使用する。 我々はオープンソースのプロトタイプを実装し、Llama-3 8B vLLMのワークロード上でエンドツーエンドを特徴付け、OpenPCCのコストと基盤となるTEEハードウェアを分離する。 分析と評価により,システムの実現可能性と安全性が示された。

関連論文リスト

• RedSage: A Cybersecurity Generalist LLM [45.91667919408369]
  RedSageは、ドメイン認識事前トレーニングとポストトレーニングを備えた、オープンソースでローカルにデプロイ可能なサイバーセキュリティアシスタントである。 フレームワーク、攻撃的テクニック、セキュリティツールにまたがる28.6Kのドキュメントにまたがって、大規模なWebフィルタリングと高品質なリソースのマニュアルコレクションを使用します。 RedSageは、確立されたサイバーセキュリティベンチマーク(例えば、CTI-Bench、CyberMetric、SECURE)と一般的なLCMベンチマークで評価され、より広範な一般化を評価する。
  論文  参考訳（メタデータ） (2026-01-29T18:59:57Z)
• OpenCUA: Open Foundations for Computer-Use Agents [74.61449905487565]
  コンピュータ・ユース・エージェント(CUA)としての視覚言語モデル 我々は,CUAデータと基盤モデルをスケールするためのオープンソースフレームワークであるOpenCUAを提案する。 我々のエンドツーエンドエージェントモデルはCUAベンチマークで強い性能を示す。
  論文  参考訳（メタデータ） (2025-08-12T17:52:32Z)
• Privacy-Preserving Decentralized AI with Confidential Computing [0.7893328752331561]
  本稿では、Atoma Network内のCC(Confidential Computing)を用いた分散人工知能(AI)におけるプライバシ保護について述べる。 CCはハードウェアベースのTrusted Execution Environments (TEE)を活用して、機密データ処理の分離を提供する。 私たちはどのようにしてTEEをAtomaの分散フレームワークに統合できるかを検討します。
  論文  参考訳（メタデータ） (2024-10-17T16:50:48Z)
• Confidential Federated Computations [16.415880530250092]
  Federated Learning and Analytics (FLA)は、デバイス上の機密データを処理するためのテクノロジプラットフォームによって広く採用されている。 FLAシステムは必ずしも差分プライバシー(DP)のような匿名化機構を必要としない 本稿では,サーバサイドの計算の秘密性を確保するために,TEEとオープンソースを活用した新しいシステムアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-04-16T17:47:27Z)
• HasTEE+ : Confidential Cloud Computing and Analytics with Haskell [50.994023665559496]
  信頼性コンピューティングは、Trusted Execution Environments(TEEs)と呼ばれる特別なハードウェア隔離ユニットを使用して、コテナントクラウドデプロイメントにおける機密コードとデータの保護を可能にする。 低レベルのC/C++ベースのツールチェーンを提供するTEEは、固有のメモリ安全性の脆弱性の影響を受けやすく、明示的で暗黙的な情報フローのリークを監視するための言語構造が欠如している。 私たちは、Haskellに埋め込まれたドメイン固有言語(cla)であるHasTEE+を使って、上記の問題に対処します。
  論文  参考訳（メタデータ） (2024-01-17T00:56:23Z)
• The Security and Privacy of Mobile Edge Computing: An Artificial Intelligence Perspective [64.36680481458868]
  Mobile Edge Computing (MEC)は、クラウドコンピューティングと情報技術(IT)サービスをネットワークのエッジで配信できるようにする新しいコンピューティングパラダイムである。 本稿では,人工知能(AI)の観点からMECのセキュリティとプライバシに関する調査を行う。 新たなセキュリティとプライバシの問題に加えて、AIの観点からの潜在的なソリューションにも重点を置いています。
  論文  参考訳（メタデータ） (2024-01-03T07:47:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。