論文の概要: Toward provably private analytics and insights into GenAI use

• arxiv url: http://arxiv.org/abs/2510.21684v1
• Date: Fri, 24 Oct 2025 17:40:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-28 06:57:23.446664
• Title: Toward provably private analytics and insights into GenAI use
• Title（参考訳）: GenAI利用に関する実証的な個人分析と洞察に向けて
• Authors: Albert Cheu, Artem Lagzdin, Brett McLarnon, Daniel Ramage, Katharine Daly, Marco Gruteser, Peter Kairouz, Rakshita Tandon, Stanislav Chiknavaryan, Timon Van Overveldt, Zoe Gong,
• Abstract要約: 我々はAMD SEV-SNPやIntel TDXといった技術に基づく次世代フェデレーション分析システムを提案する。 我々のシステムでは、デバイスはデータを暗号化してアップロードし、限られたサーバ側処理ステップでタグ付けします。 オープンソースのTEEがホストするキー管理サービスは、データがこれらのステップにのみアクセス可能であることを保証します。
• 参考スコア（独自算出の注目度）: 12.545209220189113
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large-scale systems that compute analytics over a fleet of devices must achieve high privacy and security standards while also meeting data quality, usability, and resource efficiency expectations. We present a next-generation federated analytics system that uses Trusted Execution Environments (TEEs) based on technologies like AMD SEV-SNP and Intel TDX to provide verifiable privacy guarantees for all server-side processing. In our system, devices encrypt and upload data, tagging it with a limited set of allowable server-side processing steps. An open source, TEE-hosted key management service guarantees that the data is accessible only to those steps, which are themselves protected by TEE confidentiality and integrity assurance guarantees. The system is designed for flexible workloads, including processing unstructured data with LLMs (for structured summarization) before aggregation into differentially private insights (with automatic parameter tuning). The transparency properties of our system allow any external party to verify that all raw and derived data is processed in TEEs, protecting it from inspection by the system operator, and that differential privacy is applied to all released results. This system has been successfully deployed in production, providing helpful insights into real-world GenAI experiences.
• Abstract（参考訳）: デバイス群を通じて分析を計算する大規模システムは、データ品質、ユーザビリティ、リソース効率の期待を満たすと同時に、高いプライバシとセキュリティ標準を達成する必要がある。 本稿では,AMD SEV-SNP や Intel TDX などの技術をベースに,Trusted Execution Environments (TEEs) を用いた次世代フェデレーション分析システムを提案する。 我々のシステムでは、デバイスはデータを暗号化してアップロードし、限られたサーバ側処理ステップでタグ付けします。 オープンソースでTEEがホストするキー管理サービスは、データがこれらのステップにのみアクセス可能であることを保証します。 システムはフレキシブルなワークロードのために設計されており、(自動パラメータチューニングによる)微分プライベートな洞察に集約する前に(構造化要約のための)構造化されていないデータをLLMで処理する。 我々のシステムの透明性特性により、外部の関係者は、すべての生データと派生データをTEEで処理し、システムオペレータによる検査から保護し、全てのリリース結果に差分プライバシーを適用することができる。 このシステムは実運用に成功し、実世界のGenAIエクスペリエンスに関する有益な洞察を提供する。

関連論文リスト

• Adversary-Aware Private Inference over Wireless Channels [51.93574339176914]
  ワイヤレスエッジデバイスにおけるAIベースのセンシングは、人工知能(AI)アプリケーションを大幅に強化する可能性がある。 機密性の高い個人情報は敵によって再構築できるため、プライバシー侵害のリスクを軽減するために特徴の変換が必要である。 本稿では,デバイスがモデルサーバに送信する前に抽出した特徴の変換を適用する,プライバシ保護型AIベースセンシングのための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-10-23T13:02:14Z)
• Privacy-Preserving Federated Embedding Learning for Localized Retrieval-Augmented Generation [60.81109086640437]
  我々はFedE4RAG(Federated Retrieval-Augmented Generation)と呼ばれる新しいフレームワークを提案する。 FedE4RAGはクライアント側RAG検索モデルの協調トレーニングを容易にする。 モデルパラメータの保護にフェデレート学習の準同型暗号化を適用する。
  論文  参考訳（メタデータ） (2025-04-27T04:26:02Z)
• Building a Privacy Web with SPIDEr -- Secure Pipeline for Information De-Identification with End-to-End Encryption [3.8909411486426033]
  SPIDErはエンドツーエンドの暗号化データ識別パイプラインである。 抑制、偽名化、一般化、集約をサポートする。 本稿では,TEE内の非識別操作をエンド・ツー・エンドでセキュアに実行するための制御フローの設計について述べる。
  論文  参考訳（メタデータ） (2024-12-12T12:24:12Z)
• Balancing Confidentiality and Transparency for Blockchain-based Process-Aware Information Systems [43.253676241213626]
  機密性と透明性を維持するために,ブロックチェーンベースのPAISアーキテクチャを提案する。 スマートコントラクトは公開インタラクションを制定、強制、保存し、属性ベースの暗号化技術は機密情報へのアクセス許可を指定するために採用されている。 システム的脅威モデル解析によりソリューションの安全性を評価し,その実用性を評価する。
  論文  参考訳（メタデータ） (2024-12-07T20:18:36Z)
• PAPAYA Federated Analytics Stack: Engineering Privacy, Scalability and Practicality [5.276674920508729]
  Cross-Device Federated Analytics (FA)は、分析クエリに回答し、ユーザのデバイス上でローカルに保持されたデータから洞察を引き出すように設計された分散計算パラダイムである。 FAの幅広い関連性にもかかわらず、既存のFAシステムの適用性は、妥協された正確さ、データ分析の柔軟性の欠如、効果的にスケールできないことによって制限されている。 プライバシ、スケーラビリティ、実用性を組み合わせて、これらの制限を克服したシステムを構築し、デプロイするアプローチについて説明します。
  論文  参考訳（メタデータ） (2024-12-03T10:03:12Z)
• Confidential Federated Computations [16.415880530250092]
  Federated Learning and Analytics (FLA)は、デバイス上の機密データを処理するためのテクノロジプラットフォームによって広く採用されている。 FLAシステムは必ずしも差分プライバシー(DP)のような匿名化機構を必要としない 本稿では,サーバサイドの計算の秘密性を確保するために,TEEとオープンソースを活用した新しいシステムアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2024-04-16T17:47:27Z)
• HasTEE+ : Confidential Cloud Computing and Analytics with Haskell [50.994023665559496]
  信頼性コンピューティングは、Trusted Execution Environments(TEEs)と呼ばれる特別なハードウェア隔離ユニットを使用して、コテナントクラウドデプロイメントにおける機密コードとデータの保護を可能にする。 低レベルのC/C++ベースのツールチェーンを提供するTEEは、固有のメモリ安全性の脆弱性の影響を受けやすく、明示的で暗黙的な情報フローのリークを監視するための言語構造が欠如している。 私たちは、Haskellに埋め込まれたドメイン固有言語(cla)であるHasTEE+を使って、上記の問題に対処します。
  論文  参考訳（メタデータ） (2024-01-17T00:56:23Z)
• Trustworthy AI Inference Systems: An Industry Research View [58.000323504158054]
  我々は、信頼できるAI推論システムの設計、展開、運用にアプローチするための業界調査ビューを提供する。 信頼された実行環境を用いたAIシステムの機会と課題を強調します。 我々は,産業,アカデミック,政府研究者のグローバルな集団的注意を必要とする,さらなる発展の分野を概説する。
  論文  参考訳（メタデータ） (2020-08-10T23:05:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。