論文の概要: Auditing and Mitigating Privacy Leakage in Cloud-Edge Collaborative Decoding

• arxiv url: http://arxiv.org/abs/2608.29111v1
• Date: Sat, 29 Aug 2026 07:40:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.841239
• Title: Auditing and Mitigating Privacy Leakage in Cloud-Edge Collaborative Decoding
• Title（参考訳）: クラウドエッジコラボレーティブデコーディングにおけるプライバシ漏洩の監査と軽減
• Abstract要約: クラウド・エッジ・コラボレーティブ・デコーディング・パラダイムを提案する。このパラダイムでは、プライマリデータをエッジに保持し、SLM(Small Language Model)によって次世代のディストリビューションを生成する。 このようなコラボレーションによって、大量のプライベートコンテキスト情報を公開できることが示される。 復号時の漏洩を抑制するために送信信号の動的最適化を行う防衛機構であるCoVeilを提案する。
• 参考スコア（独自算出の注目度）: 5.588359981676548
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Applications such as personalized assistance and proprietary document analysis require large language models (LLMs) to generate outputs from private data. Yet powerful LLMs typically cannot be deployed on the resource-constrained devices where private data resides, and uploading private data to cloud-hosted LLMs exposes sensitive information. Recent work addresses this tension with a cloud-edge collaborative decoding paradigm, where private data are kept on the edge with a small language model (SLM) producing next-token distributions, which are fused with predictions from a cloud LLM operating solely on public data. In this paper, we systematically analyze the privacy risks of such a paradigm with a novel evaluation framework using constructed QA datasets, which show that such collaboration can expose substantial private-context information. To address such privacy leakage, we propose CoVeil, a defense mechanism which dynamically optimizes transmitted signals to suppress leakage during decoding time while preserving the collaborative quality. Extensive evaluations demonstrate that CoVeil consistently improves the privacy-utility trade-off over existing baselines by reducing data leakage by up to 87.2%, with minimal accuracy loss.
• Abstract（参考訳）: パーソナライズされたアシストやプロプライエタリな文書分析のようなアプリケーションは、プライベートデータから出力を生成するために大きな言語モデル(LLM)を必要とする。 しかし、強力なLLMは一般的に、プライベートデータが存在しているリソース制約のあるデバイスにデプロイできず、プライベートデータをクラウドにホストされたLLMにアップロードすることは、機密情報を公開する。 最近の研究は、プライベートデータをエッジに保持するクラウドエッジコラボレーティブデコーディングパラダイムと、次世代の分散を生成する小さな言語モデル(SLM)との緊張に対処している。 本稿では,構築されたQAデータセットを用いた新たな評価フレームワークを用いて,そのようなパラダイムのプライバシリスクを体系的に分析し,そのようなコラボレーションが大量のプライベートコンテキスト情報を公開できることを示す。 このようなプライバシー漏洩に対処するため,コラボレーティブな品質を維持しつつ,復号時の漏洩を抑制するために送信信号の動的最適化を行う防衛機構であるCoVeilを提案する。 大規模な評価では、CoVeilはデータのリークを最大87.2%削減し、精度の低下を最小限に抑えて、既存のベースラインに対するプライバシーとユーティリティのトレードオフを一貫して改善している。

関連論文リスト

• Towards Privacy-Preserving Large Language Model: Text-free Inference Through Alignment and Adaptation [22.16117894083848]
  我々は、生のプロンプトテキストの送信を不要にする新しいトレーニングパイプラインであるPPFT(Philipacy-Preserving Fine-Tuning)を導入する。 まず、サーバ側プロジェクションモジュールとLCMを併用してクライアント側エンコーダをトレーニングし、サーバが生テキストの代わりにkプールされたプロンプト埋め込みを条件にすることができるようにします。 ドメイン固有および一般的なベンチマークに関する大規模な実験は、PPFTがプライバシとユーティリティの顕著なバランスを達成していることを示している。
  論文  参考訳（メタデータ） (2026-04-08T08:49:17Z)
• Efficient Privacy-Preserving Retrieval Augmented Generation with Distance-Preserving Encryption [25.87368479678027]
  RAGは高い計算コストを伴わずにLLMの応答品質を向上させる重要な技術として登場した。 従来のアーキテクチャでは、RAGサービスは、信頼できるローカル環境内でデータセットをホストする単一のエンティティによって提供される。 信頼できないサードパーティサービスへの依存は、プライバシーのリスクをもたらす。 信頼できないクラウド環境に適した効率的なプライバシ保護RAGフレームワーク(ppRAG)を提案する。
  論文  参考訳（メタデータ） (2026-01-18T09:29:50Z)
• When Privacy Meets Recovery: The Overlooked Half of Surrogate-Driven Privacy Preservation for MLLM Editing [61.80513991207956]
  この研究は、さまざまなMLLMシナリオでサロゲート駆動の保護されたデータを復元する方法の課題に焦点を当てている。 私たちはまず、SPPE(Surrogate Privacy Protected Editable)データセットの提供によって、この研究ギャップを埋めます。 MLLM生成編集の忠実さを保ちながら、プライベートコンテンツを確実に再構築する統一的な手法を提案する。
  論文  参考訳（メタデータ） (2025-12-08T04:59:03Z)
• RL-Finetuned LLMs for Privacy-Preserving Synthetic Rewriting [17.294176570269]
  本稿では,複合報酬関数を用いた大規模言語モデル(LLM)を微調整する強化学習フレームワークを提案する。 プライバシ報酬は、セマンティックキューと、潜伏表現上の最小スパンニングツリー(MST)から派生した構造パターンを組み合わせる。 実験の結果,提案手法はセマンティック品質を劣化させることなく,著者の難読化とプライバシーの指標を大幅に向上させることがわかった。
  論文  参考訳（メタデータ） (2025-08-25T04:38:19Z)
• CoSteer: Collaborative Decoding-Time Personalization via Local Delta Steering [80.54309860395763]
  CoSteerは、ローカライズされたデルタステアリングを通じてデコード時のパーソナライズを可能にする、新しいコラボレーティブフレームワークである。 トークンレベルの最適化をオンライン学習問題として定式化し、ローカルデルタベクトルがリモートLLMのロジットを動的に調整する。 このアプローチは、生のデータや中間ベクトルではなく、最後のステアリングトークンのみを送信することで、プライバシを保護します。
  論文  参考訳（メタデータ） (2025-07-07T08:32:29Z)
• MAGPIE: A dataset for Multi-AGent contextual PrIvacy Evaluation [54.410825977390274]
  LLMエージェントのコンテキストプライバシを評価するための既存のベンチマークは、主にシングルターン、低複雑さタスクを評価する。 まず、15ドメインにわたる158のリアルタイムハイテイクシナリオからなるベンチマーク-MAGPIEを示す。 次に、コンテキスト的にプライベートなデータに対する理解と、ユーザのプライバシを侵害することなくコラボレーションする能力に基づいて、最先端のLCMを評価します。
  論文  参考訳（メタデータ） (2025-06-25T18:04:25Z)
• Automated Privacy Information Annotation in Large Language Model Interactions [40.87806981624453]
  実際の識別子の下で大きな言語モデル(LLM)と対話するユーザは、プライベート情報の開示を無意識にリスクを負うことが多い。 既存のプライバシ検出方法は、異なる目的とアプリケーションドメインのために設計されている。 249Kのユーザクエリと154Kの注釈付きプライバシフレーズを備えた大規模多言語データセットを構築した。
  論文  参考訳（メタデータ） (2025-05-27T09:00:12Z)
• Communication-Efficient and Privacy-Adaptable Mechanism for Federated Learning [54.20871516148981]
  通信効率・プライバシー適応メカニズム(CEPAM)について紹介する。 CEPAMは通信効率とプライバシー保護を同時に達成する。 我々は、CEPAMのプライバシー保証を理論的に分析し、CEPAMのユーザプライバシと正確性の間のトレードオフを調査する。
  論文  参考訳（メタデータ） (2025-01-21T11:16:05Z)
• LLM-PBE: Assessing Data Privacy in Large Language Models [111.58198436835036]
  大規模言語モデル(LLM)は多くのドメインに不可欠なものとなり、データ管理、マイニング、分析におけるアプリケーションを大幅に進歩させた。 この問題の批判的な性質にもかかわらず、LLMにおけるデータプライバシのリスクを総合的に評価する文献は存在しない。 本稿では,LLMにおけるデータプライバシリスクの体系的評価を目的としたツールキットであるLLM-PBEを紹介する。
  論文  参考訳（メタデータ） (2024-08-23T01:37:29Z)
• Robust Utility-Preserving Text Anonymization Based on Large Language Models [80.5266278002083]
  機密情報を含む匿名化は、幅広いアプリケーションにとって不可欠である。 既存の技術は、大規模言語モデルの再識別能力の新たな課題に直面している。 本稿では,プライバシ評価器,ユーティリティ評価器,最適化コンポーネントの3つの重要なコンポーネントで構成されるフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-16T14:28:56Z)
• Privacy Preserving Large Language Models: ChatGPT Case Study Based Vision and Framework [6.828884629694705]
  本稿では,LLMのプライバシ生成モデルであるPrivChatGPTという概念モデルを提案する。 PrivChatGPTは、データキュレーション/前処理中にユーザのプライバシを保護し、プライベートコンテキストの保存と大規模データのプライベートトレーニングプロセスという2つの主要コンポーネントから構成される。
  論文  参考訳（メタデータ） (2023-10-19T06:55:13Z)
• PrivacyMind: Large Language Models Can Be Contextual Privacy Protection Learners [81.571305826793]
  コンテキストプライバシ保護言語モデル(PrivacyMind)を紹介する。 我々の研究はモデル設計に関する理論的分析を提供し、様々な手法をベンチマークする。 特に、肯定的な例と否定的な例の両方による命令チューニングは、有望な方法である。
  論文  参考訳（メタデータ） (2023-10-03T22:37:01Z)
• Privacy Implications of Retrieval-Based Language Models [26.87950501433784]
  本稿では,検索に基づくLM,特に$k$NN-LMにおけるプライバシリスクに関する最初の研究について述べる。 パラメトリックモデルよりも、$k$NN-LMsの方がプライベートデータストアから個人情報をリークする可能性が高いことがわかりました。
  論文  参考訳（メタデータ） (2023-05-24T08:37:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。