Fugu-MT 論文翻訳(概要): DPZV: Elevating the Tradeoff between Privacy and Utility in Zeroth-Order Vertical Federated Learning

論文の概要: DPZV: Elevating the Tradeoff between Privacy and Utility in Zeroth-Order Vertical Federated Learning

arxiv url: http://arxiv.org/abs/2502.20565v2
Date: Mon, 19 May 2025 14:40:29 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-20 14:57:10.493344
Title: DPZV: Elevating the Tradeoff between Privacy and Utility in Zeroth-Order Vertical Federated Learning
Title（参考訳）: DPZV: ゼロオーダーの垂直学習におけるプライバシとユーティリティのトレードオフを高める
Authors: Jianing Zhang, Evan Chen, Chaoyue Liu, Christopher G. Brinton,
Abstract要約: 本稿では,VFL(Vertical Federated Learning)の最初のZO最適化フレームワークであるDPZVを提案する。我々は,DPZVが1次最適化手法の収束率と一致し,形式的な(epsilon, delta$)-DP保証を満たすことを示す包括的な理論的解析を行う。画像および言語ベンチマークの実験では、DPZVは幅広いプライバシー制約の下での精度において、いくつかのベースラインを上回っている。
参考スコア（独自算出の注目度）: 9.302691218735406
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Vertical Federated Learning (VFL) enables collaborative training with feature-partitioned data, yet remains vulnerable to privacy leakage through gradient transmissions. Standard differential privacy (DP) techniques such as DP-SGD are difficult to apply in this setting due to VFL's distributed nature and the high variance incurred by vector-valued noise. On the other hand, zeroth-order (ZO) optimization techniques can avoid explicit gradient exposure but lack formal privacy guarantees. In this work, we propose DPZV, the first ZO optimization framework for VFL that achieves tunable DP with performance guarantees. DPZV overcomes these limitations by injecting low-variance scalar noise at the server, enabling controllable privacy with reduced memory overhead. We conduct a comprehensive theoretical analysis showing that DPZV matches the convergence rate of first-order optimization methods while satisfying formal ($\epsilon, \delta$)-DP guarantees. Experiments on image and language benchmarks demonstrate that DPZV outperforms several baselines in terms of accuracy under a wide range of privacy constraints ($\epsilon \le 10$), thereby elevating the privacy-utility tradeoff in VFL.
Abstract（参考訳）: Vertical Federated Learning (VFL)は、機能分割されたデータとの協調トレーニングを可能にするが、勾配送信によるプライバシリークに対して脆弱である。 DP-SGDのような標準微分プライバシー(DP)技術は、VFLの分散特性とベクトル値ノイズによる高分散のため、この設定では適用が困難である。一方、ゼロオーダー(ZO)最適化技術は、明示的な勾配露光を避けることができるが、正式なプライバシー保証は欠如している。本研究では,VFLのZO最適化フレームワークであるDPZVを提案する。 DPZVはサーバに低分散スカラーノイズを注入することでこれらの制限を克服し、メモリオーバーヘッドを減らして制御可能なプライバシを実現する。我々は、DPZVが1次最適化手法の収束率と一致し、正式な(\epsilon, \delta$)-DP保証を満たすことを示す包括的な理論的解析を行う。画像と言語ベンチマークの実験では、DPZVは幅広いプライバシー制約(\epsilon \le 10$)の下で精度においていくつかのベースラインを上回り、それによってVFLにおけるプライバシーユーティリティのトレードオフが上昇することを示した。

関連論文リスト

Linear-Time User-Level DP-SCO via Robust Statistics [55.350093142673316]
ユーザレベルの差分プライベート凸最適化(DP-SCO)は、マシンラーニングアプリケーションにおけるユーザのプライバシ保護の重要性から、大きな注目を集めている。微分プライベート勾配勾配(DP-SGD)に基づくような現在の手法は、しばしば高雑音蓄積と準最適利用に苦しむ。これらの課題を克服するために、ロバストな統計、特に中央値とトリミング平均を利用する新しい線形時間アルゴリズムを導入する。
論文参考訳（メタデータ） (2025-02-13T02:05:45Z)
Providing Differential Privacy for Federated Learning Over Wireless: A Cross-layer Framework [19.381425127772054]
Federated Learning(FL)は、エッジデバイスがローカルなトレーニングデータを維持することができる分散機械学習フレームワークである。本稿では,分散化された動的電力制御により差分プライバシ(DP)を改善するOTA-FLの無線物理層(PHY)設計を提案する。この適応は、異なる学習アルゴリズム間で設計の柔軟性と有効性を示しながら、プライバシに強く重点を置いています。
論文参考訳（メタデータ） (2024-12-05T18:27:09Z)
Share Your Secrets for Privacy! Confidential Forecasting with Vertical Federated Learning [5.584904689846748]
製造業における主な課題は、データプライバシと、小さくノイズの多いデータセットへの過度な適合である。本稿では、以下の重要な特徴を示す新しいフレームワークである「VFLによる秘かに共有された時系列予測」を提案する。以上の結果から,STVの予測精度は集中型手法に匹敵することがわかった。
論文参考訳（メタデータ） (2024-05-31T12:27:38Z)
TernaryVote: Differentially Private, Communication Efficient, and Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
論文参考訳（メタデータ） (2024-02-16T16:41:14Z)
Binary Federated Learning with Client-Level Differential Privacy [7.854806519515342]
フェデレートラーニング(Federated Learning、FL)は、プライバシ保護のための協調学習フレームワークである。既存のFLシステムはトレーニングアルゴリズムとしてフェデレーション平均(FedAvg)を採用するのが一般的である。差分プライバシーを保証する通信効率のよいFLトレーニングアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-08-07T06:07:04Z)
sqSGD: Locally Private and Communication Efficient Federated Learning [14.60645909629309]
Federated Learning(FL)は、分散データソースから機械学習モデルをトレーニングするテクニックである。我々は,通信効率と高次元互換性に対処するsqSGDという勾配学習アルゴリズムを開発した。実験の結果、sqSGDはローカルのプライバシー制約でLeNetやResNetのような大規模なモデルをうまく学習している。
論文参考訳（メタデータ） (2022-06-21T17:45:35Z)
Decentralized Stochastic Optimization with Inherent Privacy Protection [103.62463469366557]
分散最適化は、現代の協調機械学習、分散推定と制御、大規模センシングの基本的な構成要素である。データが関与して以降、分散最適化アルゴリズムの実装において、プライバシ保護がますます重要になっている。
論文参考訳（メタデータ） (2022-05-08T14:38:23Z)
Desirable Companion for Vertical Federated Learning: New Zeroth-Order Gradient Based Algorithm [140.25480610981504]
VFLアルゴリズムを評価するための指標の完全なリストには、モデル適用性、プライバシ、通信、計算効率が含まれるべきである。ブラックボックスのスケーラビリティを備えた新しいVFLフレームワークを提案する。
論文参考訳（メタデータ） (2022-03-19T13:55:47Z)
Secure Bilevel Asynchronous Vertical Federated Learning with Backward Updating [159.48259714642447]
垂直拡張学習(VFL)は、多人数協調モデリングの要求とプライバシー漏洩の懸念により、注目を集めている。我々は,vf$b2$を含む3つの新しいアルゴリズムを提案する新しいbftextlevel parallel architecture (vf$bfb2$)を提案する。
論文参考訳（メタデータ） (2021-03-01T12:34:53Z)
Federated Learning with Sparsification-Amplified Privacy and Adaptive Optimization [27.243322019117144]
フェデレートラーニング(FL)により、分散エージェントは、生データを互いに共有することなく、集中型モデルを共同で学習することができる。スパーシフィケーションを増幅した新しいFLフレームワークを提案する。提案手法では,ランダムなスペーシフィケーションと各エージェントの勾配摂動を統合し,プライバシー保証を増幅する。
論文参考訳（メタデータ） (2020-08-01T20:22:57Z)
User-Level Privacy-Preserving Federated Learning: Analysis and Performance Optimization [77.43075255745389]
フェデレートラーニング(FL)は、データを有用なモデルにトレーニングしながら、モバイル端末(MT)からプライベートデータを保存することができる。情報理論の観点からは、MTがアップロードした共有モデルから、好奇心の強いサーバがプライベートな情報を推測することが可能である。サーバにアップロードする前に、共有モデルに人工ノイズを加えることで、ユーザレベルの差分プライバシー(UDP)アルゴリズムを提案する。
論文参考訳（メタデータ） (2020-02-29T10:13:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。