Fugu-MT 論文翻訳(概要): Locally Differentially Private Online Federated Learning With Correlated Noise

論文の概要: Locally Differentially Private Online Federated Learning With Correlated Noise

arxiv url: http://arxiv.org/abs/2411.18752v2
Date: Wed, 08 Jan 2025 20:51:17 GMT
ステータス: 翻訳完了
システム内更新日: 2025-01-10 13:57:22.547262
Title: Locally Differentially Private Online Federated Learning With Correlated Noise
Title（参考訳）: 局所的に異なる個人用オンラインフェデレーション学習と相関ノイズ
Authors: Jiaojiao Zhang, Linglingzhi Zhu, Dominik Fay, Mikael Johansson,
Abstract要約: 本稿では,時間的相関雑音を用いたオンライン学習のための局所微分プライベート(LDP)アルゴリズムを導入し,プライバシーを保ちながら実用性を向上させる。数値実験により提案アルゴリズムの有効性が確認された。
参考スコア（独自算出の注目度）: 8.643429918092927
License:
Abstract: We introduce a locally differentially private (LDP) algorithm for online federated learning that employs temporally correlated noise to improve utility while preserving privacy. To address challenges posed by the correlated noise and local updates with streaming non-IID data, we develop a perturbed iterate analysis that controls the impact of the noise on the utility. Moreover, we demonstrate how the drift errors from local updates can be effectively managed for several classes of nonconvex loss functions. Subject to an $(\epsilon,\delta)$-LDP budget, we establish a dynamic regret bound that quantifies the impact of key parameters and the intensity of changes in the dynamic environment on the learning performance. Numerical experiments confirm the efficacy of the proposed algorithm.
Abstract（参考訳）: 本稿では,時間的相関雑音を用いたオンラインフェデレーション学習のための局所微分プライベート(LDP)アルゴリズムを提案する。非IIDデータのストリーミングによるノイズの相関や局所的な更新による問題に対処するため,我々は,そのノイズが実用性に与える影響を制御した摂動反復解析を開発した。さらに,非凸損失関数のクラスに対して,局所更新からのドリフト誤差を効果的に管理できることを示す。我々は,$(\epsilon,\delta)$-LDP予算の下で,鍵パラメータの影響と動的環境の変化の強度が学習性能に与える影響を定量化する動的後悔境界を確立する。数値実験により提案アルゴリズムの有効性が確認された。

関連論文リスト

Effective Noise-aware Data Simulation for Domain-adaptive Speech Enhancement Leveraging Dynamic Stochastic Perturbation [25.410770364140856]
クロスドメイン音声強調(SE)は、目に見えない対象領域におけるノイズや背景情報の不足により、しばしば深刻な課題に直面している。本研究では,ノイズ抽出技術とGANを利用した新しいデータシミュレーション手法を提案する。本研究では,動的摂動の概念を導入し,制御された摂動を推論中の雑音埋め込みに注入する。
論文参考訳（メタデータ） (2024-09-03T02:29:01Z)
Differentially Private Online Federated Learning with Correlated Noise [8.349938538355772]
本稿では,時間的相関雑音を用いたオンラインフェデレーション学習のための新しい微分プライベートアルゴリズムを提案する。本研究では,局所更新によるドリフト誤差を準強凸条件下で効果的に管理できることを示す。
論文参考訳（メタデータ） (2024-03-25T08:35:19Z)
FedNMUT -- Federated Noisy Model Update Tracking Convergence Analysis [3.665841843512992]
分散ノイズモデル更新追跡フェデレート学習アルゴリズム(FedNMUT)を提案する。ノイズの多い通信チャネルで効率的に機能するように調整されている。 FedNMUTはノイズをパラメータに組み込んで、ノイズの多い通信チャネルの条件を模倣する。
論文参考訳（メタデータ） (2024-03-20T02:17:47Z)
Towards stable real-world equation discovery with assessing differentiating quality influence [52.2980614912553]
一般的に用いられる有限差分法に代わる方法を提案する。我々は,これらの手法を実問題と類似した問題に適用可能であること,および方程式発見アルゴリズムの収束性を確保する能力の観点から評価する。
論文参考訳（メタデータ） (2023-11-09T23:32:06Z)
Towards the Flatter Landscape and Better Generalization in Federated Learning under Client-level Differential Privacy [67.33715954653098]
本稿では,DPの負の影響を軽減するために勾配摂動を利用するDP-FedSAMという新しいDPFLアルゴリズムを提案する。具体的には、DP-FedSAM は Sharpness Aware of Minimization (SAM) を統合し、安定性と重みのある局所平坦度モデルを生成する。より優れた性能を保ちながら、さらにマグニチュードランダムノイズを低減するために、ローカル更新スペーシフィケーション手法を用いてDP-FedSAM-$top_k$を提案する。
論文参考訳（メタデータ） (2023-05-01T15:19:09Z)
Amplitude-Varying Perturbation for Balancing Privacy and Utility in Federated Learning [86.08285033925597]
本稿では,フェデレート学習のプライバシを保護するため,時変雑音振幅を持つ新しいDP摂動機構を提案する。我々は、FLの過度な摂動ノイズによる早期収束を防止するために、シリーズのオンラインリファインメントを導出した。新しいDP機構のプライバシ保存FLの収束と精度への寄与は、持続的な雑音振幅を持つ最先端のガウスノイズ機構と比較して相関する。
論文参考訳（メタデータ） (2023-03-07T22:52:40Z)
Improve Noise Tolerance of Robust Loss via Noise-Awareness [60.34670515595074]
本稿では,NARL-Adjuster(NARL-Adjuster for brevity)と呼ばれる,ハイパーパラメータ予測関数を適応的に学習するメタラーニング手法を提案する。 4つのSOTAロバストな損失関数を我々のアルゴリズムに統合し,提案手法の一般性および性能をノイズ耐性と性能の両面で検証した。
論文参考訳（メタデータ） (2023-01-18T04:54:58Z)
Noise Injection Node Regularization for Robust Learning [0.0]
ノイズインジェクションノード規則化(NINR)は、トレーニング期間中に、構造化されたノイズをディープニューラルネットワーク(DNN)に注入する手法である。本研究は、NINRの下で訓練されたフィードフォワードDNNに対する各種試験データ摂動に対するロバスト性を大幅に改善する理論的および実証的な証拠を示す。
論文参考訳（メタデータ） (2022-10-27T20:51:15Z)
An Experimental Study on Private Aggregation of Teacher Ensemble Learning for End-to-End Speech Recognition [51.232523987916636]
差分プライバシー(DP)は、プライバシーデータにノイズのある歪みを課すことで、深層モデルのトレーニングに使用されるユーザー情報を保護するための1つのデータ保護手段である。本研究では、PATE学習を動的パターン、すなわち音声を扱うように拡張し、音響データの漏洩を避けるために、ASRに関する最初の実験を行う。
論文参考訳（メタデータ） (2022-10-11T16:55:54Z)
On Dynamic Noise Influence in Differentially Private Learning [102.6791870228147]
Private Gradient Descent (PGD)は一般的に使用されるプライベート学習フレームワークであり、差分プロトコルに基づいてノイズを発生する。最近の研究では、emphdynamic privacy schedulesは最終イテレーションで改善できるが、そのようなスケジュールの有効性の理論は限られている。本稿では,これらの重要な質問に答えるために,動的プライバシスケジュールにおけるノイズの影響を総合的に分析する。
論文参考訳（メタデータ） (2021-01-19T02:04:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。