論文の概要: Federated Generative Adversarial Learning
- arxiv url: http://arxiv.org/abs/2005.03793v3
- Date: Sun, 19 Jul 2020 05:02:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-05 22:47:41.861010
- Title: Federated Generative Adversarial Learning
- Title(参考訳): フェデレーション・ジェネレーティブ・逆境学習
- Authors: Chenyou Fan, Ping Liu
- Abstract要約: GAN(Generative Adversarial Network)は、様々な現実世界のアプリケーションにおいて進歩を遂げている。
GANは実際のケースでデータ制限の問題に悩まされている。
本稿では,フェデレート学習フレームワークを用いた新しい生成学習手法を提案する。
- 参考スコア(独自算出の注目度): 13.543039993168735
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work studies training generative adversarial networks under the
federated learning setting. Generative adversarial networks (GANs) have
achieved advancement in various real-world applications, such as image editing,
style transfer, scene generations, etc. However, like other deep learning
models, GANs are also suffering from data limitation problems in real cases. To
boost the performance of GANs in target tasks, collecting images as many as
possible from different sources becomes not only important but also essential.
For example, to build a robust and accurate bio-metric verification system,
huge amounts of images might be collected from surveillance cameras, and/or
uploaded from cellphones by users accepting agreements. In an ideal case,
utilize all those data uploaded from public and private devices for model
training is straightforward. Unfortunately, in the real scenarios, this is hard
due to a few reasons. At first, some data face the serious concern of leakage,
and therefore it is prohibitive to upload them to a third-party server for
model training; at second, the images collected by different kinds of devices,
probably have distinctive biases due to various factors, $\textit{e.g.}$,
collector preferences, geo-location differences, which is also known as "domain
shift". To handle those problems, we propose a novel generative learning scheme
utilizing a federated learning framework. Following the configuration of
federated learning, we conduct model training and aggregation on one center and
a group of clients. Specifically, our method learns the distributed generative
models in clients, while the models trained in each client are fused into one
unified and versatile model in the center. We perform extensive experiments to
compare different federation strategies, and empirically examine the
effectiveness of federation under different levels of parallelism and data
skewness.
- Abstract(参考訳): 本研究は,フェデレーション学習環境下で生成的敵ネットワークを学習する。
generative adversarial networks (gans) は、画像編集、スタイル転送、シーン生成など、様々な現実世界のアプリケーションで進歩を遂げている。
しかし、他のディープラーニングモデルと同様に、GANも実際のケースでデータ制限の問題に悩まされている。
対象タスクにおけるganの性能を高めるため、異なるソースから可能な限り画像を集めることが重要になるだけでなく、必要となる。
例えば、堅牢で正確なバイオメトリック認証システムを構築するために、大量の画像を監視カメラから収集したり、ユーザーが同意を受け入れて携帯電話からアップロードしたりすることができる。
理想的には、パブリックデバイスやプライベートデバイスからアップロードされたすべてのデータをモデルトレーニングに使うのは簡単です。
残念ながら、実際のシナリオでは、いくつかの理由でこれは難しいです。
第二に、さまざまな種類のデバイスによって収集された画像は、おそらく、様々な要因によって異なるバイアスを持つ。$\textit{e.}$、コレクタの好み、地理的位置の違い、つまり、"ドメインシフト"とも呼ばれる。
このような問題に対処するために,フェデレート学習フレームワークを用いた新しい生成学習手法を提案する。
フェデレーション学習の構成に従って,1つのセンタと1つのクライアントグループでモデルトレーニングとアグリゲーションを実施します。
具体的には、クライアントの分散生成モデルを学習し、各クライアントで訓練されたモデルは中央に1つの統一的で汎用的なモデルに融合する。
異なるフェデレーション戦略を比較するために広範な実験を行い、異なるレベルの並列性とデータスキューネスの下でフェデレーションの有効性を実証的に検証する。
関連論文リスト
- Federated Face Forgery Detection Learning with Personalized Representation [63.90408023506508]
ディープジェネレータ技術は、区別がつかない高品質のフェイクビデオを制作し、深刻な社会的脅威をもたらす可能性がある。
従来の偽造検出手法は、データを直接集中的に訓練する。
本稿では,個人化表現を用いた新しいフェデレーション顔偽造検出学習を提案する。
論文 参考訳(メタデータ) (2024-06-17T02:20:30Z) - FedYolo: Augmenting Federated Learning with Pretrained Transformers [61.56476056444933]
本研究では,デバイス上での学習目標を達成するための事前学習型トランスフォーマー(PTF)について検討する。
大規模化により,代替手法間の精度ギャップが小さくなり,ロバスト性も向上することを示す。
最後に、クライアントは単一のPTFを使用して複数の無関係なタスクを同時に解決できる。
論文 参考訳(メタデータ) (2023-07-10T21:08:52Z) - Prototype Helps Federated Learning: Towards Faster Convergence [38.517903009319994]
Federated Learning(FL)は、複数のクライアントが協力して、生データを交換することなく、共有モデルをトレーニングする分散機械学習技術である。
本稿では,従来のフェデレーション学習プロセスの最後のグローバルイテレーションにわずかな変更を加えるだけで,推論性能を向上する,プロトタイプベースのフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-22T04:06:29Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-20T10:49:22Z) - Federated Zero-Shot Learning for Visual Recognition [55.65879596326147]
本稿では,Federated Zero-Shot Learning FedZSLフレームワークを提案する。
FedZSLは、エッジデバイス上の分散データから中心的なモデルを学ぶ。
FedZSLの有効性と堅牢性は、3つのゼロショットベンチマークデータセットで実施された広範な実験によって実証された。
論文 参考訳(メタデータ) (2022-09-05T14:49:34Z) - Federated Learning of Neural ODE Models with Different Iteration Counts [0.9444784653236158]
フェデレーテッド・ラーニング(Federated Learning)とは、クライアントが自身のデータをローカルにトレーニングしてサーバにアップロードする分散機械学習アプローチである。
本稿では,ニューラルネットワークをベースとしたモデルを用いてフェデレート学習を行う。
我々は,CIFAR-10データセットを用いたベースラインResNetモデルと比較して,通信サイズを最大92.4%削減できることを示す。
論文 参考訳(メタデータ) (2022-08-19T17:57:32Z) - FedILC: Weighted Geometric Mean and Invariant Gradient Covariance for
Federated Learning on Non-IID Data [69.0785021613868]
フェデレートラーニング(Federated Learning)とは、ローカルに計算されたパラメータの更新を、空間的に分散されたクライアントサイロからトレーニングデータに集約することで、共有サーバモデルによる学習を可能にする分散機械学習アプローチである。
本研究では, 勾配の共分散とヘッセンの幾何学的平均を利用して, シロ間およびシロ内成分の両方を捕捉するフェデレート不変学習一貫性(FedILC)アプローチを提案する。
これは医療、コンピュータビジョン、IoT(Internet of Things)といった様々な分野に関係している。
論文 参考訳(メタデータ) (2022-05-19T03:32:03Z) - Comparative assessment of federated and centralized machine learning [0.0]
Federated Learning(FL)は、デバイス間でフェデレーションされたデータによってトレーニングが行われる、プライバシ保護機械学習スキームである。
本稿では,非IID分散データの性質から,フェデレーション学習に影響を及ぼす諸要因について論じる。
トレーニング対象のモデルサイズが合理的に大きくない場合には,フェデレーション学習がコスト面で有利であることを示す。
論文 参考訳(メタデータ) (2022-02-03T11:20:47Z) - An Expectation-Maximization Perspective on Federated Learning [75.67515842938299]
フェデレーション学習は、データをデバイス上でプライベートにしながら、複数のクライアントにわたるモデルの分散トレーニングを記述する。
本稿では,サーバがクライアント固有のモデルパラメータに対して事前分布のパラメータを提供する階層的潜在変数モデルとして,サーバが設定したフェデレーション学習プロセスについて考察する。
我々は,単純なガウス先行とよく知られた期待最大化(EM)アルゴリズムのハードバージョンを用いて,そのようなモデルの学習は,フェデレーション学習環境における最も一般的なアルゴリズムであるFedAvgに対応することを示す。
論文 参考訳(メタデータ) (2021-11-19T12:58:59Z) - Federated Few-Shot Learning with Adversarial Learning [30.905239262227]
少数のラベル付きサンプルだけで、見えないデータクラスを分類できる、数ショットの分類モデルを学ぶための、数ショット学習フレームワークを提案する。
学習視覚タスクは10%以上,言語タスクは5%以上,私たちのアプローチはベースラインよりも優れています。
論文 参考訳(メタデータ) (2021-04-01T09:44:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。