論文の概要: Non-IID data and Continual Learning processes in Federated Learning: A long road ahead

• arxiv url: http://arxiv.org/abs/2111.13394v1
• Date: Fri, 26 Nov 2021 09:57:11 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-29 17:17:47.787102
• Title: Non-IID data and Continual Learning processes in Federated Learning: A long road ahead
• Title（参考訳）: フェデレーションラーニングにおける非IIDデータと継続的な学習プロセス--長い道のり
• Authors: Marcos F. Criado, Fernando E. Casado, Roberto Iglesias, Carlos V. Regueiro and Sen\'en Barro
• Abstract要約: フェデレートラーニング(Federated Learning)は、複数のデバイスや機関が、データをプライベートに保存しながら、機械学習モデルを協調的にトレーニングすることを可能にする、新しいフレームワークである。 本研究では,データの統計的不均一性を正式に分類し,それに直面することのできる最も顕著な学習戦略をレビューする。 同時に、継続学習のような他の機械学習フレームワークからのアプローチを導入し、データの不均一性にも対処し、フェデレートラーニング設定に容易に適応できるようにします。
• 参考スコア（独自算出の注目度）: 58.720142291102135
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Federated Learning is a novel framework that allows multiple devices or institutions to train a machine learning model collaboratively while preserving their data private. This decentralized approach is prone to suffer the consequences of data statistical heterogeneity, both across the different entities and over time, which may lead to a lack of convergence. To avoid such issues, different methods have been proposed in the past few years. However, data may be heterogeneous in lots of different ways, and current proposals do not always determine the kind of heterogeneity they are considering. In this work, we formally classify data statistical heterogeneity and review the most remarkable learning strategies that are able to face it. At the same time, we introduce approaches from other machine learning frameworks, such as Continual Learning, that also deal with data heterogeneity and could be easily adapted to the Federated Learning settings.
• Abstract（参考訳）: フェデレーション学習(federated learning)は、複数のデバイスや機関がデータをプライベートに保ちながら、機械学習モデルを協調的にトレーニングできる、新たなフレームワークである。 この分散化アプローチは、異なるエンティティと時間とともに、データの統計的不均一性の結果に苦しむ傾向にあり、収束の欠如につながる可能性がある。 このような問題を避けるため、近年では様々な方法が提案されている。 しかし、データは様々な方法で不均一であり、現在の提案はそれらが考慮している不均一性の種類を必ずしも決定しない。 本研究では,データの統計的不均一性を形式的に分類し,それに対応可能な最も顕著な学習戦略をレビューする。 同時に,連続学習などの他の機械学習フレームワークからのアプローチも導入し,データの不均一性を処理し,連合学習の設定に容易に適応できるようにする。

関連論文リスト

• Non-IID data in Federated Learning: A Systematic Review with Taxonomy, Metrics, Methods, Frameworks and Future Directions [2.9434966603161072]
  この体系的なレビューは、非IIDデータ、パーティションプロトコル、メトリクスの詳細な分類を提供することによってギャップを埋めることを目的としている。 非IIDデータに対処するための一般的なソリューションと、異種データを用いたフェデレートラーニングで使用される標準化されたフレームワークについて述べる。
  論文  参考訳（メタデータ） (2024-11-19T09:53:28Z)
• Accelerated Stochastic ExtraGradient: Mixing Hessian and Gradient Similarity to Reduce Communication in Distributed and Federated Learning [50.382793324572845]
  分散コンピューティングはデバイス間の通信を伴うため、効率性とプライバシという2つの重要な問題を解決する必要がある。 本稿では,データ類似性とクライアントサンプリングのアイデアを取り入れた新しい手法について分析する。 プライバシー問題に対処するために,付加雑音の手法を適用し,提案手法の収束への影響を解析する。
  論文  参考訳（メタデータ） (2024-09-22T00:49:10Z)
• A review on different techniques used to combat the non-IID and heterogeneous nature of data in FL [0.0]
  Federated Learning(FL)は、複数のエッジデバイス間で協調的なモデルトレーニングを可能にする機械学習アプローチである。 FLの重要性は、医療や金融などの業界で特に顕著であり、データのプライバシが最重要視されている。 この報告は、非IIDおよび異種データから生じる問題を掘り下げ、これらの課題に対処するために設計された現在のアルゴリズムを探求する。
  論文  参考訳（メタデータ） (2024-01-01T16:34:00Z)
• Leveraging Ensembles and Self-Supervised Learning for Fully-Unsupervised Person Re-Identification and Text Authorship Attribution [77.85461690214551]
  完全ラベル付きデータからの学習は、Person Re-IdentificationやText Authorship Attributionなどのマルチメディアフォレスト問題において困難である。 近年の自己教師型学習法は,基礎となるクラスに意味的差異が有る場合に,完全ラベル付きデータを扱う際に有効であることが示されている。 本研究では,異なるクラスからのサンプルが顕著に多様性を持っていない場合でも,ラベルのないデータから学習できるようにすることにより,個人再認識とテキストオーサシップの属性に対処する戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-07T13:08:11Z)
• Learning from Heterogeneous Data Based on Social Interactions over Graphs [58.34060409467834]
  本研究では,個別のエージェントが異なる次元のストリーミング特徴を観察しながら分類問題の解決を目指す分散アーキテクチャを提案する。 私たちはそれを示します。 戦略により、エージェントはこの高度に異質な環境下で一貫して学習することができる。 私たちはそれを示します。 戦略により、エージェントはこの高度に異質な環境下で一貫して学習することができる。
  論文  参考訳（メタデータ） (2021-12-17T12:47:18Z)
• Federated Learning on Non-IID Data: A Survey [11.431837357827396]
  フェデレーション学習(Federated Learning)は、プライバシ保護のための分散機械学習フレームワークである。 連合学習で訓練されたモデルは、通常、標準集中学習モードで訓練されたモデルよりもパフォーマンスが劣る。
  論文  参考訳（メタデータ） (2021-06-12T19:45:35Z)
• Rethinking Architecture Design for Tackling Data Heterogeneity in Federated Learning [53.73083199055093]
  注意に基づくアーキテクチャ(例えばTransformers)は、分散シフトに対してかなり堅牢であることを示す。 我々の実験は、畳み込みネットワークをトランスフォーマーに置き換えることによって、過去のデバイスを壊滅的に忘れることを大幅に減らせることを示した。
  論文  参考訳（メタデータ） (2021-06-10T21:04:18Z)
• Enhancing ensemble learning and transfer learning in multimodal data analysis by adaptive dimensionality reduction [10.646114896709717]
  マルチモーダルデータ分析では、すべての観測が同じレベルの信頼性や情報品質を示すわけではない。 この問題を克服するために,次元削減のための適応的アプローチを提案する。 多様な研究分野で得られたマルチモーダルデータセットのアプローチをテストします。
  論文  参考訳（メタデータ） (2021-05-08T11:53:12Z)
• Quasi-Global Momentum: Accelerating Decentralized Deep Learning on Heterogeneous Data [77.88594632644347]
  ディープラーニングモデルの分散トレーニングは、ネットワーク上でデータプライバシとデバイス上での学習を可能にする重要な要素である。 現実的な学習シナリオでは、異なるクライアントのローカルデータセットに異質性が存在することが最適化の課題となる。 本稿では,この分散学習の難しさを軽減するために,運動量に基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-02-09T11:27:14Z)
• Additively Homomorphical Encryption based Deep Neural Network for Asymmetrically Collaborative Machine Learning [12.689643742151516]
  機械学習の保存は、金融セクターにおけるさらなる適用を制限する制約を生み出す。 我々は、ある当事者がデータを所有するが、別の当事者がラベルのみを所有する新しい協調機械学習の実践的手法を提案する。 異なるデータセットに対する我々の実験は、精度のない安定したトレーニングだけでなく、100倍以上のスピードアップも示しています。
  論文  参考訳（メタデータ） (2020-07-14T06:43:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。