論文の概要: Concept drift detection and adaptation for federated and continual learning

• arxiv url: http://arxiv.org/abs/2105.13309v1
• Date: Thu, 27 May 2021 17:01:58 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-28 16:14:39.960561
• Title: Concept drift detection and adaptation for federated and continual learning
• Title（参考訳）: フェデレーションと継続学習のための概念ドリフトの検出と適応
• Authors: Fernando E. Casado, Dylan Lema, Marcos F. Criado, Roberto Iglesias, Carlos V. Regueiro, Sen\'en Barro
• Abstract要約: スマートデバイスは環境から大量のデータを収集することができる。 このデータは機械学習モデルのトレーニングに適しており、その振る舞いを大幅に改善することができる。 そこで本研究では,Concept-Drift-Aware Federated Averagingと呼ばれる新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 55.41644538483948
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Smart devices, such as smartphones, wearables, robots, and others, can collect vast amounts of data from their environment. This data is suitable for training machine learning models, which can significantly improve their behavior, and therefore, the user experience. Federated learning is a young and popular framework that allows multiple distributed devices to train deep learning models collaboratively while preserving data privacy. Nevertheless, this approach may not be optimal for scenarios where data distribution is non-identical among the participants or changes over time, causing what is known as concept drift. Little research has yet been done in this field, but this kind of situation is quite frequent in real life and poses new challenges to both continual and federated learning. Therefore, in this work, we present a new method, called Concept-Drift-Aware Federated Averaging (CDA-FedAvg). Our proposal is an extension of the most popular federated algorithm, Federated Averaging (FedAvg), enhancing it for continual adaptation under concept drift. We empirically demonstrate the weaknesses of regular FedAvg and prove that CDA-FedAvg outperforms it in this type of scenario.
• Abstract（参考訳）: スマートフォン、ウェアラブル、ロボットなどのスマートデバイスは、環境から大量のデータを収集することができる。 このデータは、機械学習モデルのトレーニングに適しており、その動作を大幅に改善することができるため、ユーザエクスペリエンスが向上する。 フェデレーション学習(Federated Learning)は、データプライバシを保持しながら、複数の分散デバイスが協調してディープラーニングモデルをトレーニングできる、若く人気のあるフレームワークである。 それでもこのアプローチは、データ分散が参加者間で識別できないシナリオや、時間とともに変化するシナリオに最適ではないかもしれない。 この分野ではまだほとんど研究が行われていないが、実生活ではこのような状況は極めて頻繁であり、継続的な学習と連合学習の両方に新たな課題をもたらす。 そこで本研究では,Concept-Drift-Aware Federated Averaging (CDA-FedAvg) と呼ばれる新しい手法を提案する。 提案手法はフェデレーション平均化法(federated averaging, fedavg)の拡張であり,概念ドリフト下での継続的な適応を実現する。 我々は、通常のFedAvgの弱点を実証的に証明し、CDA-FedAvgがこの種のシナリオでそれより優れていることを証明します。

関連論文リスト

• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• Combating Exacerbated Heterogeneity for Robust Models in Federated Learning [91.88122934924435]
  対人訓練と連合学習の組み合わせは、望ましくない頑丈さの劣化につながる可能性がある。 我々は、Slack Federated Adversarial Training (SFAT)と呼ばれる新しいフレームワークを提案する。 各種ベンチマークおよび実世界のデータセットに対するSFATの合理性と有効性を検証する。
  論文  参考訳（メタデータ） (2023-03-01T06:16:15Z)
• Evaluation and comparison of federated learning algorithms for Human Activity Recognition on smartphones [0.5039813366558306]
  フェデレートラーニング(FL)は、ローカルデバイスの使用を促進する新しい機械学習パラダイムとして導入された。 本稿では,FedDistと呼ばれる新しいFLアルゴリズムを提案する。 その結果、FedDistが異種データに適応できることと、FLが非同期な状況に対処できることが示されている。
  論文  参考訳（メタデータ） (2022-10-30T18:47:23Z)
• Non-IID data and Continual Learning processes in Federated Learning: A long road ahead [58.720142291102135]
  フェデレートラーニング(Federated Learning)は、複数のデバイスや機関が、データをプライベートに保存しながら、機械学習モデルを協調的にトレーニングすることを可能にする、新しいフレームワークである。 本研究では,データの統計的不均一性を正式に分類し,それに直面することのできる最も顕著な学習戦略をレビューする。 同時に、継続学習のような他の機械学習フレームワークからのアプローチを導入し、データの不均一性にも対処し、フェデレートラーニング設定に容易に適応できるようにします。
  論文  参考訳（メタデータ） (2021-11-26T09:57:11Z)
• Asynchronous Federated Learning for Sensor Data with Concept Drift [17.390098048134195]
  フェデレートラーニング(FL)では、複数の分散デバイスが共有モデルを共同でトレーニングする。 以前のFLアプローチのほとんどは、トレーニングプロセス中にデバイス上のデータが固定され、静止していると仮定している。 コンセプトドリフトは、既存のデータと今後のデータの間に矛盾があるため、学習プロセスを複雑にします。 本稿では,ローカルデバイス上でのドリフトを検知し,対処するための新しいアプローチであるFedConDを提案する。
  論文  参考訳（メタデータ） (2021-09-01T02:06:42Z)
• SCEI: A Smart-Contract Driven Edge Intelligence Framework for IoT Systems [15.796325306292134]
  フェデレートラーニング(FL)は、データプライバシを維持しながら、エッジデバイス上で共有モデルの協調トレーニングを可能にする。 様々なパーソナライズされたアプローチが提案されているが、そのようなアプローチはデータ分散の根底にある変化に対処できない。 本稿では,ブロックチェーンとフェデレーション学習に基づく動的に最適化された個人深層学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-12T02:57:05Z)
• WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
  データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。 本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
  論文  参考訳（メタデータ） (2020-08-13T04:26:31Z)
• Federated and continual learning for classification tasks in a society of devices [59.45414406974091]
  Light Federated and Continual Consensus (LFedCon2)は、軽量で伝統的な学習者を用いた新しいフェデレーションおよび継続アーキテクチャである。 我々の方法では、スマートフォンやロボットのような無力デバイスが、リアルタイムで、ローカルで、継続的に、自律的に、そしてユーザーから学習することができる。 提案手法をスマートフォン利用者の異種コミュニティに適用し,歩行認識の課題を解決した。
  論文  参考訳（メタデータ） (2020-06-12T12:37:03Z)
• Faster On-Device Training Using New Federated Momentum Algorithm [47.187934818456604]
  近年,モバイルクラウドセンシングが注目され,モノのインターネット(Internet of Things)アプリケーションにとって重要なパラダイムとなっている。 これらのデータを機械学習モデルのトレーニングに利用するために、ユーザの機会を損なうことなく、フェデレーションは有望なソリューションとなった。
  論文  参考訳（メタデータ） (2020-02-06T04:12:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。