論文の概要: Federated Self-Supervised Learning in Heterogeneous Settings: Limits of
a Baseline Approach on HAR
- arxiv url: http://arxiv.org/abs/2207.08187v1
- Date: Sun, 17 Jul 2022 14:15:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-20 07:13:41.013414
- Title: Federated Self-Supervised Learning in Heterogeneous Settings: Limits of
a Baseline Approach on HAR
- Title(参考訳): 不均一環境におけるフェデレーション自己監督学習:HARに対するベースラインアプローチの限界
- Authors: Sannara Ek, Romain Rombourg, Fran\c{c}ois Portet, Philippe Lalanda
- Abstract要約: 我々は,標準軽量オートエンコーダと標準フェデレーション平均化が,人間の活動認識の堅牢な表現を学習できないことを示す。
これらの知見は、フェデレーション・セルフ・スーパーバイザード・ラーニングにおけるより集中的な研究努力を提唱している。
- 参考スコア(独自算出の注目度): 0.5039813366558306
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning is a new machine learning paradigm dealing with
distributed model learning on independent devices. One of the many advantages
of federated learning is that training data stay on devices (such as
smartphones), and only learned models are shared with a centralized server. In
the case of supervised learning, labeling is entrusted to the clients. However,
acquiring such labels can be prohibitively expensive and error-prone for many
tasks, such as human activity recognition. Hence, a wealth of data remains
unlabelled and unexploited. Most existing federated learning approaches that
focus mainly on supervised learning have mostly ignored this mass of unlabelled
data. Furthermore, it is unclear whether standard federated Learning approaches
are suited to self-supervised learning. The few studies that have dealt with
the problem have limited themselves to the favorable situation of homogeneous
datasets. This work lays the groundwork for a reference evaluation of federated
Learning with Semi-Supervised Learning in a realistic setting. We show that
standard lightweight autoencoder and standard Federated Averaging fail to learn
a robust representation for Human Activity Recognition with several realistic
heterogeneous datasets. These findings advocate for a more intensive research
effort in Federated Self Supervised Learning to exploit the mass of
heterogeneous unlabelled data present on mobile devices.
- Abstract(参考訳): Federated Learningは、独立したデバイス上での分散モデル学習を扱う、新しい機械学習パラダイムである。
連合学習の多くの利点の1つは、トレーニングデータがデバイス(スマートフォンなど)にとどまり、学習モデルのみが集中型サーバと共有されることだ。
教師付き学習の場合、ラベリングはクライアントに委任される。
しかし、このようなラベルの取得は、人間の活動認識など、多くのタスクにおいて、違法に高価でエラーを起こしやすい。
そのため、大量のデータが未公開のまま残されている。
教師付き学習を主に重視する既存の連合学習アプローチのほとんどは、このラベルなしデータの塊をほとんど無視している。
さらに,標準フェデレーション学習アプローチが自己指導型学習に適しているかは不明である。
この問題に対処した数少ない研究は、同種データセットの好ましい状況に限定されている。
本研究は,実環境における半教師付き学習を用いたフェデレーション学習の基準評価のための基礎研究である。
我々は,標準的な軽量オートエンコーダと標準フェデレート平均化が,現実的な異種データセットを用いた人間活動認識の堅牢な表現を学習できないことを示す。
これらの発見は、モバイルデバイスに存在する不均一なラベルのないデータの集団を利用するために、連合的自己教師付き学習をより集中的に研究することを提唱している。
関連論文リスト
- A Survey on Class Imbalance in Federated Learning [6.632451878730774]
フェデレーション学習は、ネットワーク内の複数のクライアントデバイスが、クライアントのデータを直接露出することなく、機械学習モデルを共同でトレーニングすることを可能にする。
連合学習で訓練されたモデルは通常、標準集中学習モードで訓練されたモデルよりもパフォーマンスが悪いことが判明した。
論文 参考訳(メタデータ) (2023-03-21T08:34:23Z) - Federated Learning and Meta Learning: Approaches, Applications, and
Directions [94.68423258028285]
本稿では,FL,メタラーニング,フェデレーションメタラーニング(FedMeta)について概観する。
他のチュートリアルと異なり、私たちの目標はFL、メタラーニング、FedMetaの方法論をどのように設計、最適化、進化させ、無線ネットワーク上で応用するかを探ることです。
論文 参考訳(メタデータ) (2022-10-24T10:59:29Z) - Comparative assessment of federated and centralized machine learning [0.0]
Federated Learning(FL)は、デバイス間でフェデレーションされたデータによってトレーニングが行われる、プライバシ保護機械学習スキームである。
本稿では,非IID分散データの性質から,フェデレーション学習に影響を及ぼす諸要因について論じる。
トレーニング対象のモデルサイズが合理的に大きくない場合には,フェデレーション学習がコスト面で有利であることを示す。
論文 参考訳(メタデータ) (2022-02-03T11:20:47Z) - Non-IID data and Continual Learning processes in Federated Learning: A
long road ahead [58.720142291102135]
フェデレートラーニング(Federated Learning)は、複数のデバイスや機関が、データをプライベートに保存しながら、機械学習モデルを協調的にトレーニングすることを可能にする、新しいフレームワークである。
本研究では,データの統計的不均一性を正式に分類し,それに直面することのできる最も顕著な学習戦略をレビューする。
同時に、継続学習のような他の機械学習フレームワークからのアプローチを導入し、データの不均一性にも対処し、フェデレートラーニング設定に容易に適応できるようにします。
論文 参考訳(メタデータ) (2021-11-26T09:57:11Z) - FedSEAL: Semi-Supervised Federated Learning with Self-Ensemble Learning
and Negative Learning [7.771967424619346]
Federated Learning (FL) は、分散化されたプライバシ保護機械学習(FL)フレームワークとして人気がある。
本稿では,この半教師付きフェデレート学習(SSFL)問題を解くために,FedSEALと呼ばれる新しいFLアルゴリズムを提案する。
提案アルゴリズムは,自己アンサンブル学習と相補的負学習を利用して,未ラベルデータに対するクライアントの教師なし学習の精度と効率を両立させる。
論文 参考訳(メタデータ) (2021-10-15T03:03:23Z) - Self-supervised Learning is More Robust to Dataset Imbalance [65.84339596595383]
データセット不均衡下での自己教師型学習について検討する。
既製の自己教師型表現は、教師型表現よりもクラス不均衡に対してすでに堅牢である。
我々は、不均衡なデータセット上でSSL表現品質を一貫して改善する、再重み付け正規化手法を考案した。
論文 参考訳(メタデータ) (2021-10-11T06:29:56Z) - Federated Self-Training for Semi-Supervised Audio Recognition [0.23633885460047763]
本研究では,自己学習による音声モデルの半教師あり学習の問題について検討する。
我々はFedSTARを提案し、大規模なデバイス上での未ラベルデータを利用して音声認識モデルの一般化を改善する。
論文 参考訳(メタデータ) (2021-07-14T17:40:10Z) - Semi-supervised Federated Learning for Activity Recognition [9.720890017788676]
家庭内のIoTセンサデータに基づくディープラーニングモデルのトレーニングは、一般的に、人間の活動を認識するために使用される。
近年,エッジデバイスをクライアントとして利用し,ローカルな人間活動認識を支援するフェデレーション学習システムが出現している。
半教師付きフェデレーション学習を用いた行動認識システムを提案する。
論文 参考訳(メタデータ) (2020-11-02T09:47:14Z) - Fairness in Semi-supervised Learning: Unlabeled Data Help to Reduce
Discrimination [53.3082498402884]
機械学習の台頭における投機は、機械学習モデルによる決定が公正かどうかである。
本稿では,未ラベルデータのラベルを予測するための擬似ラベリングを含む,前処理フェーズにおける公平な半教師付き学習の枠組みを提案する。
偏見、分散、ノイズの理論的分解分析は、半教師付き学習における差別の異なる源とそれらが公平性に与える影響を浮き彫りにする。
論文 参考訳(メタデータ) (2020-09-25T05:48:56Z) - Fairness Constraints in Semi-supervised Learning [56.48626493765908]
我々は,最適化問題として定式化された,公平な半教師付き学習のためのフレームワークを開発する。
偏り・分散・雑音分解による半教師あり学習における識別源を理論的に分析する。
本手法は, 公平な半教師付き学習を達成でき, 公正な教師付き学習よりも精度と公平性のトレードオフが良好である。
論文 参考訳(メタデータ) (2020-09-14T04:25:59Z) - Federated and continual learning for classification tasks in a society
of devices [59.45414406974091]
Light Federated and Continual Consensus (LFedCon2)は、軽量で伝統的な学習者を用いた新しいフェデレーションおよび継続アーキテクチャである。
我々の方法では、スマートフォンやロボットのような無力デバイスが、リアルタイムで、ローカルで、継続的に、自律的に、そしてユーザーから学習することができる。
提案手法をスマートフォン利用者の異種コミュニティに適用し,歩行認識の課題を解決した。
論文 参考訳(メタデータ) (2020-06-12T12:37:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。