Fugu-MT 論文翻訳(概要): Resource-Constrained Federated Learning with Heterogeneous Labels and Models

論文の概要: Resource-Constrained Federated Learning with Heterogeneous Labels and Models

arxiv url: http://arxiv.org/abs/2011.03206v1
Date: Fri, 6 Nov 2020 06:23:47 GMT
ステータス: 処理完了
システム内更新日: 2022-09-29 05:53:21.856398
Title: Resource-Constrained Federated Learning with Heterogeneous Labels and Models
Title（参考訳）: 不均一ラベルとモデルを用いた資源制約付きフェデレーション学習
Authors: Gautham Krishna Gudur, Bala Shyamala Balaji, Satheesh K. Perepu
Abstract要約: 本稿では,ラベル間の重なり合う情報ゲインを利用する,単純な$alpha$-weighted federated aggregates of scoresを提案する。また、Raspberry Pi 2で異なるイテレーションをまたいだフェデレーション学習と推論を実験することで、提案フレームワークのオンデバイス機能を示す。
参考スコア（独自算出の注目度）: 1.4824891788575418
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Various IoT applications demand resource-constrained machine learning mechanisms for different applications such as pervasive healthcare, activity monitoring, speech recognition, real-time computer vision, etc. This necessitates us to leverage information from multiple devices with few communication overheads. Federated Learning proves to be an extremely viable option for distributed and collaborative machine learning. Particularly, on-device federated learning is an active area of research, however, there are a variety of challenges in addressing statistical (non-IID data) and model heterogeneities. In addition, in this paper we explore a new challenge of interest -- to handle label heterogeneities in federated learning. To this end, we propose a framework with simple $\alpha$-weighted federated aggregation of scores which leverages overlapping information gain across labels, while saving bandwidth costs in the process. Empirical evaluation on Animals-10 dataset (with 4 labels for effective elucidation of results) indicates an average deterministic accuracy increase of at least ~16.7%. We also demonstrate the on-device capabilities of our proposed framework by experimenting with federated learning and inference across different iterations on a Raspberry Pi 2, a single-board computing platform.
Abstract（参考訳）: さまざまなIoTアプリケーションは、広範なヘルスケア、アクティビティ監視、音声認識、リアルタイムコンピュータビジョンなど、さまざまなアプリケーションに対して、リソースに制約のある機械学習メカニズムを必要とする。これにより、通信オーバーヘッドの少ない複数のデバイスからの情報を活用する必要があります。連合学習は、分散および協調機械学習にとって、極めて実行可能な選択肢であることが証明される。特に、オンデバイス連合学習は活発な研究分野であるが、統計(非iidデータ)とモデルの不均一性に対処するための様々な課題がある。さらに,本論文では,連合学習におけるラベルの不均一性を扱うための新たな関心課題について検討する。そこで本稿では,ラベル間の重なり合う情報ゲインを活用しながら,プロセスの帯域幅コストを削減しつつ,単純な$\alpha$-weighted Federated aggregates of scoresを提案する。 Animals-10データセット(結果の効果的解明のためのラベルが4つある)に関する実証的な評価は、決定論的精度が少なくとも16.7%向上したことを示している。また,シングルボードコンピューティングプラットフォームであるraspberry pi 2上で,さまざまなイテレーションでフェデレーション学習と推論を実験することにより,提案フレームワークのオンデバイス機能を示す。

関連論文リスト

Effective Intrusion Detection in Heterogeneous Internet-of-Things Networks via Ensemble Knowledge Distillation-based Federated Learning [52.6706505729803]
我々は、分散化された侵入検知システムの共有モデル(IDS)を協調訓練するために、フェデレートラーニング(FL)を導入する。 FLEKDは従来のモデル融合法よりも柔軟な凝集法を実現する。実験の結果,提案手法は,速度と性能の両面で,局所訓練と従来のFLよりも優れていた。
論文参考訳（メタデータ） (2024-01-22T14:16:37Z)
Federated Learning for Computationally-Constrained Heterogeneous Devices: A Survey [3.219812767529503]
フェデレートラーニング(FL)は、通信オーバーヘッドとモデルの正確性の間のトレードオフをプライバシ保護する。現実のアプリケーションに広く適用するためにFLが克服しなければならない課題について概説する。
論文参考訳（メタデータ） (2023-07-18T12:05:36Z)
A Survey of Learning on Small Data: Generalization, Optimization, and Challenge [101.27154181792567]
ビッグデータの一般化能力を近似した小さなデータについて学ぶことは、AIの究極の目的の1つである。この調査はPACフレームワークの下でのアクティブサンプリング理論に従い、小さなデータにおける学習の一般化誤差とラベルの複雑さを分析した。効率的な小さなデータ表現の恩恵を受けるかもしれない複数のデータアプリケーションについて調査する。
論文参考訳（メタデータ） (2022-07-29T02:34:19Z)
Federated Self-Supervised Learning in Heterogeneous Settings: Limits of a Baseline Approach on HAR [0.5039813366558306]
我々は,標準軽量オートエンコーダと標準フェデレーション平均化が,人間の活動認識の堅牢な表現を学習できないことを示す。これらの知見は、フェデレーション・セルフ・スーパーバイザード・ラーニングにおけるより集中的な研究努力を提唱している。
論文参考訳（メタデータ） (2022-07-17T14:15:45Z)
2021 BEETL Competition: Advancing Transfer Learning for Subject Independence & Heterogenous EEG Data Sets [89.84774119537087]
我々は、診断とBCI(Brain-Computer-Interface)に関する2つの伝達学習課題を設計する。第1タスクは、患者全体にわたる自動睡眠ステージアノテーションに対処する医療診断に重点を置いている。タスク2はBrain-Computer Interface (BCI)に集中しており、被験者とデータセットの両方にわたる運動画像のデコードに対処する。
論文参考訳（メタデータ） (2022-02-14T12:12:20Z)
Non-IID data and Continual Learning processes in Federated Learning: A long road ahead [58.720142291102135]
フェデレートラーニング(Federated Learning)は、複数のデバイスや機関が、データをプライベートに保存しながら、機械学習モデルを協調的にトレーニングすることを可能にする、新しいフレームワークである。本研究では,データの統計的不均一性を正式に分類し,それに直面することのできる最も顕著な学習戦略をレビューする。同時に、継続学習のような他の機械学習フレームワークからのアプローチを導入し、データの不均一性にも対処し、フェデレートラーニング設定に容易に適応できるようにします。
論文参考訳（メタデータ） (2021-11-26T09:57:11Z)
DQRE-SCnet: A novel hybrid approach for selecting users in Federated Learning with Deep-Q-Reinforcement Learning based on Spectral Clustering [1.174402845822043]
実世界の機密データに基づく機械学習モデルは、医療スクリーニングから病気の発生、農業、産業、防衛科学など幅広い分野で進歩している。多くのアプリケーションにおいて、学習参加者のコミュニケーションラウンドは、独自のプライベートデータセットを収集し、実際のデータに対して詳細な機械学習モデルを教え、これらのモデルを使用することの利点を共有することの恩恵を受ける。既存のプライバシとセキュリティ上の懸念から、ほとんどの人はトレーニング用の機密データ共有を回避している。各ユーザがローカルデータを中央サーバにデモしない限り、フェデレートラーニングは、さまざまなパーティが共用データ上で機械学習アルゴリズムをトレーニングすることを可能にする。
論文参考訳（メタデータ） (2021-11-07T15:14:29Z)
Federated Learning: A Signal Processing Perspective [144.63726413692876]
フェデレーションラーニングは、データを明示的に交換することなく、ローカルデータセットを保持する複数のエッジデバイスでモデルをトレーニングするための新しい機械学習パラダイムです。本稿では、信号処理ツールを用いて扱うのが自然である主な課題をカプセル化し、強調する、連合学習のための統一的な体系的フレームワークを提供する。
論文参考訳（メタデータ） (2021-03-31T15:14:39Z)
Diverse Complexity Measures for Dataset Curation in Self-driving [80.55417232642124]
トラフィックシーンの面白さを定量化する多様な基準を活用した新たなデータ選択手法を提案する。実験の結果,提案するキュレーションパイプラインは,より汎用的で高いパフォーマンスをもたらすデータセットを選択できることが判明した。
論文参考訳（メタデータ） (2021-01-16T23:45:02Z)
Federated Learning with Heterogeneous Labels and Models for Mobile Activity Monitoring [0.7106986689736827]
デバイス上でのフェデレーション学習は、分散的で協調的な機械学習に効果的なアプローチであることが証明されている。本稿では,複数の活動にまたがる重なり合う情報ゲインを利用したラベルに基づくアグリゲーションのためのフレームワークを提案する。 Raspberry Pi 2上のHeterogeneity Human Activity Recognition (HHAR)データセットによる経験的評価は、決定論的精度が少なくとも11.01%向上したことを示している。
論文参考訳（メタデータ） (2020-12-04T11:44:17Z)
Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
論文参考訳（メタデータ） (2020-03-07T11:55:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。