論文の概要: Multimodal Federated Learning
- arxiv url: http://arxiv.org/abs/2109.04833v1
- Date: Fri, 10 Sep 2021 12:32:46 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-13 13:23:07.548053
- Title: Multimodal Federated Learning
- Title(参考訳): マルチモーダルフェデレーション学習
- Authors: Yuchen Zhao, Payam Barnaghi, Hamed Haddadi
- Abstract要約: IoTデバイスを備えたスマートホームなど、多くのアプリケーションでは、クライアント上のローカルデータは、さまざまなモダリティから生成される。
既存のフェデレーション学習システムは、単一のモダリティからのローカルデータのみを扱うため、システムのスケーラビリティが制限される。
本稿では,クライアント上で異なるローカルデータモダリティから共有あるいは相関表現を抽出するよう,オートエンコーダを訓練するマルチモーダル・セミ教師付きフェデレーション学習フレームワークを提案する。
- 参考スコア(独自算出の注目度): 9.081857621783811
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning is proposed as an alternative to centralized machine
learning since its client-server structure provides better privacy protection
and scalability in real-world applications. In many applications, such as smart
homes with IoT devices, local data on clients are generated from different
modalities such as sensory, visual, and audio data. Existing federated learning
systems only work on local data from a single modality, which limits the
scalability of the systems.
In this paper, we propose a multimodal and semi-supervised federated learning
framework that trains autoencoders to extract shared or correlated
representations from different local data modalities on clients. In addition,
we propose a multimodal FedAvg algorithm to aggregate local autoencoders
trained on different data modalities. We use the learned global autoencoder for
a downstream classification task with the help of auxiliary labelled data on
the server. We empirically evaluate our framework on different modalities
including sensory data, depth camera videos, and RGB camera videos. Our
experimental results demonstrate that introducing data from multiple modalities
into federated learning can improve its accuracy. In addition, we can use
labelled data from only one modality for supervised learning on the server and
apply the learned model to testing data from other modalities to achieve decent
accuracy (e.g., approximately 70% as the best performance), especially when
combining contributions from both unimodal clients and multimodal clients.
- Abstract(参考訳): フェデレーション学習は、クライアントサーバ構造が現実世界のアプリケーションにおいてより優れたプライバシー保護と拡張性を提供するため、集中型機械学習の代替として提案されている。
IoTデバイスを備えたスマートホームのような多くのアプリケーションでは、センサー、視覚、オーディオデータなど、さまざまなモダリティからクライアント上のローカルデータが生成される。
既存の連合学習システムは単一のモダリティからのローカルデータのみを扱うため、システムのスケーラビリティは制限される。
本稿では,マルチモーダル・半教師付き学習フレームワークを提案する。このフレームワークは,クライアント上で異なるローカルデータモダリティから共有あるいは相関表現を抽出するよう,オートエンコーダを訓練する。
さらに、異なるデータモーダルで訓練されたローカルオートエンコーダを集約するマルチモーダルFedAvgアルゴリズムを提案する。
学習したグローバルオートエンコーダを,サーバ上の補助ラベル付きデータの助けを借りて下流分類タスクに使用する。
センサデータや深度カメラビデオ,rgbカメラビデオなど,さまざまなモダリティに関するフレームワークを実証的に評価した。
実験結果から,複数のモダリティからのデータをフェデレート学習に導入することで,その精度が向上することが示された。
さらに、サーバ上で教師付き学習を行うための1つのモダリティのみのラベル付きデータを用いて、学習したモデルを他のモダリティからのデータテストに適用して、適切な精度(例えば、最高のパフォーマンスの約70%)を達成することができる。
関連論文リスト
- FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup
for Non-IID Data [54.81695390763957]
フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。
我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。
クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
論文 参考訳(メタデータ) (2023-09-18T12:35:05Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-20T10:49:22Z) - Cross-domain Federated Object Detection [43.66352018668227]
フェデレーション学習は、クライアントデータをリークすることなく、多人数の共同学習を可能にする。
我々はFedODというドメイン間フェデレーションオブジェクト検出フレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-30T03:09:59Z) - DQRE-SCnet: A novel hybrid approach for selecting users in Federated
Learning with Deep-Q-Reinforcement Learning based on Spectral Clustering [1.174402845822043]
実世界の機密データに基づく機械学習モデルは、医療スクリーニングから病気の発生、農業、産業、防衛科学など幅広い分野で進歩している。
多くのアプリケーションにおいて、学習参加者のコミュニケーションラウンドは、独自のプライベートデータセットを収集し、実際のデータに対して詳細な機械学習モデルを教え、これらのモデルを使用することの利点を共有することの恩恵を受ける。
既存のプライバシとセキュリティ上の懸念から、ほとんどの人はトレーニング用の機密データ共有を回避している。各ユーザがローカルデータを中央サーバにデモしない限り、フェデレートラーニングは、さまざまなパーティが共用データ上で機械学習アルゴリズムをトレーニングすることを可能にする。
論文 参考訳(メタデータ) (2021-11-07T15:14:29Z) - Federated Multi-Target Domain Adaptation [99.93375364579484]
フェデレートされた学習手法により、プライバシを保護しながら、分散ユーザデータ上で機械学習モデルをトレーニングすることが可能になります。
分散クライアントデータがラベル付けされず、集中型ラベル付きデータセットがサーバ上で利用可能となる、より実用的なシナリオを考えます。
本稿では,新しい課題に対処する効果的なDualAdapt法を提案する。
論文 参考訳(メタデータ) (2021-08-17T17:53:05Z) - Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。
提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。
この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
論文 参考訳(メタデータ) (2021-02-14T05:36:25Z) - Decentralised Learning from Independent Multi-Domain Labels for Person
Re-Identification [69.29602103582782]
ディープラーニングは多くのコンピュータビジョンタスクで成功している。
しかし、プライバシー問題に対する意識の高まりは、特に人物の再識別(Re-ID)において、ディープラーニングに新たな課題をもたらす。
我々は,複数のプライバシ保護されたローカルモデル(ローカルクライアント)を同時に学習することにより,汎用的なグローバルモデル(中央サーバ)を構築するための,フェデレート・パーソナライゼーション(FedReID)と呼ばれる新しいパラダイムを提案する。
このクライアントサーバ共同学習プロセスは、プライバシコントロールの下で反復的に実行されるため、分散データを共有したり、収集したりすることなく、分散学習を実現することができる。
論文 参考訳(メタデータ) (2020-06-07T13:32:33Z) - Multi-Center Federated Learning [62.57229809407692]
本稿では,フェデレート学習のための新しい多中心集約機構を提案する。
非IIDユーザデータから複数のグローバルモデルを学び、同時にユーザとセンタ間の最適なマッチングを導出する。
ベンチマークデータセットによる実験結果から,本手法はいくつかの一般的なフェデレーション学習法より優れていることが示された。
論文 参考訳(メタデータ) (2020-05-03T09:14:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。