Fugu-MT 論文翻訳(概要): Communication-Efficient Multimodal Federated Learning: Joint Modality and Client Selection

論文の概要: Communication-Efficient Multimodal Federated Learning: Joint Modality and Client Selection

arxiv url: http://arxiv.org/abs/2401.16685v1
Date: Tue, 30 Jan 2024 02:16:19 GMT
ステータス: 処理完了
システム内更新日: 2024-01-31 16:31:44.901768
Title: Communication-Efficient Multimodal Federated Learning: Joint Modality and Client Selection
Title（参考訳）: コミュニケーション効率の高いマルチモーダル連合学習--共同モダリティとクライアント選択
Authors: Liangqi Yuan, Dong-Jun Han, Su Wang, Devesh Upadhyay, Christopher G. Brinton
Abstract要約: FL(Multimodal Federated Learning)は、FL設定におけるモデルトレーニングを強化することを目的としている。マルチモーダルFLの鍵となる課題は、特に異種ネットワーク設定において、未適応のままである。マルチモーダル設定における上記の課題に対処できる新しいFL手法であるmmFedMCを提案する。
参考スコア（独自算出の注目度）: 14.261582708240407
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Multimodal federated learning (FL) aims to enrich model training in FL settings where clients are collecting measurements across multiple modalities. However, key challenges to multimodal FL remain unaddressed, particularly in heterogeneous network settings where: (i) the set of modalities collected by each client will be diverse, and (ii) communication limitations prevent clients from uploading all their locally trained modality models to the server. In this paper, we propose multimodal Federated learning with joint Modality and Client selection (mmFedMC), a new FL methodology that can tackle the above-mentioned challenges in multimodal settings. The joint selection algorithm incorporates two main components: (a) A modality selection methodology for each client, which weighs (i) the impact of the modality, gauged by Shapley value analysis, (ii) the modality model size as a gauge of communication overhead, against (iii) the frequency of modality model updates, denoted recency, to enhance generalizability. (b) A client selection strategy for the server based on the local loss of modality model at each client. Experiments on five real-world datasets demonstrate the ability of mmFedMC to achieve comparable accuracy to several baselines while reducing the communication overhead by over 20x. A demo video of our methodology is available at https://liangqiy.com/mmfedmc/.
Abstract（参考訳）: FL(Multimodal Federated Learning)は、FL設定におけるモデルトレーニングを強化することを目的としている。しかし、マルチモーダルFLの鍵となる課題は、特に異種ネットワーク設定において、未解決のままである。 i) 各クライアントが収集したモダリティの集合は多様であり、 (ii) 通信制限は、クライアントがローカルに訓練されたモダリティモデルをサーバにアップロードすることを妨げている。本稿では,マルチモーダル環境における上記の課題に取り組むための新しいfl手法である統合モダリティとクライアント選択(mmfedmc)を用いたマルチモーダルフェデレーション学習を提案する。ジョイント選択アルゴリズムには2つの主成分が組み込まれている: (a)各クライアントに対するモダリティ選択方法論。 (i)Shapley値解析によって測定されたモダリティの影響 (ii)通信オーバーヘッドのゲージとしてのモダリティモデルサイズ 3) 一般化性を高めるため, モーダリティモデル更新の頻度, 即時性を示す。 (b)各クライアントにおけるモダリティモデルの局所的損失に基づくサーバのクライアント選択戦略。 5つの実世界のデータセットの実験では、mFedMCが複数のベースラインに匹敵する精度を達成し、通信オーバーヘッドを20倍以上に削減できることを示した。私たちの方法論のデモビデオはhttps://liangqiy.com/mmfedmc/で閲覧できます。

関連論文リスト

Adaptive Prototype Knowledge Transfer for Federated Learning with Mixed Modalities and Heterogeneous Tasks [12.67996108615162]
本稿では,適応型プロトタイプに基づく多モードフェデレート学習(AproMFL)フレームワークを提案する。我々のAproMFLは、事前の公開データセットなしで適応的に構築されたプロトタイプを通じて知識を伝達する。サーバはクライアントのプロトタイプを統一されたマルチモーダルプロトタイプに変換し、それらを集約してグローバルプロトタイプを形成する。
論文参考訳（メタデータ） (2025-02-06T07:28:05Z)
Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文参考訳（メタデータ） (2025-01-17T04:00:50Z)
SM3Det: A Unified Model for Multi-Modal Remote Sensing Object Detection [73.49799596304418]
本稿では,リモートセンシングのためのマルチモーダルデータセットとマルチタスクオブジェクト検出(M2Det)という新しいタスクを提案する。水平方向または指向方向の物体を、あらゆるセンサーから正確に検出するように設計されている。この課題は、1)マルチモーダルモデリングの管理に関わるトレードオフ、2)マルチタスク最適化の複雑さに起因する。
論文参考訳（メタデータ） (2024-12-30T02:47:51Z)
Leveraging Foundation Models for Multi-modal Federated Learning with Incomplete Modality [41.79433449873368]
我々は、事前学習完了(FedMVP)を用いた新しいマルチモーダル・コントラスト学習法、フェデレーション・マルチモーダル・コントラストVeトレーニングを提案する。 FedMVPは、大規模な事前トレーニングモデルを統合して、フェデレーショントレーニングを強化する。実世界の2つの画像テキスト分類データセットよりも優れた性能を示す。
論文参考訳（メタデータ） (2024-06-16T19:18:06Z)
Multi-Level Additive Modeling for Structured Non-IID Federated Learning [54.53672323071204]
我々は、異種クライアント間のより良い知識共有のために、マルチレベル付加モデル(MAM)と呼ばれるマルチレベル構造で編成されたモデルを訓練する。フェデレートMAM(FeMAM)では、各クライアントは各レベル毎に少なくとも1つのモデルに割り当てられ、そのパーソナライズされた予測は、各レベルに割り当てられたモデルの出力を合計する。実験により、FeMAMは既存のクラスタリングFLおよびパーソナライズされたFLメソッドを様々な非IID設定で超越していることが示された。
論文参考訳（メタデータ） (2024-05-26T07:54:53Z)
FedMFS: Federated Multimodal Fusion Learning with Selective Modality Communication [11.254610576923204]
選択的モーダル通信を用いたFedMFS(Federated Multimodal Fusion Learning)を提案する。鍵となる考え方は、各デバイスに対するモダリティ選択基準の導入であり、(i)Shapley値解析によって測定されたモダリティの影響を重み付けし、(ii)モダリティモデルサイズを通信オーバーヘッドの指標とする。実世界のActionSenseデータセットの実験では、FedMFSが複数のベースラインに匹敵する精度を達成し、通信オーバーヘッドを4倍に削減できることを示した。
論文参考訳（メタデータ） (2023-10-10T22:23:27Z)
Multimodal Federated Learning via Contrastive Representation Ensemble [17.08211358391482]
フェデレーテッド・ラーニング(FL)は、集中型機械学習に代わるプライバシ意識の代替手段として機能する。既存のFLメソッドはすべて、モデルアグリゲーションを単一のモダリティレベルに依存している。マルチモーダルFL(CreamFL)のためのコントラスト表現アンサンブルとアグリゲーションを提案する。
論文参考訳（メタデータ） (2023-02-17T14:17:44Z)
Multi-Model Federated Learning [8.629912408966145]
連合学習を複数の無関係モデルが同時に訓練される環境に拡張する。全てのクライアントは一度にMモデルのどれかを訓練することができ、サーバはMモデルのモデルを保持します。時間とともに学習タスクをクライアントに割り当てるための複数のポリシーを提案する。第1の方針は、広く研究されているFedAvgをi.i.dのクライアントにモデルを割り当てることでマルチモデル学習に拡張するものである。さらに,現在に基づく意思決定を行うマルチモデル設定において,クライアント選択のための2つの新しいポリシーを提案する。
論文参考訳（メタデータ） (2022-01-07T18:24:23Z)
Federated Noisy Client Learning [105.00756772827066]
フェデレートラーニング(FL)は、複数のローカルクライアントに依存する共有グローバルモデルを協調的に集約する。標準FLメソッドは、集約されたモデル全体のパフォーマンスを損なううるノイズの多いクライアントの問題を無視します。本稿では,Fed-NCL (Federated Noisy Client Learning) を提案する。
論文参考訳（メタデータ） (2021-06-24T11:09:17Z)
Low-Latency Federated Learning over Wireless Channels with Differential Privacy [142.5983499872664]
フェデレートラーニング(FL)では、モデルトレーニングはクライアントに分散し、ローカルモデルは中央サーバによって集約される。本稿では,各クライアントの差分プライバシ(DP)要件だけでなく,全体としてのトレーニング性能に制約された無線チャネル上でのFLトレーニング遅延を最小限に抑えることを目的とする。
論文参考訳（メタデータ） (2021-06-20T13:51:18Z)
Federated Mutual Learning [65.46254760557073]
Federated Mutual Leaning (FML)は、クライアントが汎用モデルとパーソナライズされたモデルを独立してトレーニングすることを可能にする。実験により、FMLは一般的なフェデレート学習環境よりも優れた性能が得られることが示された。
論文参考訳（メタデータ） (2020-06-27T09:35:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。