論文の概要: Mitigating Modality Quantity and Quality Imbalance in Multimodal Online Federated Learning
- arxiv url: http://arxiv.org/abs/2508.11159v1
- Date: Fri, 15 Aug 2025 02:13:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-18 14:51:23.712807
- Title: Mitigating Modality Quantity and Quality Imbalance in Multimodal Online Federated Learning
- Title(参考訳): マルチモーダルオンラインフェデレーション学習におけるモダリティ量と品質不均衡の軽減
- Authors: Heqiang Wang, Weihong Yang, Xiaoxiong Zhong, Jia Zhou, Fangming Liu, Weizhe Zhang,
- Abstract要約: IoT(Internet of Things)エコシステムは,センサやカメラ,マイクなど,さまざまなソースから大量のマルチモーダルデータを生成する。
エッジインテリジェンスの進歩により、IoTデバイスは、単純なデータ取得ユニットから計算能力のあるノードへと進化し、異種マルチモーダルデータのローカライズされた処理を可能にした。
データ生成の継続的な性質とエッジデバイスの限られたストレージ容量は、オンライン学習フレームワークを必要としている。これらの要件を満たすための有望なアプローチとして、Multimodal Online Federated Learning (MMO-FL)が登場した。
トレーニングと並行して動作するように設計された学習手法であるQQRアルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 17.228105810116762
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The Internet of Things (IoT) ecosystem produces massive volumes of multimodal data from diverse sources, including sensors, cameras, and microphones. With advances in edge intelligence, IoT devices have evolved from simple data acquisition units into computationally capable nodes, enabling localized processing of heterogeneous multimodal data. This evolution necessitates distributed learning paradigms that can efficiently handle such data. Furthermore, the continuous nature of data generation and the limited storage capacity of edge devices demand an online learning framework. Multimodal Online Federated Learning (MMO-FL) has emerged as a promising approach to meet these requirements. However, MMO-FL faces new challenges due to the inherent instability of IoT devices, which often results in modality quantity and quality imbalance (QQI) during data collection. In this work, we systematically investigate the impact of QQI within the MMO-FL framework and present a comprehensive theoretical analysis quantifying how both types of imbalance degrade learning performance. To address these challenges, we propose the Modality Quantity and Quality Rebalanced (QQR) algorithm, a prototype learning based method designed to operate in parallel with the training process. Extensive experiments on two real-world multimodal datasets show that the proposed QQR algorithm consistently outperforms benchmarks under modality imbalance conditions with promising learning performance.
- Abstract(参考訳): IoT(Internet of Things)エコシステムは,センサやカメラ,マイクなど,さまざまなソースから大量のマルチモーダルデータを生成する。
エッジインテリジェンスの進歩により、IoTデバイスは、単純なデータ取得ユニットから計算能力のあるノードへと進化し、異種マルチモーダルデータのローカライズされた処理を可能にした。
この進化は、そのようなデータを効率的に処理できる分散学習パラダイムを必要とします。
さらに、データ生成の継続的な性質とエッジデバイスの限られたストレージ容量は、オンライン学習フレームワークを必要とする。
MMO-FL(Multimodal Online Federated Learning)は、これらの要件を満たすための有望なアプローチとして登場した。
しかし、MMO-FLはIoTデバイス固有の不安定さのため、データ収集時にモダリティ量と品質不均衡(QQI)が発生することが多いため、新たな課題に直面している。
本研究では,MMO-FLフレームワークにおけるQQIの影響を体系的に検討し,両タイプの不均衡学習性能を定量的に評価する。
これらの課題に対処するために、トレーニングプロセスと並行して動作するように設計されたプロトタイプ学習法である、Modality Quantity and Quality Re Balanced (QQR)アルゴリズムを提案する。
2つの実世界のマルチモーダルデータセットに対する大規模な実験により、提案したQQRアルゴリズムは、モダリティの不均衡条件下でベンチマークを一貫して上回り、学習性能が期待できることを示す。
関連論文リスト
- Communication Efficient Adaptive Model-Driven Quantum Federated Learning [13.782852293291493]
巨大なデータセットと多数の参加デバイスを使用したトレーニングは、フェデレートラーニング(FL)のボトルネックにつながる
モデル駆動型量子フェデレーション学習アルゴリズム(mdQFL)を導入し,これらの課題に対処する。
以上の結果から,最終モデルの精度以上を維持しつつ,通信コストの50%近くを削減できることを示した。
論文 参考訳(メタデータ) (2025-06-05T01:48:00Z) - Multimodal Online Federated Learning with Modality Missing in Internet of Things [22.814768356671276]
IoT(Internet of Things)エコシステムは,センサやカメラ,マイクといった異質なソースから,膨大な量のマルチモーダルデータを生成する。
エッジインテリジェンスが進化を続けるにつれ、IoTデバイスは、単純なデータ収集ユニットから、複雑な計算タスクを実行可能なノードへと進化してきた。
我々は,IoT環境における動的かつ分散化されたマルチモーダル学習のための新しいフレームワークであるMMO-FLの概念を紹介した。
論文 参考訳(メタデータ) (2025-05-22T02:31:37Z) - A Low-Complexity Plug-and-Play Deep Learning Model for Massive MIMO Precoding Across Sites [5.896656636095934]
MMIMO技術は、スペクトル効率とネットワーク容量を向上させることで、無線通信を変革した。
本稿では,既存のアプローチの複雑性問題に対処するための,新しいディープラーニングベースのmMIMOプリコーダを提案する。
論文 参考訳(メタデータ) (2025-02-12T20:02:36Z) - PAL: Prompting Analytic Learning with Missing Modality for Multi-Modal Class-Incremental Learning [42.00851701431368]
マルチモーダルクラスインクリメンタルラーニング(MMCIL)は、音声と視覚、画像とテキストのペアのようなマルチモーダルデータを活用する。
重要な課題は、漸進的な学習フェーズにおけるモダリティの欠如である。
PALは, MMCILに適合した, モダリティの欠如を前提とした, 斬新なフレームワークである。
論文 参考訳(メタデータ) (2025-01-16T08:04:04Z) - Multi-QuAD: Multi-Level Quality-Adaptive Dynamic Network for Reliable Multimodal Classification [57.08108545219043]
既存の信頼性の高いマルチモーダル分類手法では、データ品質のロバストな推定ができない。
textitMulti-level Quality-Adaptive Dynamic multimodal network (Multi-QuAD) と呼ばれる信頼性の高い分類のための新しいフレームワークを提案する。
4つのデータセットで行った実験により、Multi-QuADは分類性能と信頼性において最先端の手法を大幅に上回っていることが示された。
論文 参考訳(メタデータ) (2024-12-19T03:26:51Z) - MetaTrading: An Immersion-Aware Model Trading Framework for Vehicular Metaverse Services [94.61039892220037]
我々は、フェデレーション学習(FL)によるプライバシーを確保しつつ、サービスのデータ提供を容易にする没入型モデルトレーディングフレームワークを提案する。
我々は,資源制約下での高価値モデルに貢献するために,メタバースユーザ(MU)にインセンティブを与えるインセンティブ機構を設計する。
我々は、MUやその他のMSPに関するプライベート情報にアクセスすることなく、深層強化学習に基づく完全に分散された動的報酬アルゴリズムを開発する。
論文 参考訳(メタデータ) (2024-10-25T16:20:46Z) - Multimodal deep representation learning for quantum cross-platform
verification [60.01590250213637]
初期の量子コンピューティングの領域において重要な取り組みであるクロスプラットフォーム検証は、同一のアルゴリズムを実行する2つの不完全な量子デバイスとの類似性を特徴づけようと試みている。
本稿では,この課題におけるデータの形式化が2つの異なるモダリティを具現化する,革新的なマルチモーダル学習手法を提案する。
我々はこれらのモダリティから知識を独立して抽出するマルチモーダルニューラルネットワークを考案し、続いて融合操作により包括的データ表現を生成する。
論文 参考訳(メタデータ) (2023-11-07T04:35:03Z) - Differentiable Multi-Fidelity Fusion: Efficient Learning of Physics
Simulations with Neural Architecture Search and Transfer Learning [1.0024450637989093]
ニューラル・アーキテクチャ・サーチ(NAS)を利用して、異なる問題に対する適切なモデル・アーキテクチャを自動的に探索する微分可能なmf(DMF)モデルを提案する。
DMFは、少数の高忠実度トレーニングサンプルで物理シミュレーションを効率よく学習することができ、最先端の手法よりも優れたマージンを持つ。
論文 参考訳(メタデータ) (2023-06-12T07:18:13Z) - Adaptive Anomaly Detection for Internet of Things in Hierarchical Edge
Computing: A Contextual-Bandit Approach [81.5261621619557]
階層エッジコンピューティング(HEC)を用いた適応型異常検出手法を提案する。
まず,複雑性を増した複数のDNNモデルを構築し,それぞれを対応するHEC層に関連付ける。
そこで我々は、文脈帯域問題として定式化され、強化学習ポリシーネットワークを用いて解決される適応モデル選択スキームを設計する。
論文 参考訳(メタデータ) (2021-08-09T08:45:47Z) - Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。
本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。
その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
論文 参考訳(メタデータ) (2020-03-07T11:55:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。