論文の概要: Heterogeneous Federated Learning Systems for Time-Series Power Consumption Prediction with Multi-Head Embedding Mechanism

• arxiv url: http://arxiv.org/abs/2501.12136v1
• Date: Tue, 21 Jan 2025 13:49:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-22 14:21:19.334674
• Title: Heterogeneous Federated Learning Systems for Time-Series Power Consumption Prediction with Multi-Head Embedding Mechanism
• Title（参考訳）: マルチヘッド埋め込み機構を用いた時系列電力消費予測のための不均一フェデレーション学習システム
• Authors: Jia-Hao Syu, Jerry Chun-Wei Lin, Gautam Srivastava, Unil Yun,
• Abstract要約: 時系列予測は、スマートファクトリやスマートトランスポートなど、さまざまなアプリケーションでますます人気を博している。 既存のモデルには、複数のクライアント間での協調学習とプライバシの問題に関する議論が欠如している。 本稿では,複数の頭部ネットワークからなるマルチヘッド・ヘテロジニアス・フェデレート・ラーニング(MHHFL)システムを提案する。
• 参考スコア（独自算出の注目度）: 45.85115919116268
• License:
• Abstract: Time-series prediction is increasingly popular in a variety of applications, such as smart factories and smart transportation. Researchers have used various techniques to predict power consumption, but existing models lack discussion of collaborative learning and privacy issues among multiple clients. To address these issues, we propose Multi-Head Heterogeneous Federated Learning (MHHFL) systems that consist of multiple head networks, which independently act as carriers for federated learning. In the federated period, each head network is embedded into 2-dimensional vectors and shared with the centralized source pool. MHHFL then selects appropriate source networks and blends the head networks as knowledge transfer in federated learning. The experimental results show that the proposed MHHFL systems significantly outperform the benchmark and state-of-the-art systems and reduce the prediction error by 24.9% to 94.1%. The ablation studies demonstrate the effectiveness of the proposed mechanisms in the MHHFL (head network embedding and selection mechanisms), which significantly outperforms traditional federated average and random transfer.
• Abstract（参考訳）: 時系列予測は、スマートファクトリやスマートトランスポートなど、さまざまなアプリケーションでますます人気を博している。 研究者は電力消費を予測するために様々なテクニックを使用してきたが、既存のモデルでは複数のクライアント間で協調学習やプライバシーに関する議論がない。 これらの課題に対処するため、我々は、複数のヘッドネットワークからなるマルチヘッド・ヘテロジニアス・フェデレート・ラーニング(MHHFL)システムを提案し、独立してフェデレーション・ラーニングのキャリアとして機能する。 連合期間において、各ヘッドネットワークは2次元ベクトルに埋め込まれ、集中ソースプールと共有される。 その後、MHHFLは適切なソースネットワークを選択し、連合学習における知識伝達としてヘッドネットワークをブレンドする。 実験の結果、提案したMHHFLシステムはベンチマークと最先端システムを大幅に上回り、予測誤差を24.9%から94.1%に削減した。 アブレーション実験は,MHHFL (head network embeding and selection mechanism) における提案機構の有効性を示す。

関連論文リスト

• Effective Intrusion Detection in Heterogeneous Internet-of-Things Networks via Ensemble Knowledge Distillation-based Federated Learning [52.6706505729803]
  我々は、分散化された侵入検知システムの共有モデル(IDS)を協調訓練するために、フェデレートラーニング(FL)を導入する。 FLEKDは従来のモデル融合法よりも柔軟な凝集法を実現する。 実験の結果,提案手法は,速度と性能の両面で,局所訓練と従来のFLよりも優れていた。
  論文  参考訳（メタデータ） (2024-01-22T14:16:37Z)
• Deep Equilibrium Models Meet Federated Learning [71.57324258813675]
  本研究では,従来の深層学習ネットワークの代わりにDeep Equilibrium(DEQ)モデルを用いて,フェデレートラーニング(FL)問題について検討する。 我々は、DECモデルをフェデレート学習フレームワークに組み込むことで、FLのいくつかのオープンな問題に自然に対処できると主張している。 我々の知る限りでは、この研究は、DECモデルとフェデレーションラーニングの関連性を確立する最初のものである。
  論文  参考訳（メタデータ） (2023-05-29T22:51:40Z)
• Time-sensitive Learning for Heterogeneous Federated Edge Intelligence [52.83633954857744]
  フェデレーションエッジインテリジェンス(FEI)システムにおけるリアルタイム機械学習について検討する。 FEIシステムは異種通信と計算資源分布を示す。 本稿では,共有MLモデルの協調学習における全体の実行時間を最小化するために,時間依存型フェデレーションラーニング(TS-FL)フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-01-26T08:13:22Z)
• GowFed -- A novel Federated Network Intrusion Detection System [0.15469452301122172]
  本研究は,Gower Dissimilarity行列とFederated Averagingを併用したネットワーク脅威検出システムであるGowFedを紹介する。 GowFedのアプローチは,(1)バニラバージョン,(2)アテンション機構を備えたバージョンなど,最先端の知識に基づいて開発されている。 全体として、GowFedは、産業レベルのネットワークにおけるネットワーク脅威を検出するためのフェデレートラーニングとガウワーの相違行列の併用に向けた最初の一歩となる。
  論文  参考訳（メタデータ） (2022-10-28T23:53:37Z)
• Communication-Efficient Hierarchical Federated Learning for IoT Heterogeneous Systems with Imbalanced Data [42.26599494940002]
  フェデレートラーニング(Federated Learning, FL)は、複数のノードが協調してディープラーニングモデルをトレーニングできる分散ラーニング方法論である。 本稿では,IoTヘテロジニアスシステムにおける階層FLの可能性について検討する。 複数のエッジノード上でのユーザ割り当てとリソース割り当てに最適化されたソリューションを提案する。
  論文  参考訳（メタデータ） (2021-07-14T08:32:39Z)
• A Transductive Multi-Head Model for Cross-Domain Few-Shot Learning [72.30054522048553]
  本稿では,クロスドメインなFew-Shot学習問題に対処するため,TMHFS(Transductive Multi-Head Few-Shot Learning)を提案する。 提案手法は, 4つの異なる対象領域において, 強いベースライン, 微調整を著しく上回っている。
  論文  参考訳（メタデータ） (2020-06-08T02:39:59Z)
• Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
  フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。 本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。 その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
  論文  参考訳（メタデータ） (2020-03-07T11:55:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。