論文の概要: SL-FAC: A Communication-Efficient Split Learning Framework with Frequency-Aware Compression
- arxiv url: http://arxiv.org/abs/2604.07316v1
- Date: Wed, 08 Apr 2026 17:25:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-09 17:30:51.657983
- Title: SL-FAC: A Communication-Efficient Split Learning Framework with Frequency-Aware Compression
- Title(参考訳): SL-FAC:周波数認識圧縮を用いた通信効率の良い分割学習フレームワーク
- Authors: Zehang Lin, Miao Yang, Haihan Zhu, Zheng Lin, Jianhao Huang, Jing Yang, Guangjin Pan, Dianxin Luan, Zihan Fang, Shunzhi Zhu, Wei Ni, John Thompson,
- Abstract要約: 分割学習(SL)は、大きなモデルを分割し、エッジデバイスからエッジサーバへのトレーニングワークロードをオフロードすることで、有望なソリューションを提供する。
適応周波数分解(AFD)と周波数ベース量子化圧縮(FQC)の2つの主要なコンポーネントからなる通信効率の高いSLフレームワークであるSL-FACを提案する。
- 参考スコア(独自算出の注目度): 28.812793155510562
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The growing complexity of neural networks hinders the deployment of distributed machine learning on resource-constrained devices. Split learning (SL) offers a promising solution by partitioning the large model and offloading the primary training workload from edge devices to an edge server. However, the increasing number of participating devices and model complexity leads to significant communication overhead from the transmission of smashed data (e.g., activations and gradients), which constitutes a critical bottleneck for SL. To tackle this challenge, we propose SL-FAC, a communication-efficient SL framework comprising two key components: adaptive frequency decomposition (AFD) and frequency-based quantization compression (FQC). AFD first transforms the smashed data into the frequency domain and decomposes it into spectral components with distinct information. FQC then applies customized quantization bit widths to each component based on its spectral energy distribution. This collaborative approach enables SL-FAC to achieve significant communication reduction while strategically preserving the information most crucial for model convergence. Extensive experiments confirm the superior performance of SL-FAC for improving the training efficiency.
- Abstract(参考訳): ニューラルネットワークの複雑さの増大は、リソース制約のあるデバイスへの分散機械学習の展開を妨げる。
分割学習(SL)は、大きなモデルを分割し、エッジデバイスからエッジサーバへのトレーニングワークロードをオフロードすることで、有望なソリューションを提供する。
しかし、参加デバイスの増加とモデルの複雑さにより、スマッシュデータ(例えば、アクティベーションや勾配)の送信による通信オーバーヘッドが大きくなり、SLにとって重要なボトルネックとなる。
この課題に対処するために,適応周波数分解(AFD)と周波数ベースの量子化圧縮(FQC)という2つの主要なコンポーネントからなる通信効率の高いSLフレームワークであるSL-FACを提案する。
AFDはまずスマッシュデータを周波数領域に変換し、異なる情報を持つスペクトル成分に分解する。
次に、FQCはそのスペクトルエネルギー分布に基づいて各コンポーネントにカスタマイズされた量子化ビット幅を適用する。
このコラボレーティブなアプローチにより、SL-FACは、モデル収束において最も重要な情報を戦略的に保存しながら、重要な通信削減を実現することができる。
SL-FACの総合的な実験により,訓練効率向上のための優れた性能が確認された。
関連論文リスト
- NSC-SL: A Bandwidth-Aware Neural Subspace Compression for Communication-Efficient Split Learning [22.576107330283744]
NSC-SLは,通信効率の高い分割学習のための適応圧縮アルゴリズムである。
NSC-SLは、収束に必要な意味豊かな情報を保持しながら高い圧縮比を達成する。
論文 参考訳(メタデータ) (2026-02-02T19:08:34Z) - SL-ACC: A Communication-Efficient Split Learning Framework with Adaptive Channel-wise Compression [25.47831071744755]
Split Learning(SL)は、エッジデバイスからサーバへの一次コンピューティング負荷をオフロードすることで、有望なソリューションを提供する。
参加する装置の数が増えるにつれて、過度にスマッシュされたデータの送信がSLの大きなボトルネックとなる。
本稿では,2つの鍵成分からなる通信効率の高いSLフレームワークSL-ACCを提案する。
論文 参考訳(メタデータ) (2025-08-18T15:02:10Z) - Federated Split Learning with Improved Communication and Storage Efficiency [9.277834710955766]
フェデレーテッド・ラーニング(FL)は、一般的な分散機械学習(ML)ソリューションの1つだが、エッジデバイスにおける通信と計算のコストがかなり高い。
本稿では,サーバに単一モデルを保持しながらクライアントをローカルに更新する補助ネットワークを利用した,新しい通信・記憶効率の高いフェデレーション分割学習手法であるCSE-FSLを提案する。
論文 参考訳(メタデータ) (2025-07-21T17:21:16Z) - R-SFLLM: Jamming Resilient Framework for Split Federated Learning with Large Language Models [65.04475956174959]
Split Federated Learning (SFL)は、分散機械学習(ML)における計算効率のパラダイムである。
SFLにおける重要な課題は、特に無線チャネル上に展開する場合、送信されたモデルパラメータの敵ジャミングに対する感受性である。
本稿では,無線ネットワーク上での大規模言語モデル (LLM) と視覚言語モデル (VLM) を用いたレジリエンスSFLのための物理層フレームワークを開発する。
論文 参考訳(メタデータ) (2024-07-16T12:21:29Z) - Efficient Parallel Split Learning over Resource-constrained Wireless
Edge Networks [44.37047471448793]
本稿では,エッジコンピューティングパラダイムと並列分割学習(PSL)の統合を提唱する。
そこで本研究では,モデル学習を高速化するために,効率的な並列分割学習(EPSL)という革新的なPSLフレームワークを提案する。
提案するEPSLフレームワークは,目標精度を達成するために必要なトレーニング遅延を著しく低減することを示す。
論文 参考訳(メタデータ) (2023-03-26T16:09:48Z) - Communication and Storage Efficient Federated Split Learning [19.369076939064904]
Federated Split LearningはFLの並列モデルトレーニング原則を保存する。
サーバはクライアントごとに別々のモデルをメンテナンスしなければなりません。
本稿では,コミュニケーションと記憶の効率的なフェデレーションと分割学習戦略を提案する。
論文 参考訳(メタデータ) (2023-02-11T04:44:29Z) - Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated
Split Learning [56.125720497163684]
無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。
ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
論文 参考訳(メタデータ) (2022-09-02T10:29:56Z) - Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。
本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。
その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
論文 参考訳(メタデータ) (2020-03-07T11:55:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。