論文の概要: Prioritizing Gradient Sign Over Modulus: An Importance-Aware Framework for Wireless Federated Learning
- arxiv url: http://arxiv.org/abs/2603.10763v1
- Date: Wed, 11 Mar 2026 13:41:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-12 16:22:32.966934
- Title: Prioritizing Gradient Sign Over Modulus: An Importance-Aware Framework for Wireless Federated Learning
- Title(参考訳): Modulus上のグラディエントサインの優先順位付け:ワイヤレスフェデレーション学習における重要度認識フレームワーク
- Authors: Yiyang Yue, Jiacheng Yao, Wei Xu, Zhaohui Yang, George K. Karagiannidis, Dusit Niyato,
- Abstract要約: Sign-Prioritized FL (SP-FL) は、不均一なリソース割り当てを通じて重要な勾配情報の送信を優先するフレームワークである。
本稿では,Newton-Raphson 法と逐次凸近似 (SCA) を用いて,この問題を解決するための交互最適化アルゴリズムを提案する。
シミュレーションの結果,特に資源制約シナリオにおけるSP-FLの優位性が確認された。
- 参考スコア(独自算出の注目度): 72.18619424901249
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Wireless federated learning (FL) facilitates collaborative training of artificial intelligence (AI) models to support ubiquitous intelligent applications at the wireless edge. However, the inherent constraints of limited wireless resources inevitably lead to unreliable communication, which poses a significant challenge to wireless FL. To overcome this challenge, we propose Sign-Prioritized FL (SP-FL), a novel framework that improves wireless FL by prioritizing the transmission of important gradient information through uneven resource allocation. Specifically, recognizing the importance of descent direction in model updating, we transmit gradient signs in individual packets and allow their reuse for gradient descent if the remaining gradient modulus cannot be correctly recovered. To further improve the reliability of transmission of important information, we formulate a hierarchical resource allocation problem based on the importance disparity at both the packet and device levels, optimizing bandwidth allocation across multiple devices and power allocation between sign and modulus packets. To make the problem tractable, the one-step convergence behavior of SP-FL, which characterizes data importance at both levels in an explicit form, is analyzed. We then propose an alternating optimization algorithm to solve this problem using the Newton-Raphson method and successive convex approximation (SCA). Simulation results confirm the superiority of SP-FL, especially in resource-constrained scenarios, demonstrating up to 9.96\% higher testing accuracy on the CIFAR-10 dataset compared to existing methods.
- Abstract(参考訳): 無線連合学習(FL)は、人工知能(AI)モデルの協調トレーニングを促進し、無線エッジにおけるユビキタスインテリジェントなアプリケーションをサポートする。
しかし、無線リソースに固有の制約は、必然的に信頼性の低い通信につながるため、無線FLにとって大きな課題となる。
この課題を克服するために、重要な勾配情報の伝送を不均一なリソース割り当てによって優先順位付けすることで、無線FLを改善する新しいフレームワークであるSign-Prioritized FL (SP-FL)を提案する。
具体的には, モデル更新における降下方向の重要性を認識し, 個々のパケットに勾配標識を送信し, 残りの勾配係数を正しく回収できない場合, 勾配降下の再利用を可能にする。
重要情報の送信の信頼性をさらに向上するため、パケットとデバイスレベルでの重要度差に基づいて階層的なリソース割り当て問題を定式化し、複数のデバイスにまたがる帯域割り当てを最適化し、符号と変調パケット間の電力割り当てを最適化する。
そこで,SP-FLの1段階収束挙動を明示的な形で,両レベルでのデータの重要度を特徴付ける。
次に,Newton-Raphson法と逐次凸近似(SCA)を用いて,この問題を解決するための交互最適化アルゴリズムを提案する。
シミュレーションの結果、特に資源制約のあるシナリオにおいてSP-FLの優位性が確認され、CIFAR-10データセットの試験精度は既存の手法と比較して最大9.96\%向上した。
関連論文リスト
- Lightweight Federated Learning over Wireless Edge Networks [83.4818741890634]
Federated (FL) はネットワークエッジの代替品であるが、無線ネットワークでは代替品である。
閉形式式FL収束ギャップ伝送パワー,モデルプルーニング誤差,量子化を導出する。
LTFLは、実世界のデータセットの実験において最先端のスキームよりも優れている。
論文 参考訳(メタデータ) (2025-07-13T09:14:17Z) - Online-Score-Aided Federated Learning: Taming the Resource Constraints in Wireless Networks [24.42462088925642]
我々は,無線アプリケーションに関連するタスクを学習するためのオンラインスコア支援フェデレーション学習(OSAFL)アルゴリズムを提案する。
オンラインスコアやローカルデータ配信のシフトといった新しい要因が収束境界にどのように影響し、サブ線形収束率に必要な条件を導出するかを示す。
論文 参考訳(メタデータ) (2024-08-12T01:27:06Z) - Personalized Wireless Federated Learning for Large Language Models [75.22457544349668]
大規模言語モデル(LLM)は、無線ネットワークにおいて大きな変革をもたらしている。
無線環境では、LLMのトレーニングはセキュリティとプライバシに関する重大な課題に直面している。
本稿では,無線ネットワークにおけるLLMのトレーニング段階の体系的解析を行い,事前学習,命令チューニング,アライメントチューニングを行う。
論文 参考訳(メタデータ) (2024-04-20T02:30:21Z) - Analysis and Optimization of Wireless Federated Learning with Data
Heterogeneity [72.85248553787538]
本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。
ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。
実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-04T04:18:01Z) - Learning to Transmit with Provable Guarantees in Wireless Federated
Learning [40.11488246920875]
干渉制限無線ネットワーク上でのフェデレーション学習(FL)に送信電力を割り当てる新しいデータ駆動方式を提案する。
提案手法は、FLトレーニングプロセス中に無線チャネルが変化している場合の課題に有用である。
最終的な目標は、訓練中のグローバルFLモデルの精度と効率を改善することです。
論文 参考訳(メタデータ) (2023-04-18T22:28:03Z) - CFLIT: Coexisting Federated Learning and Information Transfer [18.30671838758503]
本研究では,モバイルエッジネットワークにおける無線放送と従来型情報伝達(IT)の共存性について検討する。
FLとITデバイスがOFDMシステムで無線スペクトルを共有するCFLIT(Commanded Learning and Information Transfer)通信フレームワークを提案する。
論文 参考訳(メタデータ) (2022-07-26T13:17:28Z) - Federated Learning over Wireless IoT Networks with Optimized
Communication and Resources [98.18365881575805]
協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。
無線システム上での高速応答および高精度FLスキームの検証が重要である。
提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
論文 参考訳(メタデータ) (2021-10-22T13:25:57Z) - Bayesian Federated Learning over Wireless Networks [87.37301441859925]
フェデレーションラーニングは、ローカルデバイスに保存された異種データセットを使用したプライバシー保護と分散トレーニング方法です。
本稿では、スケーラブルBFL (SBFL) と呼ばれる効率的な修正BFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-31T07:32:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。