論文の概要: Decentralized Federated Learning for Heterogeneous Multi-Task Semantic Communication
- arxiv url: http://arxiv.org/abs/2608.15256v1
- Date: Sat, 15 Aug 2026 14:22:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.240927
- Title: Decentralized Federated Learning for Heterogeneous Multi-Task Semantic Communication
- Title(参考訳): 不均一なマルチタスクセマンティックコミュニケーションのための分散フェデレーション学習
- Abstract要約: 本稿では、タスク間干渉を遮断するパーソナライズされたDSCフレームワークを提案する。
ネットワーク全体にわたって、私たちは"通信時アグリゲーション"プロトコルをデプロイします。
提案手法をNYU-v2上で評価した結果, 不十分な凝集と過剰なトポロジカルミキシングとのトレードオフが明らかとなった。
- 参考スコア(独自算出の注目度): 16.237398580195496
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Collaborative training in distributed semantic communication (DSC) networks typically relies on decentralized federated learning (DFL). However, pushing topology-agnostic aggregation into heterogeneous, multi-task environments creates a fundamental bottleneck: it drives negative transfer and overconsensus bias (OCB). This paper introduces a personalized DSC framework that cuts off this cross-task interference. At the node level, a policy-driven multi-path routing mechanism separates task-specific features from shared representations to preserve local fidelity. Across the network, we deploy a "communicationwhile- aggregation" protocol. It calibrates a column-stochastic consensus matrix using task affinities. This limits the system to absorbing complementary knowledge while actively blocking mismatched parameter updates. To bound the convergence, we derive a unified Lyapunov drift analysis. We reveal a strict Ushaped trade-off: deeper topological mixing reduces variance but amplifies structural OCB. Resolving this tension yields a closed-form expression for the optimal aggregation depth. We evaluate the proposed framework on NYU-v2, where the results reveal a clear trade-off between insufficient aggregation and excessive topological mixing. At the analytically derived optimal aggregation depth, our method achieves a 4.77% global relative improvement over the no-aggregation baseline and outperforms decentralized FedAvg, FedAMP, and heuristic max aggregation. We further evaluate the framework on Taskonomy and imperfect wireless links to examine the effects of network-size variation and wireless-link reliability.
- Abstract(参考訳): 分散セマンティックコミュニケーション(DSC)ネットワークにおける協調学習は、一般的に分散化された連邦学習(DFL)に依存している。
しかし、トポロジーに依存しないアグリゲーションを異質なマルチタスク環境に押し込むことは、負の移動と過剰な合意バイアス(OCB)を駆動する、根本的なボトルネックを生み出す。
本稿では、このクロスタスク干渉を遮断するパーソナライズされたDSCフレームワークを提案する。
ノードレベルでは、ポリシー駆動のマルチパスルーティング機構が、タスク固有の特徴を共有表現から分離し、局所的な忠実性を維持する。
ネットワーク全体にわたって、私たちは"通信時アグリゲーション"プロトコルをデプロイします。
タスク親和性を用いて列確率的コンセンサス行列を校正する。
これによりシステムは、ミスマッチしたパラメータの更新を積極的にブロックしながら、補完的な知識を吸収することを制限する。
収束を束縛するために、統一的なリアプノフドリフト解析を導出する。
より深いトポロジカルミキシングは分散を減少させるが、構造OCBを増幅する。
この緊張を解消すると、最適な凝集深度に対する閉形式表現が得られる。
提案手法をNYU-v2上で評価した結果, 不十分な凝集と過剰なトポロジカルミキシングとのトレードオフが明らかとなった。
解析的に導出された最適集約深度では,非集約ベースラインと分散FedAvg,FedAMP,ヒューリスティックマックスアグリゲーションよりも4.77%のグローバルな相対的改善を実現している。
さらに、ネットワークサイズの変化と無線リンク信頼性の影響を検討するために、タスクノミーと不完全な無線リンクに関する枠組みを更に評価する。
関連論文リスト
- Decentralized Federated Learning by Partial Message Exchange [36.48306604538227]
Decentralized Federated Learning (DFL) は、大規模な異種ネットワーク上での協調学習を可能にする、変革的なサーバフリーパラダイムとして登場した。
本稿では,ランダムに選択されたスパース座標のみを2つの隣接ノード間で交換できる新しいアルゴリズムPaMEを開発する。
PaMEは、高いレベルのプライバシーを維持しながら、精度を犠牲にすることなく、通信コストを大幅に削減する。
論文 参考訳(メタデータ) (2026-03-02T10:57:18Z) - Wireless Federated Multi-Task LLM Fine-Tuning via Sparse-and-Orthogonal LoRA [61.12136997430116]
低ランク適応(LoRA)に基づく分散連合学習(DFL)により、マルチタスクデータセットを持つモバイルデバイスは、ローカルに更新されたパラメータを、無線接続を介して近隣デバイスのサブセットと交換することで、大きな言語モデル(LLM)を協調的に微調整することができる。
不均一データセットに微調整されたパラメータを直接集約すると、DFLライフサイクルの3つの主要な問題が発生する: (i) 微調整プロセス中に忘れる破滅的な知識、(ii) データの異種性に起因する更新方向の矛盾に起因する。
論文 参考訳(メタデータ) (2026-02-24T02:45:32Z) - Stabilizing Decentralized Federated Fine-Tuning via Topology-Aware Alternating LoRA [20.00589625873043]
textttTAD-LoRAは、フェデレーション学習のサーバレス版である。
我々は, TextttTAD-LoRA が強い連結トポロジにおいて競合し, 適度かつ弱い連結トポロジの下で明確なゲインをもたらすことを示す。
論文 参考訳(メタデータ) (2026-01-31T01:57:53Z) - CoCo-Fed: A Unified Framework for Memory- and Communication-Efficient Federated Learning at the Wireless Edge [50.42067935605982]
ローカルメモリの効率とグローバル通信の削減を両立させる新しい圧縮・結合型学習フレームワークを提案する。
CoCo-Fedは、メモリと通信効率の両方において最先端のベースラインを著しく上回り、非IID設定下では堅牢な収束を維持している。
論文 参考訳(メタデータ) (2026-01-02T03:39:50Z) - Graph-Based Uncertainty Modeling and Multimodal Fusion for Salient Object Detection [12.743278093269325]
動的不確実性伝播とマルチモーダル協調推論ネットワーク(DUP-MCRNet)を提案する。
DUGCは空間意味距離に基づいて構築されたスパースグラフを通じて層間の不確実性を伝播するように設計されている。
MCFは学習可能なモダリティゲーティングウェイトを使用して、RGB、深さ、エッジの特徴の注意マップを重み付けする。
論文 参考訳(メタデータ) (2025-08-28T04:31:48Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - Hierarchical Multi-Marginal Optimal Transport for Network Alignment [52.206006379563306]
マルチネットワークアライメントは,複数ネットワーク上での協調学習に必須の要件である。
マルチネットワークアライメントのための階層型マルチマージ最適トランスポートフレームワークHOTを提案する。
提案するHOTは,有効性とスケーラビリティの両面で,最先端の大幅な改善を実現している。
論文 参考訳(メタデータ) (2023-10-06T02:35:35Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Decentralized Local Stochastic Extra-Gradient for Variational
Inequalities [125.62877849447729]
我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。
我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。
理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
論文 参考訳(メタデータ) (2021-06-15T17:45:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。