論文の概要: Exploiting Correlations in Federated Learning: Opportunities and Practical Limitations

• arxiv url: http://arxiv.org/abs/2604.14751v1
• Date: Thu, 16 Apr 2026 08:03:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 21:29:31.796916
• Title: Exploiting Correlations in Federated Learning: Opportunities and Practical Limitations
• Title（参考訳）: フェデレーションラーニングにおける相互関係の展開--機会と実践的限界
• Authors: Adrian Edin, Michel Kieffer, Mikael Johansson, Zheng Chen,
• Abstract要約: 我々は、勾配とモデル圧縮スキームを、それらが利用する相関のタイプに基づいて3つのカテゴリに分類する。 本稿では,その大きさを測定するための定量的指標を提案し,この統合相関に基づくフレームワークを用いて既存の圧縮手法を再解釈する。 これらの結果から,異なる圧縮モードを積極的に切り替える2つの適応圧縮設計を提案する。
• 参考スコア（独自算出の注目度）: 9.703749869278269
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The communication bottleneck in federated learning (FL) has spurred extensive research into techniques to reduce the volume of data exchanged between client devices and the central parameter server. In this paper, we systematically classify gradient and model compression schemes into three categories based on the type of correlations they exploit: structural, temporal, and spatial. We examine the sources of such correlations, propose quantitative metrics for measuring their magnitude, and reinterpret existing compression methods through this unified correlation-based framework. Our experimental studies demonstrate that the degrees of structural, temporal, and spatial correlations vary significantly depending on task complexity, model architecture, and algorithmic configurations. These findings suggest that algorithm designers should carefully evaluate correlation assumptions under specific deployment scenarios rather than assuming that they are always present. Motivated by these findings, we propose two adaptive compression designs that actively switch between different compression modes based on the measured correlation strength, and we evaluate their performance gains relative to conventional non-adaptive approaches. In summary, our unified taxonomy provides a clean and principled foundation for developing more effective and application-specific compression techniques for FL systems.
• Abstract（参考訳）: FL(Federated Learning)における通信ボトルネックは、クライアントデバイスと中央パラメータサーバの間で交換されるデータの量を削減する技術の研究を刺激している。 本稿では,構造的,時間的,空間的な相関関係のタイプに基づいて,勾配とモデル圧縮スキームを3つのカテゴリに分類する。 このような相関の源泉を調べ、その大きさを測定するための定量的な指標を提案し、この統合された相関に基づくフレームワークを通じて既存の圧縮手法を再解釈する。 実験により, 構造, 時間, 空間的相関の度合いは, タスクの複雑さ, モデルアーキテクチャ, アルゴリズム構成によって大きく異なることが示された。 これらの結果は,アルゴリズム設計者が常に存在すると仮定するのではなく,特定のデプロイメントシナリオ下での相関仮定を慎重に評価すべきであることを示唆している。 これらの結果から, 従来の非適応的手法と比較して, 異なる圧縮モードを積極的に切り替える2つの適応圧縮設計法を提案する。 まとめると、我々の統合分類学は、FLシステムのためのより効率的でアプリケーション固有の圧縮技術を開発するための、クリーンで原則化された基盤を提供する。

関連論文リスト

• FlexCausal: Flexible Causal Disentanglement via Structural Flow Priors and Manifold-Aware Interventions [1.7114074082429929]
  因果解離表現学習(Causal Disentangled Representation Learning)は、観測から低次元表現を学習し、解離することを目的とする。 本稿では,ブロック対角共分散VAEに基づく新しいCDRLフレームワークFlexCausalを提案する。 本フレームワークは,学習した潜在部分空間と基底-真理因果関係の正確な構造的対応を保証する。
  論文  参考訳（メタデータ） (2026-01-29T11:30:53Z)
• SCALAR: Self-Calibrating Adaptive Latent Attention Representation Learning [2.152549977410309]
  複雑な特徴相互作用を持つ高次元ヘテロジニアスデータは、従来の予測モデリングアプローチに重大な課題をもたらす。 本アーキテクチャでは,異なる特徴群を個別に処理するアダプティブカーネルベースのアテンション機構を導入している。 実験結果は、さまざまなデータセットにわたる最先端の手法と比較して、パフォーマンス指標が大幅に改善されたことを示している。
  論文  参考訳（メタデータ） (2025-10-18T12:41:18Z)
• Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
  モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。 本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。 残る技術的課題や倫理的考察も分析する。
  論文  参考訳（メタデータ） (2025-06-05T05:42:27Z)
• Enhancing CTR Prediction with De-correlated Expert Networks [45.50697497028273]
  本稿では,専門的相関を最小化するクロスエキスパートデコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレー 我々はD-MoEがMulti-Embedding MoEベースラインと比較して1.19%のGross Merchandise Volume (GMV)リフトを達成することを示す。
  論文  参考訳（メタデータ） (2025-05-23T14:04:38Z)
• Aggregation on Learnable Manifolds for Asynchronous Federated Optimization [3.8208848658169763]
  曲線学習としてアグリゲーションを取り入れた幾何学的枠組みを導入する。 そこで我々は,線形アグリゲーションを低次曲率成分に置き換えたAsyncBezierを提案する。 これらの利得は、他の方法がより高いローカルな計算予算に割り当てられた場合でも維持されることを示す。
  論文  参考訳（メタデータ） (2025-03-18T16:36:59Z)
• Accuracy on the Line: On the Strong Correlation Between Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
  分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。 具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。 また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
  論文  参考訳（メタデータ） (2021-07-09T19:48:23Z)
• Semantic Correspondence with Transformers [68.37049687360705]
  本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。 初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。 提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
  論文  参考訳（メタデータ） (2021-06-04T14:39:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。