論文の概要: Exploiting Correlations in Federated Learning: Opportunities and Practical Limitations

• arxiv url: http://arxiv.org/abs/2604.14751v1
• Date: Thu, 16 Apr 2026 08:03:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 21:29:31.796916
• Title: Exploiting Correlations in Federated Learning: Opportunities and Practical Limitations
• Title（参考訳）: フェデレーションラーニングにおける相互関係の展開--機会と実践的限界
• Abstract要約: 我々は、勾配とモデル圧縮スキームを、それらが利用する相関のタイプに基づいて3つのカテゴリに分類する。 本稿では,その大きさを測定するための定量的指標を提案し,この統合相関に基づくフレームワークを用いて既存の圧縮手法を再解釈する。 これらの結果から,異なる圧縮モードを積極的に切り替える2つの適応圧縮設計を提案する。
• 参考スコア（独自算出の注目度）: 9.703749869278269
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The communication bottleneck in federated learning (FL) has spurred extensive research into techniques to reduce the volume of data exchanged between client devices and the central parameter server. In this paper, we systematically classify gradient and model compression schemes into three categories based on the type of correlations they exploit: structural, temporal, and spatial. We examine the sources of such correlations, propose quantitative metrics for measuring their magnitude, and reinterpret existing compression methods through this unified correlation-based framework. Our experimental studies demonstrate that the degrees of structural, temporal, and spatial correlations vary significantly depending on task complexity, model architecture, and algorithmic configurations. These findings suggest that algorithm designers should carefully evaluate correlation assumptions under specific deployment scenarios rather than assuming that they are always present. Motivated by these findings, we propose two adaptive compression designs that actively switch between different compression modes based on the measured correlation strength, and we evaluate their performance gains relative to conventional non-adaptive approaches. In summary, our unified taxonomy provides a clean and principled foundation for developing more effective and application-specific compression techniques for FL systems.
• Abstract（参考訳）: FL(Federated Learning)における通信ボトルネックは、クライアントデバイスと中央パラメータサーバの間で交換されるデータの量を削減する技術の研究を刺激している。 本稿では,構造的,時間的,空間的な相関関係のタイプに基づいて,勾配とモデル圧縮スキームを3つのカテゴリに分類する。 このような相関の源泉を調べ、その大きさを測定するための定量的な指標を提案し、この統合された相関に基づくフレームワークを通じて既存の圧縮手法を再解釈する。 実験により, 構造, 時間, 空間的相関の度合いは, タスクの複雑さ, モデルアーキテクチャ, アルゴリズム構成によって大きく異なることが示された。 これらの結果は,アルゴリズム設計者が常に存在すると仮定するのではなく,特定のデプロイメントシナリオ下での相関仮定を慎重に評価すべきであることを示唆している。 これらの結果から, 従来の非適応的手法と比較して, 異なる圧縮モードを積極的に切り替える2つの適応圧縮設計法を提案する。 まとめると、我々の統合分類学は、FLシステムのためのより効率的でアプリケーション固有の圧縮技術を開発するための、クリーンで原則化された基盤を提供する。

関連論文リスト

• FlexCausal: Flexible Causal Disentanglement via Structural Flow Priors and Manifold-Aware Interventions [1.7114074082429929]
  因果解離表現学習(Causal Disentangled Representation Learning)は、観測から低次元表現を学習し、解離することを目的とする。 本稿では,ブロック対角共分散VAEに基づく新しいCDRLフレームワークFlexCausalを提案する。 本フレームワークは,学習した潜在部分空間と基底-真理因果関係の正確な構造的対応を保証する。
  論文  参考訳（メタデータ） (2026-01-29T11:30:53Z)
• SCALAR: Self-Calibrating Adaptive Latent Attention Representation Learning [2.152549977410309]
  複雑な特徴相互作用を持つ高次元ヘテロジニアスデータは、従来の予測モデリングアプローチに重大な課題をもたらす。 本アーキテクチャでは,異なる特徴群を個別に処理するアダプティブカーネルベースのアテンション機構を導入している。 実験結果は、さまざまなデータセットにわたる最先端の手法と比較して、パフォーマンス指標が大幅に改善されたことを示している。
  論文  参考訳（メタデータ） (2025-10-18T12:41:18Z)
• ISCS: Parameter-Guided Channel Ordering and Grouping for Learned Image Compression [11.645256028223272]
  本稿では,事前学習したlicモデルにおいて重要なチャネルを特定し,整理するためのデータセットに依存しない手法を提案する。 提案手法は,再現性を維持しつつ計算を効果的に削減し,既存の学習圧縮フレームワークを実用的かつモジュール的に拡張する。
  論文  参考訳（メタデータ） (2025-09-21T00:44:15Z)
• Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
  モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。 本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。 残る技術的課題や倫理的考察も分析する。
  論文  参考訳（メタデータ） (2025-06-05T05:42:27Z)
• Enhancing CTR Prediction with De-correlated Expert Networks [45.50697497028273]
  本稿では,専門的相関を最小化するクロスエキスパートデコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレーショナル・デコレー 我々はD-MoEがMulti-Embedding MoEベースラインと比較して1.19%のGross Merchandise Volume (GMV)リフトを達成することを示す。
  論文  参考訳（メタデータ） (2025-05-23T14:04:38Z)
• Aggregation on Learnable Manifolds for Asynchronous Federated Optimization [3.8208848658169763]
  曲線学習としてアグリゲーションを取り入れた幾何学的枠組みを導入する。 そこで我々は,線形アグリゲーションを低次曲率成分に置き換えたAsyncBezierを提案する。 これらの利得は、他の方法がより高いローカルな計算予算に割り当てられた場合でも維持されることを示す。
  論文  参考訳（メタデータ） (2025-03-18T16:36:59Z)
• Aggregation Weighting of Federated Learning via Generalization Bound Estimation [65.8630966842025]
  フェデレートラーニング(FL)は通常、サンプル比率によって決定される重み付けアプローチを使用して、クライアントモデルパラメータを集約する。 上記の重み付け法を,各局所モデルの一般化境界を考慮した新しい戦略に置き換える。
  論文  参考訳（メタデータ） (2023-11-10T08:50:28Z)
• Order-based Structure Learning with Normalizing Flows [7.972479571606131]
  観測データの因果構造を推定することは、グラフサイズと超指数的にスケールする難しい探索問題である。 既存の手法では、連続緩和を用いてこの問題を計算的に取り扱えるようにしているが、しばしばデータ生成過程を加法雑音モデル(ANM)に制限する。 自己回帰正規化フローを用いてこれらの仮定を緩和するフレームワークである,正規化フローを用いた秩序に基づく構造学習(OSLow)を提案する。
  論文  参考訳（メタデータ） (2023-08-14T22:17:33Z)
• Less is More: Mitigate Spurious Correlations for Open-Domain Dialogue Response Generation Models by Causal Discovery [52.95935278819512]
  本研究で得られたCGDIALOGコーパスに基づくオープンドメイン応答生成モデルのスプリアス相関に関する最初の研究を行った。 因果探索アルゴリズムに着想を得て,反応生成モデルの学習と推論のための新しいモデル非依存手法を提案する。
  論文  参考訳（メタデータ） (2023-03-02T06:33:48Z)
• Accuracy on the Line: On the Strong Correlation Between Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
  分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。 具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。 また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
  論文  参考訳（メタデータ） (2021-07-09T19:48:23Z)
• Semantic Correspondence with Transformers [68.37049687360705]
  本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。 初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。 提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
  論文  参考訳（メタデータ） (2021-06-04T14:39:03Z)
• Estimating the Effects of Continuous-valued Interventions using Generative Adversarial Networks [103.14809802212535]
  我々は,連続的評価介入の効果を推定する問題に対処するため,GAN(Generative Adversarial Network)フレームワークを構築した。 我々のモデルであるSCIGANは柔軟であり、いくつかの異なる継続的な介入に対する対実的な結果の同時推定が可能である。 継続的な介入に移行することによって生じる課題に対処するために、差別者のための新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-02-27T18:46:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。