論文の概要: PIcsC: Partitioning-Induced Covariate Shift Correction

• arxiv url: http://arxiv.org/abs/2607.25441v1
• Date: Tue, 28 Jul 2026 08:33:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.761838
• Title: PIcsC: Partitioning-Induced Covariate Shift Correction
• Title（参考訳）: PIcsC:パーティショニングによる共変量シフト補正
• Authors: Behraj Khan, Behroz Mirza, Syed Ahmad Chan Bukhari, Tahir Qasim Syed,
• Abstract要約: 本稿では,データ分割と参照分布間の分散ミスマッチを緩和するフィッシャー情報に基づく正規化フレームワークを提案する。 textttPIcsCはFisher Information Matrix (FIM) を用いて分割のばらつきを近似し、その結果の統計を最適化中に正規化器として組み込む。
• 参考スコア（独自算出の注目度）: 4.266675330597196
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Covariate shift across training-data partitions biases model selection and parameter estimation in cross-validation, lifelong learning, and federated learning. We propose \textit{Partition-Induced Covariate-shift Correction} (\texttt{PIcsC}), a Fisher information-based regularization framework that mitigates distribution mismatch between data partitions and a reference distribution. \texttt{PIcsC} approximates partition divergence using the Fisher Information Matrix (FIM) and incorporates the resulting statistic as a regularizer during optimization. The same formulation applies to both centrally partitioned datasets (batches or cross-validation folds) and inherently distributed data (federated clients or decentralized nodes), requiring only partition-local gradient statistics rather than raw data. We further introduce a conditional adaptation mechanism that combines FIM shift with KL divergence to detect significant distribution shifts and activates regularization only when necessary. Experiments on more than 40 datasets demonstrate consistent improvements under both natural and synthetic covariate shift. On fragmented batch and fold settings, \texttt{PIcsC} reduces fragmentation-induced performance degradation by more than 20\% and 25\%, respectively. On seven federated learning benchmarks, it consistently outperforms FedAvg, FedProx, and SCAFFOLD by 3 -5 percentage points without requiring client-specific personalization. These results demonstrate that Fisher information provides an effective and unified mechanism for mitigating partition-induced covariate shift across both centralized and distributed learning.
• Abstract（参考訳）: トレーニングデータパーティション間の共変量シフトは、クロスバリデーション、生涯学習、フェデレーション学習におけるモデル選択とパラメータ推定に偏りがある。 本稿では、データパーティションと参照分布間の分散ミスマッチを緩和するフィッシャー情報に基づく正規化フレームワークである「textit{Partition-induced Covariate-shift Correction} (\texttt{PIcsC})」を提案する。 <texttt{PIcsC} は、Fisher Information Matrix (FIM) を用いて分割のばらつきを近似し、その結果の統計を最適化中に正規化器として組み込む。 同じ定式化は、中央に分割されたデータセット(バッチまたはクロスバリデーションフォールド)と本質的に分散されたデータ(フェデレーションされたクライアントまたは分散ノード)の両方に適用される。 さらに、FIMシフトとKL分散を組み合わせた条件適応機構を導入し、重要な分布シフトを検出し、必要に応じて正規化を活性化する。 40以上のデータセットの実験では、自然と合成の共変量シフトの両方で一貫した改善が示されている。 断片化されたバッチとフォールド設定では、 \texttt{PIcsC} はフラグメンテーションによるパフォーマンス劣化をそれぞれ 20 % と 25 % 以上削減する。 7つのフェデレーション学習ベンチマークでは、クライアント固有のパーソナライゼーションを必要とせずに、FedAvg、FedProx、SCAFFOLDを3～5ポイント上回っている。 これらの結果から、フィッシャー情報は、集中学習と分散学習の両方にわたる分割誘起共変量シフトを緩和するための効果的かつ統一的なメカニズムを提供することが示された。

関連論文リスト

• Entropy-Regularized Probabilistic Gates for Sparse Model Discovery in Scarce-Data Federated Learning [0.0]
  Federated Learning (FL) は分散機械学習(ML)パラダイムで、データを共有せずに複数のクライアント間で協調する。 本研究では,スパースフェデレーション最適化における不確実性を維持するメカニズムとして,ゲート分布のエントロピー正則化について検討する。
  論文  参考訳（メタデータ） (2026-06-30T23:51:44Z)
• BESplit: Bias-Compensated Split Federated Learning with Evidential Aggregation [2.5015678499211407]
  Split Federated Learning (SFL)は、クライアントとサーバ間でモデルを分割することで、プライバシ保護による協調トレーニングを可能にする。 非IIDデータ分布では、SFLは偏りのある最適化と不安定な収束に悩まされることが多い。 非IID効果を軽減するために,SFLの本質的な構造を利用したアーキテクチャ対応フレームワークBESplitを提案する。
  論文  参考訳（メタデータ） (2026-05-17T15:42:33Z)
• Technical note on Fisher Information for Robust Federated Cross-Validation [3.5808917363708743]
  我々はロバストなfEderated Validation(textbfFIRE)のためのフィッシャー情報を提案する。 ファイアは重み付けベンチマークを最大で5.1%、フェデレーションラーニングベンチマークを最大で5.3%、シフト検証セットで最大で5.3%で上回っている。
  論文  参考訳（メタデータ） (2025-10-04T15:30:04Z)
• Interaction-Aware Gaussian Weighting for Clustered Federated Learning [58.92159838586751]
  フェデレートラーニング(FL)は、プライバシを維持しながらモデルをトレーニングするための分散パラダイムとして登場した。 本稿では,新たなクラスタリングFL法であるFedGWC(Federated Gaussian Weighting Clustering)を提案する。 ベンチマークデータセットを用いた実験により,FedGWCはクラスタの品質と分類精度において,既存のFLアルゴリズムよりも優れていることがわかった。
  論文  参考訳（メタデータ） (2025-02-05T16:33:36Z)
• Mitigating covariate shift in non-colocated data with learned parameter priors [0.0]
  textitFragmentation-induced co-shift remediation(FIcsR$)は、フラグメントの共変量分布と標準クロスバリデーションベースラインとの$f$-divergenceを最小限にする。 複数のデータクラス、40ドル以上のデータセット、および複数のシーケンス長にわたってバッチ化されたデータに対して、広範な分類実験を行います。 バッチとフォールド・オブ・ザ・アーティファクトに対する精度は、それぞれ5%以上と10%以上向上している。
  論文  参考訳（メタデータ） (2024-11-10T15:48:29Z)
• Learnable Distribution Calibration for Few-Shot Class-Incremental Learning [122.2241120474278]
  FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。 本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
  論文  参考訳（メタデータ） (2022-10-01T09:40:26Z)
• FedDC: Federated Learning with Non-IID Data via Local Drift Decoupling and Correction [48.85303253333453]
  フェデレートラーニング(FL)は、複数のクライアントがプライベートデータを共有せずに、高性能なグローバルモデルを集合的にトレーニングすることを可能にする。 局所的ドリフトデカップリングと補正(FedDC)を用いた新しいフェデレーション学習アルゴリズムを提案する。 私たちのFedDCでは、ローカルモデルパラメータとグローバルモデルパラメータのギャップを追跡するために、各クライアントが補助的なローカルドリフト変数を使用するような、ローカルトレーニングフェーズにおける軽量な修正のみを導入しています。 実験結果と解析結果から,FedDCは様々な画像分類タスクにおいて,収差の迅速化と性能の向上を図っている。
  論文  参考訳（メタデータ） (2022-03-22T14:06:26Z)
• Accuracy on the Line: On the Strong Correlation Between Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
  分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。 具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。 また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
  論文  参考訳（メタデータ） (2021-07-09T19:48:23Z)
• Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
  我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。 入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。 分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
  論文  参考訳（メタデータ） (2021-06-14T05:39:09Z)
• Robust Federated Learning: The Case of Affine Distribution Shifts [41.27887358989414]
  我々は,ユーザのサンプルの分布変化に対して良好な性能を実現するための,堅牢なフェデレーション学習アルゴリズムを開発した。 新しいテストユーザにおいて,アフィン分布シフトは学習者分類器の性能を著しく低下させるのに十分であることを示す。
  論文  参考訳（メタデータ） (2020-06-16T03:43:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。