論文の概要: Federated Bilevel Performative Prediction
- arxiv url: http://arxiv.org/abs/2606.19734v1
- Date: Thu, 18 Jun 2026 02:58:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.62306
- Title: Federated Bilevel Performative Prediction
- Title(参考訳): Federated Bilevel Performative Prediction
- Authors: Liangxin Qian, Chang Liu, Xuanyu Cao, Jun Zhao, Kwok-Yan Lam,
- Abstract要約: 連立二段階演奏安定点(FBPS)を分離リスク視点で定式化する。
本研究では,FBPS法を線形収束するFBi-RRMと,FBi-SGD,FBi-SGDの2つの手法を開発した。
- 参考スコア(独自算出の注目度): 33.32982501255116
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated bilevel optimization is widely used for nested learning problems across distributed clients, such as federated hyperparameter tuning and meta-learning under privacy and communication constraints. Most existing formulations assume fixed client data distributions, which can be violated by performativity, where deployed decisions reshape client behavior and data collection, inducing client-specific, decision-dependent distribution shift. We study federated bilevel performative prediction, where both upper-level (UL) and lower-level (LL) objectives are evaluated under client-dependent, decision-dependent distributions. We formalize the federated bilevel performatively stable (FBPS) point under a decoupled-risk perspective and provide sufficient conditions for its existence and uniqueness. We then develop two federated methods to compute the FBPS solution: FBi-RRM, which converges linearly under a contraction condition, and FBi-SGD, a communication-efficient stochastic method based on federated hypergradient estimation with convergence guarantees under diminishing step sizes when sensitivities are sufficiently small. Experiments on strategic regression and meta strategic classification validate the predicted stability thresholds and demonstrate improved meta-generalization over non-performative baselines, and CNN-based classification further demonstrates the practical effectiveness of the proposed methods in nonconvex neural network settings.
- Abstract(参考訳): フェデレートされた双レベル最適化は、フェデレーションされたハイパーパラメータチューニングや、プライバシと通信の制約下でのメタラーニングなど、分散クライアント間でネストされた学習問題に広く使用されている。
ほとんどの既存の定式化では、クライアント固有の、決定に依存した分散シフトを誘発する、クライアントの振る舞いとデータ収集を再生成する、実行性によって違反される、固定されたクライアントデータ分散を前提としています。
本研究では,上位レベル (UL) と下位レベル (LL) の両方の目標を,クライアント依存の意思決定依存分布下で評価するフェデレーション付き二段階性能予測について検討する。
連立二段階演奏安定点(FBPS)を分離リスクの観点で定式化し,その存在と特異性について十分な条件を提供する。
次に,FBPS法を線形収束するFBi-RRM法と,FBi-SGD法という2つのFBPS法を開発した。
戦略的回帰およびメタ戦略分類の実験は、予測された安定性閾値を検証し、非表現的ベースラインに対するメタ一般化の改善を実証し、CNNに基づく分類は、非凸ニューラルネットワーク設定における提案手法の実用的効果をさらに示す。
関連論文リスト
- FedSLoP: Memory-Efficient Federated Learning with Low-Rank Gradient Projection [5.476264433576713]
FedSLoPは効率的なフェデレート学習アルゴリズムである。
We show that FedSLoP converges to a first-order stationary point at a rate of $O (1/sqrNT)$。
論文 参考訳(メタデータ) (2026-04-27T03:47:50Z) - Decision-Focused Federated Learning Under Heterogeneous Objectives and Constraints [45.88028371034407]
我々は、よく知られたSPO+アプローチに基づいて、SPO+のサロゲート損失に対する不均一性境界を開発する。
強く凸可能な領域の場合、安定性によりよりシャープな境界が導出される。
我々は多面体および強凸問題に対するFedAvg型DFFL実験セットを実装した。
論文 参考訳(メタデータ) (2026-04-21T22:22:39Z) - Byzantine-Robust and Differentially Private Federated Optimization under Weaker Assumptions [89.52532304099522]
フェデレートラーニング(FL)は、クライアントが生データを集中せずに共有モデルを共同でトレーニングすることを可能にし、固有のプライバシーレベルを提供する。
グラデーションとモデル更新は機密情報を漏洩する可能性があるが、悪意のあるサーバはビザンティン操作のような敵攻撃をマウントする可能性がある。
これらの脆弱性は、統合されたフレームワーク内の差分プライバシー(DP)とビザンチンの堅牢性に対処する必要性を強調している。
Byz-Clip21-SGD2Mを提案する。
論文 参考訳(メタデータ) (2026-03-24T17:39:09Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - FedAgg: Adaptive Federated Learning with Aggregated Gradients [1.5653612447564105]
我々はFedAggと呼ばれる適応型FEDerated Learningアルゴリズムを提案し、局所モデルパラメータと平均モデルパラメータのばらつきを緩和し、高速モデル収束率を得る。
IIDおよび非IIDデータセット下でのモデル性能の向上と収束速度の促進を目的として,本手法が既存のFL戦略よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-03-28T08:07:28Z) - Adaptive Federated Learning via New Entropy Approach [14.595709494370372]
Federated Learning (FL) は、分散機械学習フレームワークとして注目されている。
本稿では,不均一クライアント間のパラメータ偏差を軽減するために,entropy理論(FedEnt)に基づく適応型FEDerated Learningアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-03-27T07:57:04Z) - Federated Learning as Variational Inference: A Scalable Expectation
Propagation Approach [66.9033666087719]
本稿では,推論の視点を拡張し,フェデレート学習の変分推論の定式化について述べる。
我々は、FedEPを標準フェデレーション学習ベンチマークに適用し、収束速度と精度の両方において、強いベースラインを上回ります。
論文 参考訳(メタデータ) (2023-02-08T17:58:11Z) - Local Learning Matters: Rethinking Data Heterogeneity in Federated
Learning [61.488646649045215]
フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
論文 参考訳(メタデータ) (2021-11-28T19:03:39Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。