論文の概要: FedOPAL: One-Shot Federated Learning via Analytic Visual Prompt Tuning
- arxiv url: http://arxiv.org/abs/2607.08368v1
- Date: Thu, 09 Jul 2026 11:28:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.509504
- Title: FedOPAL: One-Shot Federated Learning via Analytic Visual Prompt Tuning
- Title（参考訳）: FedOPAL: 分析的ビジュアルプロンプトチューニングによるワンショットフェデレーション学習
- Abstract要約: 本稿では,エッジ上の大規模モデルの効率的な協調のためのフレームワークを提案する。
FedOPALは特徴プロンプトとして視覚的プロンプトに適応し、不均一なデータの特徴分布を線形に分離可能な空間に積極的に修正する。
実験結果から,FedOPALはいくつかのベンチマークにおいて,従来の解析手法よりも優れているだけでなく,サーバ側のトレーニングコストのゼロを維持しつつ,最先端の反復手法に匹敵する精度を達成できることがわかった。
- 参考スコア（独自算出の注目度）: 5.979900839748232
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the widespread deployment of basic models in edge intelligence, communication bandwidth has become a core bottleneck restricting the scalability of federated learning. Although one-shot federated learning alleviates this problem by minimizing communication rounds, existing iterative fine-tuning or knowledge distillation methods still face challenges such as high server-side computational costs and hyperparameter sensitivity. Analytical federated learning achieves efficient gradientfree aggregation using least-squares closed-form solutions, but in environments with non-independent and identically distributed data, its static feature assumptions fail, leading to feature manifold misalignment and severely impairing model performance. To address this contradiction, this paper proposes the FedOPAL framework. This framework adapts the visual prompts as feature rectifiers, actively correcting the feature distribution of heterogeneous data to a linearly separable space by applying local proximal constraints, thereby satisfying the theoretical assumptions of analytical federated learning. Experimental results show that FedOPAL not only significantly outperforms the original analytical methods on several benchmarks, but also achieves accuracy comparable to state-of-the-art iterative methods while maintaining zero server-side training costs, providing a new engineering paradigm for efficient collaboration of large models on the edge.
- Abstract（参考訳）: エッジインテリジェンスにおける基本モデルの普及により、コミュニケーションの帯域幅は、フェデレートされた学習のスケーラビリティを制限する中核的なボトルネックとなっている。
ワンショットフェデレーション学習は、通信ラウンドを最小化することでこの問題を軽減するが、既存の反復微調整法や知識蒸留法は、サーバ側の計算コストやハイパーパラメータ感度などの課題に直面している。
解析的フェデレート学習は、最小二乗閉形式解を用いて効率的な勾配のない集約を実現するが、非独立で同一の分散データを持つ環境では、その静的な特徴仮定が失敗し、特徴多様体の不整合と深刻なモデル性能を損なう。
この矛盾に対処するため,本稿ではFedOPALフレームワークを提案する。
この枠組みは、特徴整形器として視覚的プロンプトを適応させ、局所的近位制約を適用して、不均一データの特徴分布を線形的に分離可能な空間に積極的に補正し、解析的フェデレート学習の理論的仮定を満たす。
実験結果から,FedOPALはいくつかのベンチマークにおいて,従来の解析手法よりも優れているだけでなく,サーバ側のトレーニングコストのゼロを維持しつつ,最先端の反復手法に匹敵する精度を達成し,エッジ上の大規模モデルの効率的なコラボレーションのための新たなエンジニアリングパラダイムを提供することがわかった。
関連論文リスト
- Focus When Necessary: Adaptive Routing and Collaborative Grounding for Training-Free Visual Grounding [56.38477453373368]
LazyMCoTは動的でトレーニング不要なフレームワークで、サンプルの難易度に基づいて視覚的接地作業を適応的に割り当てる。
LazyMCoTは、推論精度を同時に改善し、平均推論レイテンシを低減することで、トレーニングベースのアプローチと競合する。
論文 参考訳（メタデータ） (2026-06-15T03:17:44Z) - Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳（メタデータ） (2026-02-01T05:54:59Z) - Rethinking Federated Graph Foundation Models: A Graph-Language Alignment-based Approach [8.517604507672262]
フェデレーショングラフ基礎モデル(FedGFMs)の最近の研究は、グラフ基礎モデルを訓練するために集中的なデータストレージを持つという理想的かつ持続不可能な仮定を破っている。
ベクトル量子化されたバックボーンを経由した離散トークン空間上の一般化可能な知識が、量子化過程中に不可逆的な知識損失に悩まされるという研究は、現存する。
論文 参考訳（メタデータ） (2026-01-29T07:50:00Z) - Closing the Generalization Gap in Parameter-efficient Federated Edge Learning [43.00634399799955]
フェデレーションエッジラーニング(FEEL)は人工知能(AI)のための有望な基盤を提供する
限定的で異種なローカルデータセット、およびリソース制限されたデプロイメントは、モデル一般化とリソース利用の両方を著しく低下させる。
本稿では,モデル最小化と一般化選択を併用して,このような課題に対処するフレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-28T15:34:09Z) - Distributionally Robust Federated Learning with Outlier Resilience [8.69285602685459]
本研究では, 分散的頑健なフェデレーション学習について, 明確な外部レジリエンスを用いて検討した。
我々は、ロバスト性証明を許容するトラクタブルなラグランジアンペナルティ最適化として問題を再構築する。
この改革に基づいて,分散外乱フェデレーション学習アルゴリズムを提案し,その収束保証を確立する。
論文 参考訳（メタデータ） (2025-09-29T08:42:12Z) - Decoupled Contrastive Learning for Federated Learning [0.0]
Decoupled Contrastive Learning for Federated Learning (DCFL)を紹介する。
DCFLは、既存の対照的な損失を2つの目的に分離する、新しいフレームワークである。
以上の結果から,DCFLは正試料間の配向が強く,負試料間の一様性が高いことがわかった。
論文 参考訳（メタデータ） (2025-08-06T01:39:54Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-04-17T08:32:25Z) - Every Parameter Matters: Ensuring the Convergence of Federated Learning
with Dynamic Heterogeneous Models Reduction [22.567754688492414]
クロスデバイス・フェデレーション・ラーニング(FL)は、ユニークなコントリビューションを行う可能性のあるローエンドのクライアントが、リソースのボトルネックのため、大規模なモデルのトレーニングから除外されるという、大きな課題に直面します。
近年,グローバルモデルから縮小サイズのモデルを抽出し,それに応じてローカルクライアントに適用することによって,モデル不均一FLに焦点を当てている。
本稿では,オンラインモデル抽出を用いた不均一FLアルゴリズムの一元化フレームワークを提案し,一般収束解析を初めて提供する。
論文 参考訳（メタデータ） (2023-10-12T19:07:58Z) - Personalizing Federated Learning with Over-the-Air Computations [84.8089761800994]
フェデレートされたエッジ学習は、プライバシー保護の方法で無線ネットワークのエッジにインテリジェンスをデプロイする、有望な技術である。
このような設定の下で、複数のクライアントは、エッジサーバの調整の下でグローバルジェネリックモデルを協調的にトレーニングする。
本稿では,アナログオーバー・ザ・エア計算を用いて通信ボトルネックに対処する分散トレーニングパラダイムを提案する。
論文 参考訳（メタデータ） (2023-02-24T08:41:19Z) - DRFLM: Distributionally Robust Federated Learning with Inter-client
Noise via Local Mixup [58.894901088797376]
連合学習は、生データをリークすることなく、複数の組織のデータを使用してグローバルモデルをトレーニングするための有望なアプローチとして登場した。
上記の2つの課題を同時に解決するための一般的な枠組みを提案する。
我々は、ロバストネス解析、収束解析、一般化能力を含む包括的理論的解析を提供する。
論文 参考訳（メタデータ） (2022-04-16T08:08:29Z) - Learning while Respecting Privacy and Robustness to Distributional
Uncertainties and Adversarial Data [66.78671826743884]
分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。
目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。
提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
論文 参考訳（メタデータ） (2020-07-07T18:25:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。