論文の概要: On the Effectiveness of Adaptation Strategies for VLM-Based Federated Learning in Remote Sensing
- arxiv url: http://arxiv.org/abs/2608.04791v1
- Date: Wed, 05 Aug 2026 12:57:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.929633
- Title: On the Effectiveness of Adaptation Strategies for VLM-Based Federated Learning in Remote Sensing
- Title(参考訳): 遠隔センシングにおけるVLMに基づくフェデレーション学習における適応戦略の有効性について
- Authors: Simon Lösche, Barış Büyüktaş, Mathis Adler, Angelos Zavras, Ioannis Papoutsis, Begüm Demir,
- Abstract要約: フェデレートラーニング(FL)は、データ集中化を必要とせずに、分散化されたイメージアーカイブ間でディープラーニングモデルの協調トレーニングを可能にする。
クライアント間でのトレーニングデータの不均一性(非IIDデータとして知られる)の存在は収束を妨げる。
一般化能力と通信・計算制約のバランスをとる適切なVLM適応戦略を選択することが重要である。
- 参考スコア(独自算出の注目度): 7.060465634216585
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) enables collaborative training of deep learning models across decentralized image archives without requiring data centralization. This paradigm is particularly relevant in remote sensing (RS), where legal regulations, privacy concerns, and bandwidth constraints restrict data sharing. However, the presence of training data heterogeneity across clients (known as non-IID data) can impede convergence and limit the generalization capability of the aggregated global model. To mitigate the adverse effects of training data heterogeneity, vision-language models (VLMs) can be leveraged in FL due to their transferable representations, which have demonstrated robustness under distribution shifts. However, their large parameter size may substantially increase communication overhead and local computational complexity in federated settings. Therefore, it is crucial to select an appropriate VLM adaptation strategy that balances the generalization ability with the communication and computational constraints. To address this issue, in this paper, we present the first comparative study of VLM adaptation strategies for FL in the context of RS image classification. We investigate full fine-tuning, encoder-specific fine-tuning, prompt learning, and low-rank adaptation (LoRA) tuning, and analyze them with respect to three criteria: 1) generalization capability under non-IID data, 2) communication overhead, and 3) local computational complexity. Experiments on BigEarthNet-S2, EuroSAT, RESISC45, and ImageNet reveal distinct trade-offs between task specialization, cross-domain generalization, and efficiency. Based on our findings, we derive a guideline for the selection of an appropriate VLM adaptation strategy in FL for RS image classification under different operational constraints. The code of this work is publicly available at https://git.tu-berlin.de/rsim/FL-RS-VLM.
- Abstract(参考訳): フェデレートラーニング(FL)は、データ集中化を必要とせずに、分散化されたイメージアーカイブ間でディープラーニングモデルの協調トレーニングを可能にする。
このパラダイムは、法的規制、プライバシー上の懸念、帯域幅制限がデータ共有を制限するリモートセンシング(RS)に特に関係している。
しかし、クライアント間でのトレーニングデータの不均一性(非IIDデータとして知られる)の存在は、収束を妨げ、集約されたグローバルモデルの一般化能力を制限する。
トレーニングデータの不均一性による悪影響を軽減するため、視覚言語モデル(VLM)は、分布シフト下で頑健性を示す、転送可能な表現のためにFLで活用することができる。
しかし、その大きなパラメータサイズは、フェデレートされた設定における通信オーバーヘッドと局所的な計算複雑性を大幅に増加させる可能性がある。
したがって、一般化能力と通信および計算制約のバランスをとる適切なVLM適応戦略を選択することが重要である。
この問題に対処するため,本論文では,RS画像分類におけるFLのVLM適応戦略に関する最初の比較研究について述べる。
完全微調整,エンコーダ固有の微調整,迅速な学習,低ランク適応(LoRA)チューニングについて検討し,その3つの基準について分析する。
1)非IIDデータに基づく一般化能力
2【通信のオーバーヘッド】
3)局所的な計算複雑性。
BigEarthNet-S2、EuroSAT、RESISC45、ImageNetの実験は、タスクの特殊化、クロスドメインの一般化、効率の明確なトレードオフを明らかにした。
本研究は,異なる操作制約下でのRS画像分類のためのFLにおいて,適切なVLM適応戦略を選択するためのガイドラインを導出する。
この作業のコードはhttps://git.tu-berlin.de/rsim/FL-RS-VLMで公開されている。
関連論文リスト
- Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
VLM(Vision-Language Models)は、医療や金融といったプライバシに敏感な分野において大きな可能性を秘めている。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを組み合わせた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化とクロスクライアント適応性において、フェデレートされたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-05-05T07:02:50Z) - Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。
近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。
我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
論文 参考訳(メタデータ) (2026-04-01T14:32:15Z) - Federated Vision Transformer with Adaptive Focal Loss for Medical Image Classification [8.412980809680471]
Vision Transformer (ViT)のようなディープラーニングモデルは、一般的に大規模なデータセットを必要とする。
フェデレートラーニング(FL)は、データ交換なしでグローバルモデルアグリゲーションを可能にすることで、この問題に対処する。
本研究では,動的適応焦点損失(DAFL)と局所学習のためのクライアント認識集約戦略を活用するFLフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-02T04:47:33Z) - Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。
ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。
MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-01-31T03:11:51Z) - Communication-Efficient Federated Learning Based on Explanation-Guided Pruning for Remote Sensing Image Classification [2.725507329935916]
Federated Learning(FL)は、複数のクライアントが協力してグローバルモデルをトレーニングする分散機械学習パラダイムである。
クライアントと中央サーバの間で送信されるモデル更新の量が多いため、ほとんどのFLシステムは高い転送コストを伴っている。
本稿では、RS画像分類の文脈において、通信効率の高いFLのための説明誘導型プルーニング戦略を提案する。
論文 参考訳(メタデータ) (2025-01-20T13:59:41Z) - FedRSClip: Federated Learning for Remote Sensing Scene Classification Using Vision-Language Models [23.830133838392964]
本稿では,VLM,特にCLIPに基づくリモートセンシング画像分類のための最初のフェデレーション学習フレームワークであるFedRSCLIPを提案する。
FedRSCLIPは、Prompt Learningを導入することで、フェデレーション環境におけるデータ不均一性と大規模モデル伝送の課題に対処する。
提案モデルの有効性を検証するため,既存の3つのリモートセンシング画像分類データセットに基づいてFed-RSICデータセットを構築した。
論文 参考訳(メタデータ) (2025-01-05T07:10:27Z) - Transformer-based Federated Learning for Multi-Label Remote Sensing Image Classification [2.3255040478777755]
各種クライアントにおける非IIDトレーニングデータに関連する課題に対処するために,最先端のトランスフォーマーアーキテクチャが適用可能であるかを検討する。
トランスフォーマーアーキテクチャは、局所的なトレーニングと集約の複雑さの増大により、能力を高める。
論文 参考訳(メタデータ) (2024-05-24T10:13:49Z) - Unlocking the Potential of Prompt-Tuning in Bridging Generalized and
Personalized Federated Learning [49.72857433721424]
Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。
本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
論文 参考訳(メタデータ) (2023-10-27T17:22:09Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - FedPD: A Federated Learning Framework with Optimal Rates and Adaptivity
to Non-IID Data [59.50904660420082]
フェデレートラーニング(FL)は、分散データから学ぶための一般的なパラダイムになっています。
クラウドに移行することなく、さまざまなデバイスのデータを効果的に活用するために、Federated Averaging(FedAvg)などのアルゴリズムでは、"Computation then aggregate"(CTA)モデルを採用している。
論文 参考訳(メタデータ) (2020-05-22T23:07:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。