論文の概要: FedRAPP: Federated Test-Time Prompt Tuning for Vision-Language Models with Reliability-Aware Prompt Personalization
- arxiv url: http://arxiv.org/abs/2610.23705v1
- Date: Fri, 16 Oct 2026 16:29:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:08.021417
- Title: FedRAPP: Federated Test-Time Prompt Tuning for Vision-Language Models with Reliability-Aware Prompt Personalization
- Title(参考訳): FedRAPP:信頼性を考慮した視覚言語モデルのためのフェデレーションテストタイムプロンプトチューニング
- Abstract要約: フェデレートされたプロンプト学習により、CLIPのようなビジョン言語モデルは、生データを共有することなく、分散クライアント間で軽量なソフトプロンプトを協調的に適用することができる。
信頼性を意識したクライアントアセスメント,サーバサイドの指数的移動平均メモリ,類似性誘導型ピアアグリゲーションを組み合わせた,パーソナライズされたアグリゲーションフレームワークであるFedRAPPを提案する。
- 参考スコア(独自算出の注目度): 1.0547877411549829
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated prompt learning enables vision-language models like CLIP to collaboratively adapt lightweight soft prompts across distributed clients without sharing raw data. However, existing federated prompt learning methods are designed primarily for supervised settings with labeled client data and assumed relatively stable training distributions. At test time, source-free federated prompt tuning remains largely unexplored. Clients may receive unlabeled target samples with heterogeneous, often non-IID distributions that differ substantially across clients and from the source training distribution, causing locally adapted prompts to drift in different directions and reducing the effectiveness of federated aggregation. In this work, we explore Source-Free Federated Test-Time Prompt Tuning (SF-FTTPT), where distributed clients collaboratively adapt soft prompts on unlabeled test streams without access to source data. Our study reveals that conventional federated aggregation methods struggle under heterogeneous client distributions, as locally adapted prompts become increasingly specialized and difficult to combine effectively. To address this challenge, we propose FedRAPP, a personalized aggregation framework that combines reliability-aware client assessment, server-side exponential moving-average prompt memory, and similarity-guided peer aggregation. FedRAPP selectively incorporates information from reliable and compatible clients while preserving local specialization, enabling more robust adaptation under distribution shift. Extensive experiments across nine CLIP benchmark datasets and ImageNet variants demonstrate that FedRAPP consistently outperforms standard federated aggregation baselines under heterogeneous client distributions while maintaining the efficiency advantages of prompt-only adaptation.
- Abstract(参考訳): フェデレートされたプロンプト学習により、CLIPのようなビジョン言語モデルは、生データを共有することなく、分散クライアント間で軽量なソフトプロンプトを協調的に適用することができる。
しかし、既存のフェデレートされたプロンプト学習手法は、主にラベル付きクライアントデータによる教師付き設定のために設計されており、比較的安定したトレーニング分布を想定している。
テスト時には、ソースフリーのフェデレーションプロンプトチューニングはほとんど未検討のままである。
クライアントは、異種でしばしば非IID分布を持つ未ラベルのターゲットサンプルを受け取り、クライアントとソースのトレーニング分布とは大きく異なり、局所的に適応されたプロンプトが異なる方向にドリフトし、フェデレートされたアグリゲーションの有効性を低下させる。
本研究では、分散クライアントが、ソースデータにアクセスせずに、ラベルのないテストストリームにソフトプロンプトを協調的に適応する、ソースフリーフェデレーションテスト時間プロンプトチューニング(SF-FTTPT)について検討する。
本研究は, 地域適応型プロンプトが高度に専門化され, 効果的に組み合わせることが困難になる中で, 従来の統合アグリゲーション手法が不均一なクライアント分布の下で苦労していることを明らかにする。
この課題に対処するため、FedRAPPは、信頼性を意識したクライアントアセスメント、サーバサイドの指数的移動平均プロンプトメモリ、類似性誘導ピアアグリゲーションを組み合わせたパーソナライズされたアグリゲーションフレームワークである。
FedRAPPは、ローカルの特殊化を維持しながら、信頼性と互換性のあるクライアントからの情報を選択的に取り込み、分散シフトの下でより堅牢な適応を可能にする。
9つのCLIPベンチマークデータセットとImageNetの亜種にわたる大規模な実験により、FedRAPPは、プロンプトのみの適応の効率性を維持しながら、異種クライアントディストリビューションにおける標準のフェデレーションベースラインを一貫して上回っていることが示された。
関連論文リスト
- RIPPLE in Still Water: Zero-Shot Clustering in Federated Learning with Wavelet Scattering Transform [51.56484100374058]
クラスタ化されたフェデレートラーニング(FL)は、クライアントを同じローカル分布のグループに分割し、クラスタ毎に1つの特別なモデルを訓練する。
本稿では、各クライアントのローカルデータのスペクトル特性からクラスタ割り当てを完全にオフラインで計算するクラスタリングFLフレームワークであるRIPPLEを提案する。
論文 参考訳(メタデータ) (2026-10-02T09:35:39Z) - Choose Wisely and Privately: Proactive Client Selection for Fair and Efficient Federated Learning [0.9099663022952496]
Federated Learningは、データ転送なしで分散化されたデータソース間で協調的なモデルトレーニングを可能にする。
平均FLは、収束速度と最終モデルの精度に悪影響を及ぼす非IIDデータの存在によって制限される。
本稿では,学習開始前の有効性と公正性の要求に一致したクライアントの最適なフェデレーションを見つけることを目的とした,積極的なクライアント選択フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-20T10:00:33Z) - FERA: Uncertainty-Aware Federated Reasoning for Large Language Models [60.52562148874846]
我々は、サーバがプライベートなデモンストレーションを行う異種クライアントと協調することで、多段階推論を改善するフェデレーション推論について研究する。
重要な課題は、クライアントの信頼性がクエリ依存であるのに対して、サーバはクライアントデータを検査して、どのコントリビューションが信頼できるかを判断できません。
本稿では,サーバクライアントの反復的コリファインメントに基づくトレーニングフリーフレームワークである Uncertainty-Aware Federated Reasoning (FERA) を提案する。
論文 参考訳(メタデータ) (2026-05-11T07:04:51Z) - Aggregation Alignment for Federated Learning with Mixture-of-Experts under Data Heterogeneity [27.791732281031695]
大規模言語モデル(LLM)は、計算量を削減しつつモデルのキャパシティをスケールするために、Mixture-of-Experts (MoE)アーキテクチャを採用するようになっている。
これらのMoEベースのLPMを微調整するには、分散データとプライバシに敏感なデータにアクセスする必要があることが多いため、集中的な微調整は現実的ではない。
我々は、ルーティングの一貫性と専門的なセマンティックアライメントを共同で実施するフェデレーションアライメントアライメントアライメントフレームワークであるFedAlign-MoEを提案する。
論文 参考訳(メタデータ) (2026-03-22T15:07:39Z) - Federated Learning with Profile Mapping under Distribution Shifts and Drifts [13.33580160559305]
フェデレートラーニング(FL)は、生データを共有せずに、クライアント間で分散モデルトレーニングを可能にする。
既存の方法は、クライアント間の分散シフトと時間とともに分散のドリフトに対処できないことが多い。
クライアントやクラスタのアイデンティティに頼ることなく、分散シフトとドリフトの両方を明示的に処理する新しいFLフレームワークであるFeromaを紹介します。
論文 参考訳(メタデータ) (2026-02-07T19:31:50Z) - Latte: Collaborative Test-Time Adaptation of Vision-Language Models in Federated Learning [66.35456997311742]
事前学習された視覚言語モデルによるテスト時間適応は、テスト中の分散シフトに対処するために注目が集まっている。
既存のテスト時間適応法は通常、豊富なデータを持つ単一のドメイン用に設計されている。
本稿では,各クライアントがローカルメモリを保守し,それぞれの履歴テストデータから埋め込みを格納する新しいフレームワークであるLatteを提案する。
論文 参考訳(メタデータ) (2025-07-29T04:27:29Z) - Client-Centric Federated Adaptive Optimization [78.30827455292827]
Federated Learning(FL)は、クライアントが独自のデータをプライベートに保ちながら、協調的にモデルをトレーニングする分散学習パラダイムである。
本稿では,新しいフェデレーション最適化手法のクラスであるフェデレーション中心適応最適化を提案する。
論文 参考訳(メタデータ) (2025-01-17T04:00:50Z) - When to Trust Aggregated Gradients: Addressing Negative Client Sampling
in Federated Learning [41.51682329500003]
本稿では,各ラウンドにおける集約勾配に対するサーバ学習率を調整するための新しい学習率適応機構を提案する。
我々は、最適なサーバ学習率に肯定的な有意義で堅牢な指標を見つけるために、理論的な推論を行う。
論文 参考訳(メタデータ) (2023-01-25T03:52:45Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。