Fugu-MT 論文翻訳(概要): Decoupled Training with Local Reinforcement Fine-Tuning in Federated Learning

論文の概要: Decoupled Training with Local Reinforcement Fine-Tuning in Federated Learning

arxiv url: http://arxiv.org/abs/2605.27900v1
Date: Wed, 27 May 2026 03:21:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-28 17:38:55.713724
Title: Decoupled Training with Local Reinforcement Fine-Tuning in Federated Learning
Title（参考訳）: フェデレーションラーニングにおける局所強化ファインチューニングによるデカップリングトレーニング
Authors: Yuting Ma, Lechao Cheng, Xiaohua Xu,
Abstract要約: 事前訓練されたビジョンランゲージモデル(VLM)によるフェデレートラーニングは、様々な下流タスクにおいて有望なパラダイムとして現れている。我々は、クライアントとサーバ間で画像エンコーダとテキストエンコーダを分離する新しいフェデレーションVLMフレームワークであるFedDTLを提案する。
参考スコア（独自算出の注目度）: 21.86061950516768
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Federated Learning (FL) with pre-trained Vision-Language Models (VLMs) has emerged as a promising paradigm for various downstream tasks. By leveraging its strong representations, recent studies improve task adaptation under insufficient local data while preserving generalization. However, these methods emphasize fully local optimization with simple parameter aggregation,which can amplify inter-client optimization inconsistency and intra-client over-specialization under heterogeneous and full-data FL settings, making it difficult to balance global task adaptation and generalization. To address these challenges, we propose FedDTL, a novel federated VLM framework that decouples the image encoder and text encoder across clients and the server. Through decoupled encoder training with server-client modality alignment, FedDTL promotes coherent global semantic update and reduces inter-client optimization inconsistency, improving global task adaptation.To further mitigate intra-client over-specialization,we introduce a two-stage local fine-tuning, where a supervised fine-tuning stage enables rapid and reliable warm-start, followed by a reinforcement learning stage that enhances generalization. Extensive experiments on multiple benchmarks, including label skew and feature shift, demonstrate that FedDTL achieves an effective balance between global task adaptation and generalization under various FL data distributions in both few-shot and full-data regimes.
Abstract（参考訳）: フェデレートラーニング(FL)とVLM(Verated Vision-Language Models)は、様々な下流タスクにおいて有望なパラダイムとして登場した。近年の研究では、その強い表現を活用して、一般化を維持しながら、不十分なローカルデータの下でのタスク適応を改善している。しかし,これらの手法では,パラメータアグリゲーションによる完全局所最適化が重要であり,不均一かつ全データFL設定下でのクライアント間最適化の不整合とクライアント間オーバースペシャライゼーションを増幅し,グローバルなタスク適応と一般化のバランスをとるのが困難である。これらの課題に対処するために、クライアントとサーバ間で画像エンコーダとテキストエンコーダを分離する新しいフェデレーションVLMフレームワークであるFedDTLを提案する。サーバ側モードアライメントによるデカップリングエンコーダトレーニングを通じて、一貫性のあるグローバルセマンティックアップデートを促進し、クライアント間最適化の不整合を低減し、グローバルタスク適応を改善し、さらにクライアント間オーバースペクタライゼーションを緩和するために、2段階の局所微調整を導入する。ラベルスキューや特徴シフトを含む複数のベンチマークにおいて、FedDTLは、多種多様なFLデータ分布におけるグローバルタスク適応と一般化の効果的なバランスを、少数ショットとフルデータの両方で達成することを示した。

関連論文リスト

Separate Aggregation of Split Network for Personalized Federated Learning [0.9668407688201359]
フェデレーション学習は、不均一なクライアントデータ分散の下で大幅に劣化する可能性がある。我々は、パーソナライズされたフェデレーション学習フレームワークであるPGFedSplitを提案する。 Fashion MNIST、CIFAR 10、CIFAR 100、Tiny ImageNetの実験では、アートPFL手法の状態を一貫した改善が示されている。
論文参考訳（メタデータ） (2026-05-26T05:44:30Z)
Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。 FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文参考訳（メタデータ） (2026-02-01T05:54:59Z)
Modality Alignment Meets Federated Broadcasting [9.752555511824593]
フェデレートラーニング(FL)は、ローカルデータを集中化せずに、分散エッジデバイス間でモデルをトレーニングすることで、データのプライバシを保護する強力なアプローチとして登場した。本稿では,テキストエンコーダをサーバ上に配置し,画像エンコーダをローカルデバイス上で動作させる,モダリティアライメントを利用した新しいFLフレームワークを提案する。
論文参考訳（メタデータ） (2024-11-24T13:30:03Z)
FedEGG: Federated Learning with Explicit Global Guidance [90.04705121816185]
フェデレートラーニング(FL)は、そのプライバシー保護の性質から、多様なアプリケーションにとって大きな可能性を秘めている。既存の手法は、最適化ベースのクライアント制約、適応的なクライアント選択、事前訓練されたモデルや合成データの使用によってこれらの課題に対処するのに役立つ。我々はbftextFedEGGを提案する。bftextFedEGGは、よく定義された、容易に収束できる学習タスクを用いて、グローバルガイドタスクを構築する新しいFLアルゴリズムである。
論文参考訳（メタデータ） (2024-04-18T04:25:21Z)
Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。本稿では,FedInsという新しいFLアルゴリズムを提案する。我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文参考訳（メタデータ） (2023-08-11T09:58:47Z)
Federated Learning for Semantic Parsing: Task Formulation, Evaluation Setup, New Algorithms [29.636944156801327]
複数のクライアントは、セマンティック解析データを共有せずに、1つのグローバルモデルを協調的にトレーニングする。 Lorarは、各ラウンド中のトレーニング損失の削減に基づいて、グローバルモデル更新に対する各クライアントのコントリビューションを調整する。より小さなデータセットを持つクライアントは、より大きなパフォーマンス向上を享受する。
論文参考訳（メタデータ） (2023-05-26T19:25:49Z)
Dynamic Regularized Sharpness Aware Minimization in Federated Learning: Approaching Global Consistency and Smooth Landscape [59.841889495864386]
フェデレートラーニング(FL)では、グローバルサーバの協調の下で、ローカルクライアントのクラスタがチェアリングされる。クライアントは自身のオプティマに過度に適合する傾向にあり、グローバルな目標から非常に逸脱する。 tt Family FedSMOOは、グローバルな目的に対する局所的な最適性を保証するために動的正規化器を採用する。理論解析により, tt Family FedSMOO は, 低境界一般化による高速$mathcalO (1/T)$収束率を達成することが示された。
論文参考訳（メタデータ） (2023-05-19T10:47:44Z)
Neural Collapse Inspired Federated Learning with Non-iid Data [31.576588815816095]
非独立かつ同一に分散された(非ID)特性は、ローカル更新に大きな違いをもたらし、中央サーバの性能に影響する。神経崩壊の現象にインスパイアされた私たちは、各クライアントを最適なグローバル構造に最適化するよう強制する。提案手法は, 異なるサイズのデータセット上での収束速度を高速化して, 性能を向上することができる。
論文参考訳（メタデータ） (2023-03-27T05:29:53Z)
Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring [104.19414150171472]
属性は、クライアント間の一貫した最適化方向から、現在の連邦学習(FL)フレームワークを歪めます。本稿では,ドメイン固有属性とクロス不変属性を2つの補足枝に分離するために,非絡み付きフェデレーション学習(DFL)を提案する。実験により、DFLはSOTA FL法と比較して高い性能、より良い解釈可能性、より高速な収束率でFLを促進することが確認された。
論文参考訳（メタデータ） (2022-06-14T13:12:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。