論文の概要: Improving Learning of New Diseases through Knowledge-Enhanced Initialization for Federated Adapter Tuning

• arxiv url: http://arxiv.org/abs/2508.10299v1
• Date: Thu, 14 Aug 2025 03:02:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-15 22:24:48.164952
• Title: Improving Learning of New Diseases through Knowledge-Enhanced Initialization for Federated Adapter Tuning
• Title（参考訳）: フェデレーションアダプタチューニングのための知識強化初期化による新しい疾患の学習改善
• Authors: Danni Peng, Yuan Wang, Kangning Cai, Peiyan Ning, Jiming Xu, Yong Liu, Rick Siow Mong Goh, Qingsong Wei, Huazhu Fu,
• Abstract要約: フェデレートラーニング(Federated Learning, FL)は、医療機関間のプライバシー保護コラボレーションを可能にする広く採用されているフレームワークである。 FedKEI(Federated Knowledge-Enhanced Initialization)は,クロスクライアントおよびクロスタスクを過去の知識から活用する新しいフレームワークである。 我々は,新しい疾患に適応する上でのFedKEIの利点を,最先端の方法と比較した。
• 参考スコア（独自算出の注目度）: 46.35292674650979
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In healthcare, federated learning (FL) is a widely adopted framework that enables privacy-preserving collaboration among medical institutions. With large foundation models (FMs) demonstrating impressive capabilities, using FMs in FL through cost-efficient adapter tuning has become a popular approach. Given the rapidly evolving healthcare environment, it is crucial for individual clients to quickly adapt to new tasks or diseases by tuning adapters while drawing upon past experiences. In this work, we introduce Federated Knowledge-Enhanced Initialization (FedKEI), a novel framework that leverages cross-client and cross-task transfer from past knowledge to generate informed initializations for learning new tasks with adapters. FedKEI begins with a global clustering process at the server to generalize knowledge across tasks, followed by the optimization of aggregation weights across clusters (inter-cluster weights) and within each cluster (intra-cluster weights) to personalize knowledge transfer for each new task. To facilitate more effective learning of the inter- and intra-cluster weights, we adopt a bi-level optimization scheme that collaboratively learns the global intra-cluster weights across clients and optimizes the local inter-cluster weights toward each client's task objective. Extensive experiments on three benchmark datasets of different modalities, including dermatology, chest X-rays, and retinal OCT, demonstrate FedKEI's advantage in adapting to new diseases compared to state-of-the-art methods.
• Abstract（参考訳）: 医療におけるフェデレーション・ラーニング(英: Federated Learning、FL)は、医療機関間のプライバシー保護コラボレーションを可能にする広く採用されている枠組みである。 大きな基礎モデル(FM)が印象的な能力を発揮しており、コスト効率のよいアダプタチューニングを通じてFLでFMを使うことが一般的なアプローチとなっている。 急速に発展する医療環境を考えると、個々のクライアントが過去の経験を描きながらアダプタをチューニングすることで、新しいタスクや病気に迅速に適応することが不可欠である。 本研究では,従来の知識からのクロスクライアントおよびクロスタスク転送を活用し,新しいタスクをアダプターで学習するための情報初期化を生成する新しいフレームワークであるFederated Knowledge-Enhanced Initialization (FedKEI)を紹介する。 FedKEIは、タスク間の知識を一般化するグローバルクラスタリングプロセスから始まり、その後、クラスタ間の集約重み(クラスタ間重み)とクラスタ内の各クラスタ内(クラスタ間重み)を最適化して、新しいタスクごとに知識伝達をパーソナライズする。 クラスタ間重みとクラスタ間重みのより効果的な学習を容易にするため,クライアント間のグローバルクラスタ間重みを協調的に学習し,各クライアントのタスク目標に対して局所クラスタ間重みを最適化するバイレベル最適化方式を採用した。 皮膚学、胸部X線、網膜OCTを含む3つの異なるモダリティのベンチマークデータセットに対する大規模な実験は、最先端の方法と比較して新しい疾患に適応する上でのFedKEIの利点を示している。

関連論文リスト

• Federated Client-tailored Adapter for Medical Image Segmentation [21.964553228831427]
  医用画像セグメンテーションのための新しいFCAフレームワークを提案する。 FCAは、機密なローカルデータを共有せずに、安定かつクライアントに適したセグメンテーションを実現する。 我々は、アダプタを共通コンポーネントと個別コンポーネントに適応的に分解する2つのクライアント調整されたフェデレーション更新戦略を開発する。
  論文  参考訳（メタデータ） (2025-04-25T02:20:25Z)
• UniFed: A Universal Federation of a Mixture of Highly Heterogeneous Medical Image Classification Tasks [5.563171090433323]
  われわれはUniFedを紹介した。UniFedは、あらゆる画像モダリティから病気を分類することを目的とした、普遍的なフェデレーション学習パラダイムである。 具体的には、ローカルモデルとグローバルモデルの両方を動的に調整することで、UniFedはクライアントとサーバの様々なタスク複雑さを考慮します。 我々は, 網膜, 病理組織学, 肝腫瘍の診断において, 精度, 通信コスト, コンバージェンス時間に比較して, フレームワークの優位性を実証した。
  論文  参考訳（メタデータ） (2024-07-29T23:15:15Z)
• MH-pFLGB: Model Heterogeneous personalized Federated Learning via Global Bypass for Medical Image Analysis [14.298460846515969]
  我々は,公共データセットへの依存を緩和し,非IIDデータ分散の複雑さをナビゲートするために,グローバルバイパス戦略を利用する新しいアプローチであるMH-pFLGBを導入する。 本手法は,クライアント間で情報を共有するグローバルバイパスモデルを統合することで,従来のフェデレーション学習を強化し,各クライアントの性能を高めるネットワークの一部として機能する。
  論文  参考訳（メタデータ） (2024-06-29T15:38:37Z)
• An Element-Wise Weights Aggregation Method for Federated Learning [11.9232569348563]
  フェデレートラーニングのための革新的要素量集約法(EWWA-FL)を提案する。 EWWA-FLは、個々の要素のレベルでグローバルモデルに局所的な重みを集約し、各クライアントが学習プロセスに要素的に貢献することを可能にする。 各クライアントのユニークなデータセット特性を考慮して、EWWA-FLはグローバルモデルの堅牢性を異なるデータセットに拡張する。
  論文  参考訳（メタデータ） (2024-04-24T15:16:06Z)
• FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup for Non-IID Data [54.81695390763957]
  フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。 我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。 クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
  論文  参考訳（メタデータ） (2023-09-18T12:35:05Z)
• Learnable Weight Initialization for Volumetric Medical Image Segmentation [66.3030435676252]
  本稿では,学習可能な重みに基づくハイブリッド医療画像セグメンテーション手法を提案する。 我々のアプローチはどんなハイブリッドモデルにも簡単に統合でき、外部のトレーニングデータを必要としない。 多臓器・肺がんセグメンテーションタスクの実験は、我々のアプローチの有効性を実証している。
  論文  参考訳（メタデータ） (2023-06-15T17:55:05Z)
• On the Convergence of Clustered Federated Learning [57.934295064030636]
  統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。 本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-02-13T02:39:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。