論文の概要: Prompt-based Personalized Federated Learning for Medical Visual Question
Answering
- arxiv url: http://arxiv.org/abs/2402.09677v1
- Date: Thu, 15 Feb 2024 03:09:54 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-16 17:19:02.156559
- Title: Prompt-based Personalized Federated Learning for Medical Visual Question
Answering
- Title(参考訳): 医用視覚質問応答のためのプロンプトに基づく個人化フェデレーション学習
- Authors: He Zhu, Ren Togo, Takahiro Ogawa, Miki Haseyama
- Abstract要約: 本稿では,データの不均一性とプライバシの懸念に対処するための,新しいプロンプトベースのパーソナライズド・フェデレーション・ラーニング(pFL)手法を提案する。
我々は、異なる臓器からの医療データセットをクライアントとみなし、各クライアントに対してパーソナライズされたトランスフォーマーベースのVQAモデルをトレーニングするためにpFLを使用する。
- 参考スコア(独自算出の注目度): 56.002377299811656
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a novel prompt-based personalized federated learning (pFL) method
to address data heterogeneity and privacy concerns in traditional medical
visual question answering (VQA) methods. Specifically, we regard medical
datasets from different organs as clients and use pFL to train personalized
transformer-based VQA models for each client. To address the high computational
complexity of client-to-client communication in previous pFL methods, we
propose a succinct information sharing system by introducing prompts that are
small learnable parameters. In addition, the proposed method introduces a
reliability parameter to prevent the negative effects of low performance and
irrelevant clients. Finally, extensive evaluations on various heterogeneous
medical datasets attest to the effectiveness of our proposed method.
- Abstract(参考訳): 本稿では,従来の医用視覚質問応答法(VQA)におけるデータ不均一性とプライバシー問題に対処する,プロンプトベースのパーソナライズド・フェデレーション・ラーニング(pFL)手法を提案する。
具体的には、異なる臓器からの医療データセットをクライアントとみなし、各クライアントに対してパーソナライズされたトランスフォーマーベースのVQAモデルをトレーニングするためにpFLを使用する。
従来のpFL手法におけるクライアント間通信の計算複雑性に対処するため,学習可能なパラメータの少ないプロンプトを導入し,簡潔な情報共有システムを提案する。
さらに,低性能および無関係なクライアントの負の効果を防止するための信頼性パラメータを提案する。
最後に, 各種異種医療データセットの広範な評価により, 提案手法の有効性が確認された。
関連論文リスト
- Which Client is Reliable?: A Reliable and Personalized Prompt-based Federated Learning for Medical Image Question Answering [51.26412822853409]
本稿では,医学的視覚的質問応答(VQA)モデルのための,パーソナライズド・フェデレーションド・ラーニング(pFL)手法を提案する。
提案手法では,学習可能なプロンプトをTransformerアーキテクチャに導入し,膨大な計算コストを伴わずに,多様な医療データセット上で効率的にトレーニングする。
論文 参考訳(メタデータ) (2024-10-23T00:31:17Z) - Client-Level Differential Privacy via Adaptive Intermediary in Federated
Medical Imaging [33.494287036763716]
プライバシ保護とパフォーマンスの差分プライバシ(DP)のトレードオフは、現実の医療シナリオではいまだ検討されていない。
本稿では,コミュニケーションにおけるプライバシを重視したクライアントレベルのDPのコンテキスト下でのトレードオフを最適化することを提案する。
プライバシを損なうことなくパフォーマンスを向上させるための適応型仲介手法を提案する。
論文 参考訳(メタデータ) (2023-07-24T06:12:37Z) - Personalized Federated Learning under Mixture of Distributions [98.25444470990107]
本稿では,ガウス混合モデル(GMM)を用いたPFL(Personalized Federated Learning)を提案する。
FedGMMはオーバーヘッドを最小限に抑え、新しいクライアントに適応する付加的なアドバンテージを持ち、不確実な定量化を可能にします。
PFL分類と新しいサンプル検出の両方において, 合成データセットとベンチマークデータセットの実証評価により, 提案手法の優れた性能を示した。
論文 参考訳(メタデータ) (2023-05-01T20:04:46Z) - HPN: Personalized Federated Hyperparameter Optimization [41.587553874297676]
我々は、パーソナライズされたハイパーパラメータ最適化(pFedHPO)の2つの課題に対処する。
指数関数的に増加する検索スペースを扱い、データのプライバシーを損なうことなく、各クライアントを特徴付ける。
我々は、クライアントエンコーディングを施したtextscHypertextscParameter textscNetwork (HPN) を学習し、パーソナライズされたハイパーパラメータを決定する。
論文 参考訳(メタデータ) (2023-04-11T13:02:06Z) - SPeC: A Soft Prompt-Based Calibration on Performance Variability of
Large Language Model in Clinical Notes Summarization [50.01382938451978]
本稿では,ソフトプロンプトを用いたモデルに依存しないパイプラインを導入し,確率に基づく要約の利点を保ちながら分散を減少させる。
実験結果から,本手法は性能を向上するだけでなく,様々な言語モデルの分散を効果的に抑制することが明らかとなった。
論文 参考訳(メタデータ) (2023-03-23T04:47:46Z) - Improving Privacy-Preserving Vertical Federated Learning by Efficient Communication with ADMM [62.62684911017472]
フェデレートラーニング(FL)により、デバイスは共有モデルを共同でトレーニングし、トレーニングデータをプライバシ目的でローカルに保つことができる。
マルチヘッド(VIM)を備えたVFLフレームワークを導入し、各クライアントの別々のコントリビューションを考慮に入れます。
VIMは最先端技術に比べて性能が著しく向上し、収束が速い。
論文 参考訳(メタデータ) (2022-07-20T23:14:33Z) - A Differentially Private Probabilistic Framework for Modeling the
Variability Across Federated Datasets of Heterogeneous Multi-View
Observations [4.511923587827301]
我々のフレームワークは、潜在マスターの分布とクライアントのパラメータよりも期待(EM)によって効果的に最適化できることを示す。
アルツハイマー病に罹患した患者の臨床データから, マルチモーダル・メディカル・イメージング・データの解析と臨床成績について検討した。
論文 参考訳(メタデータ) (2022-04-15T07:20:47Z) - Inverse Distance Aggregation for Federated Learning with Non-IID Data [48.48922416867067]
近年,フェデレートラーニング(FL)は医用画像の分野で有望なアプローチである。
FLにおける重要な問題は、特に医療シナリオにおいて、ノイズの多い分散クライアントやアウトオブディストリビューションクライアントに対して堅牢な、より正確な共有モデルを持つことである。
非平衡データと非IDデータを扱うメタ情報に基づく新しい適応重み付け手法であるIDAを提案する。
論文 参考訳(メタデータ) (2020-08-17T23:20:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。