論文の概要: FedSSMCoOp: SSM Encoders for light-weight Federated Prompt Learning for Few-shot Classification
- arxiv url: http://arxiv.org/abs/2610.09907v1
- Date: Wed, 07 Oct 2026 12:00:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.895519
- Title: FedSSMCoOp: SSM Encoders for light-weight Federated Prompt Learning for Few-shot Classification
- Title(参考訳): FedSSMCoOp: ファウショット分類のための軽量フェデレート・プロンプト学習用SSMエンコーダ
- Abstract要約: FedSSMCoOpは、データのプライバシを保持しながらマルチモーダル学習を可能にする、数ショットの画像分類フレームワークである。
提案したフレームワークはベースラインに対して安定したパフォーマンスを提供し、平均して1.96倍軽量である。
- 参考スコア(独自算出の注目度): 17.621069682010532
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-Language Models (VLMs) have shown strong performance across a wide range of downstream vision tasks, thanks to the complementary information contained in the respective domains. Despite the performance gains, most of these approaches rely on aligning these domains using the cosine similarity metric, which fails to capture token-level structure and cross-modal interactions prior to the classification stage. This is especially critical in biomedical applications under federated constraints, where data sharing is restricted, labeled data is scarce at each site, and it differs widely across institutions, leading to substantial statistical heterogeneity. To overcome this issue, we propose FedSSMCoOp, a federated few-shot image classification framework that enables multimodal learning while preserving data privacy. With the help of the SSM-based Vision Mamba and Cross Mamba blocks, and by optimizing only the soft-prompt and communication-prompt updates in the federated setting, the framework prioritizes both computation and performance. Importantly, this eliminates the need to use an external Large Language Model (LLM) for feature alignment. The framework is further trained and evaluated on various biomedical image datasets, and its performance is assessed. The proposed framework delivers stable performance relative to the baselines and is, on average, 1.96 times lighter. The corresponding script will be made available soon.
- Abstract(参考訳): VLM(Vision-Language Models)は、各ドメインに含まれる補完的な情報のおかげで、幅広い下流の視覚タスクにおいて高いパフォーマンスを示している。
性能向上にもかかわらず、これらのアプローチのほとんどはコサイン類似度メートル法を用いてこれらの領域を整列させることに依存しており、これは分類段階の前にトークンレベルの構造とクロスモーダル相互作用を捉えるのに失敗する。
これは、データ共有が制限され、ラベル付きデータが各サイトにおいて不足し、機関間で広く異なるため、実質的な統計的不均一性をもたらす、連合的な制約の下での生体医学的応用において特に重要である。
この問題を解決するためにFedSSMCoOpを提案する。FedSSMCoOpは、データプライバシを保ちながらマルチモーダル学習を可能にする、フェデレートされた数ショット画像分類フレームワークである。
SSMベースのVision MambaとCross Mambaブロックの助けを借り、フェデレートされた設定におけるソフトプロンプトと通信プロンプトの更新だけを最適化することで、フレームワークは計算と性能の両方を優先する。
重要なことは、機能アライメントに外部のLarge Language Model(LLM)を使用する必要がなくなることだ。
このフレームワークは、様々な生体画像データセットに基づいてさらに訓練され、評価され、その性能が評価される。
提案したフレームワークはベースラインに対して安定したパフォーマンスを提供し、平均して1.96倍軽量である。
対応するスクリプトは近く公開される予定だ。
関連論文リスト
- Toward Federated Multimodal Graph Foundation Models: A Topology-Aware Multimodal Alignment Framework [35.35423006939282]
FedGAMMAは2段階のセマンティック構造アライメント問題として、フェデレーション付きマルチモーダルグラフ基礎学習を論じている。
事前学習中、共有プライベートなセマンティックエンハンサーは、モダリティ固有の情報からモダリティ間の共通性を切り離す。
微調整の間、FedGAMMAは軽量なグラフ認識プロンプトを通じて事前訓練されたエンコーダに適応する。
論文 参考訳(メタデータ) (2026-07-17T06:57:41Z) - FAIM: Frequency-Aware Interactive Mamba for Time Series Classification [87.84511960413715]
時系列分類(TSC)は、環境モニタリング、診断、姿勢認識など、多くの実世界の応用において重要である。
本稿では,周波数対応対話型マンバモデルであるFAIMを提案する。
FAIMは既存の最先端(SOTA)手法を一貫して上回り、精度と効率のトレードオフが優れていることを示す。
論文 参考訳(メタデータ) (2025-11-26T08:36:33Z) - Semantic Frame Interpolation [66.81586538775366]
従来のフレームタスクは、主に少数のフレーム、テキストコントロールなし、第1フレームと第2フレームの最小差のシナリオに焦点を当てていた。
最近のコミュニティ開発者は、フレーム・ツー・フレーム機能を実現するために、Wanによって表現された大きなビデオモデルを利用している。
本稿では、まず、上記の2つの設定を網羅し、複数のフレームレートでの推論をサポートする、学術的定義の観点から、新しい実用的意味フレーム補間(SFI)タスクを提案する。
論文 参考訳(メタデータ) (2025-07-07T16:25:47Z) - A Multi-Modal Federated Learning Framework for Remote Sensing Image Classification [2.725507329935916]
本稿では,RS画像分類問題に対する新しいマルチモーダルFLフレームワークを提案する。
提案フレームワークは,マルチモーダル融合(MF),特徴白化(FW),相互情報モジュール(MIM)の3つのモジュールから構成される。
論文 参考訳(メタデータ) (2025-03-13T11:20:15Z) - Efficiently Disentangling CLIP for Multi-Object Perception [62.523137132812764]
CLIPのような視覚言語モデルは、シーン内の1つの顕著なオブジェクトを認識するのに優れていますが、複数のオブジェクトを含む複雑なシーンで苦労しています。
凍結したVLMに最小限の学習可能なパラメータのみを追加しながら、最適な相互情報のレベルを学習する効率的なフレームワークであるDCLIPを提案する。
論文 参考訳(メタデータ) (2025-02-05T08:20:31Z) - Federated Fine-Tuning of LLMs: Framework Comparison and Research Directions [59.5243730853157]
Federated Learning(FL)は、分散プライベートデータセットを使用して、トレーニング済みの大規模言語モデル(LLM)を微調整するための、プライバシ保護ソリューションを提供する。
本稿では、知識蒸留(KD)とスプリットラーニング(SL)を統合し、これらの問題を緩和する3つの先進的連合LLM(FedLLM)フレームワークの比較分析を行う。
論文 参考訳(メタデータ) (2025-01-08T11:37:06Z) - FedRSClip: Federated Learning for Remote Sensing Scene Classification Using Vision-Language Models [23.830133838392964]
本稿では,VLM,特にCLIPに基づくリモートセンシング画像分類のための最初のフェデレーション学習フレームワークであるFedRSCLIPを提案する。
FedRSCLIPは、Prompt Learningを導入することで、フェデレーション環境におけるデータ不均一性と大規模モデル伝送の課題に対処する。
提案モデルの有効性を検証するため,既存の3つのリモートセンシング画像分類データセットに基づいてFed-RSICデータセットを構築した。
論文 参考訳(メタデータ) (2025-01-05T07:10:27Z) - Mind the Modality Gap: Towards a Remote Sensing Vision-Language Model via Cross-modal Alignment [4.682326604942316]
我々は,様々な画像分類タスクにおいて高精度な視覚言語基礎モデルであるコントラスト言語-画像事前学習(CLIP)に注目した。
リモートセンシング(RS)や医用画像など、ゼロショットCLIPのパフォーマンスが最適ではない領域がまだ残っている。
CLIPの視覚的・テキスト的モダリティと異なるRS画像モダリティを一致させる手法を提案する。
論文 参考訳(メタデータ) (2024-02-15T09:31:07Z) - Learning to Exploit Temporal Structure for Biomedical Vision-Language
Processing [53.89917396428747]
視覚言語処理における自己教師あり学習は、画像とテキストのモダリティのセマンティックアライメントを利用する。
トレーニングと微調整の両方で利用できる場合、事前のイメージとレポートを明示的に説明します。
我々のアプローチはBioViL-Tと呼ばれ、テキストモデルと共同で訓練されたCNN-Transformerハイブリッドマルチイメージエンコーダを使用する。
論文 参考訳(メタデータ) (2023-01-11T16:35:33Z) - MSI: Maximize Support-Set Information for Few-Shot Segmentation [27.459485560344262]
超相関写像を生成するために2つの相補的特徴源を利用して,サポートセット情報を最大化する新しい手法(MSI)を提案する。
FSSベンチマークによる実験結果から,提案手法は目に見えるマージンによって連続的に性能を向上し,より高速な収束をもたらすことが示された。
論文 参考訳(メタデータ) (2022-12-09T05:38:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。