論文の概要: FAN-LoRA: A Fourier-Adaptive Nonlinear Low-Rank Adaptor for Medical Foundation Model Domain Adaptation
- arxiv url: http://arxiv.org/abs/2608.26531v1
- Date: Thu, 27 Aug 2026 02:08:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.21495
- Title: FAN-LoRA: A Fourier-Adaptive Nonlinear Low-Rank Adaptor for Medical Foundation Model Domain Adaptation
- Title(参考訳): FAN-LoRA:医療ファウンデーションモデルドメイン適応のためのフーリエ適応非線形低ランクアダプタ
- Abstract要約: 本稿では,周波数分離型ファインチューニングアーキテクチャであるFAN-LoRAを提案する。
FAN-LoRAは、最先端のPEFTベースラインを一貫して上回ることを示す。
提案手法は,最強の競合相手と比較して,平均Diceスコアにおける一貫した改善と境界誤差の顕著な低減を実現している。
- 参考スコア(独自算出の注目度): 11.04143971119602
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The advent of vision foundation models, notably the Segment Anything Model (SAM), has catalyzed significant advancements in natural image segmentation. However, their direct transfer to medical imaging remains severely bottlenecked by profound domain gaps, such as cross-modality and cross-center shifts. Existing Parameter-Efficient Fine-Tuning (PEFT) methods facilitate the adaptation of SAM to medical domains; nevertheless, they frequently suffer from performance degradation under severe distribution shifts. This vulnerability primarily stems from the implicit entanglement of heterogeneous frequency components within a shared low-rank subspace, which directly exacerbates sub-optimal structural alignment and localized boundary blurring. To overcome this representational bottleneck, we propose the Fourier-Adaptive Nonlinear Low-Rank Adaptor (FAN-LoRA), a novel frequency-decoupled fine-tuning architecture. FAN-LoRA explicitly separates the optimization space by employing a B-spline-driven low-pass branch for global structural alignment, synergistically coupled with a discrete Fourier high-pass branch for local textural compensation. Extensive experiments across three challenging cross-modality and cross-center benchmarks demonstrate that FAN-LoRA consistently outperforms state-of-the-art PEFT baselines. Compared to the strongest competitors, our method achieves consistent improvements in average Dice scores and notable reductions in boundary errors, while maintaining a compact module size without compromising computational efficiency.
- Abstract(参考訳): 視覚基盤モデルの出現、特にSAM(Segment Anything Model)は、自然画像のセグメンテーションにおいて大きな進歩をもたらした。
しかし、医療画像への直接の移行は、クロスモダリティやセンター間のシフトなど、深い領域ギャップによって著しくボトルネックになっている。
既存のパラメータ・エフェクト・ファインチューニング(PEFT)法は、SAMを医療領域に適応させるのに役立つが、しかしながら、深刻な分布シフトの下ではしばしば性能劣化に悩まされる。
この脆弱性は主に、共有低ランク部分空間内の異種周波数成分の暗黙の絡み合いから来ており、これは準最適構造アライメントと局所境界のぼかしを直接悪化させる。
この表現ボトルネックを克服するために、新しい周波数分離ファインチューニングアーキテクチャであるフーリエ適応非線形低ランク適応(FAN-LoRA)を提案する。
FAN-LoRAは、局所的なテクスチャ補償のために離散フーリエ高域分岐と相乗的に結合して、B-スプライン駆動の低域分岐を用いて最適化空間を明示的に分離する。
3つの挑戦的なクロスモダリティとクロスセンターベンチマークによる大規模な実験は、FAN-LoRAが最先端のPEFTベースラインを一貫して上回っていることを示している。
最強の競合と比較すると,計算効率を損なうことなくコンパクトなモジュールサイズを維持しつつ,平均Diceスコアの一貫性の向上と境界誤差の顕著な低減を実現している。
関連論文リスト
- Multimodal Foundation Models Adaptation based on Domain-Aware Relaxed Orthogonal Subspace for Remote Sensing [16.45880716714667]
Domain-Aware Relaxed Orthogonal Subspace adaptation (DROS)
DROSはデータ条件付きサブスペース学習と柔軟なサブスペース適応として低ランク適応を再構成する。
複数のリモートセンシングベンチマークの実験は、DROSが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2026-09-12T02:19:11Z) - LoCA: Spatially-Aware Low-Rank Convolutional Adaptation of Vision Foundation Models [22.261546114940057]
本稿では,空間チャネルの絡み合いに対処する,畳み込み対応のPEFTフレームワークであるLoCAを提案する。
LoCAは、高密度チャネル混合のための低ランクチャネル適応を導入し、事前訓練されたカーネルから抽出された空間ベースを洗練する。
実験結果から,LoCAは,詳細な分類,ドメイン一般化セマンティックセマンティックセグメンテーション,生成ベンチマークなどにおいて,事前訓練された空間的先行状態と最先端性能を保っていることがわかった。
論文 参考訳(メタデータ) (2026-07-08T02:19:01Z) - One Size does not Fit All: Heterogeneous Latent Space Alignment for Unsupervised Domain Adaptation [5.6374247694410995]
ドメインシフトは、医療などの高度な環境において、マシンラーニングモデルの信頼性の高いデプロイに対する大きな障害である。
医用画像セグメンテーションに特化して最適化されたUnsupervised Domain Adaptation (UDA) のための新しいディープラーニングアーキテクチャを提案する。
我々のフレームワークであるAdualVUOTは、デュアルエンコーダ変分オートエンコーダ(VAE)と連続正規化フロー(CNF)を統合し、モデリングの柔軟性を向上させる。
論文 参考訳(メタデータ) (2026-06-19T13:33:38Z) - Shift-Dependent Asymmetry: Orthogonal Inverse Low-Rank Adaptation for Federated Medical Segmentation [60.41721951405564]
Low-Rank Adaptation (LoRA)は、医療画像のためのセグメンテーション基盤モデルの効率的なフェデレーション微調整を可能にする。
ほとんどの連合LoRA法は、医学的セグメンテーションにおいてエンコーダ-デコーダ非対称性の下で破れる一様アグリゲーション規則を採用している。
このミスマッチの絡み合いは、サイト固有のバイアスと解剖を共有し、一般化を損なう。
本稿では,効率的な更新空間における共有局所コリニアリティを罰する部分空間直交正規化器を提案する。
論文 参考訳(メタデータ) (2026-06-07T15:39:28Z) - On the Construction and Implications of Low-Loss Valleys in LoRA-based Bayesian Inference [12.367241512406656]
2つの変量を持つロラ空間において、セグメンテーションされたベジエ曲線パラメータ化であるLoRA-Curveを導入する。
曲線に沿った損失の経路的連続性とリプシッツ正則性を証明し、Qwen2.5 7Bによる推論と分類のベンチマークにおいて、線形摂動は損失障壁に遭遇することを示した。
平坦なミニマ摂動とジェンセン・シャノン分散正規化器を組み合わせることで、LoRA-Curveは性能を犠牲にすることなく予測分布の相互情報を測定できる。
論文 参考訳(メタデータ) (2026-05-28T08:24:45Z) - Frequency-Domain Regularized Adversarial Alignment for Transferable Attacks against Closed-Source MLLMs [59.973833105841685]
対向移動性を改善するための重要な課題は、異なるモデル間で共有される本質的な視覚的焦点を効果的に捉えることである。
本稿では、FRA-Attackを提案する。このFRA-Attackは、周波数領域の統一正規化の観点から、両方の課題に対処する。
機能アライメントのために、パッチ機能に対する高パスDCTは、冗長なグローバル構造を抑圧し、MLLMの固有の視覚的焦点を持つ高周波帯域の損失に集中する。
勾配最適化のために、代用勾配を変調するテキストモデルに依存しない低パス正規化器である周波数領域勾配正規化(FGR)を導入する。
論文 参考訳(メタデータ) (2026-05-20T08:15:56Z) - Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。
近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。
我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
論文 参考訳(メタデータ) (2026-04-01T14:32:15Z) - Decoupling Wavelet Sub-bands for Single Source Domain Generalization in Fundus Image Segmentation [2.8382282285875653]
本研究では,新しいウェーブレット誘導分割ネットワークであるWaveSDGを紹介した。
ウェーブレットサブバンド分解によって、解剖学的構造をドメイン固有の外観から切り離す。
一貫して7つの最先端データセットを上回ります。
論文 参考訳(メタデータ) (2026-03-30T14:04:45Z) - Cross-Domain Transfer with Self-Supervised Spectral-Spatial Modeling for Hyperspectral Image Classification [5.784164305429653]
本稿では,自己管理型クロスドメイン転送フレームワークを提案する。
ソースラベルなしで伝送可能なスペクトル-空間結合表現を学習する。
実験結果は、安定した分類性能と強いクロスドメイン適応性を示す。
論文 参考訳(メタデータ) (2026-01-26T02:52:35Z) - Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration [56.074760766965085]
PRISMは、モデルの既存の知識との認知的対立度に基づいてデータを調停する動的認識フレームワークを実現する。
この結果から,内部最適化方式に基づくデータ分離が,スケーラブルでロバストなエージェントアライメントに不可欠であることが示唆された。
論文 参考訳(メタデータ) (2026-01-12T05:43:20Z) - A Turn Toward Better Alignment: Few-Shot Generative Adaptation with Equivariant Feature Rotation [67.2019317630466]
少ない撮影画像生成は、ごく少数の訓練画像を用いて、ソース生成モデルをターゲット領域に効果的に適応することを目的としている。
Equivariant Feature Rotation (EFR) は、ソースドメインとターゲットドメインを2つの相補的なレベルで整列させる新しい適応戦略である。
本手法は,対象領域内の生成性能を著しく向上させる。
論文 参考訳(メタデータ) (2025-12-24T13:48:22Z) - Disentangled Federated Learning for Tackling Attributes Skew via
Invariant Aggregation and Diversity Transferring [104.19414150171472]
属性は、クライアント間の一貫した最適化方向から、現在の連邦学習(FL)フレームワークを歪めます。
本稿では,ドメイン固有属性とクロス不変属性を2つの補足枝に分離するために,非絡み付きフェデレーション学習(DFL)を提案する。
実験により、DFLはSOTA FL法と比較して高い性能、より良い解釈可能性、より高速な収束率でFLを促進することが確認された。
論文 参考訳(メタデータ) (2022-06-14T13:12:12Z) - Log-Likelihood Ratio Minimizing Flows: Towards Robust and Quantifiable
Neural Distribution Alignment [52.02794488304448]
そこで本研究では,対数様比統計量と正規化フローに基づく新しい分布アライメント手法を提案する。
入力領域の局所構造を保存する領域アライメントにおいて,結果の最小化を実験的に検証する。
論文 参考訳(メタデータ) (2020-03-26T22:10:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。