論文の概要: LoCA: Spatially-Aware Low-Rank Convolutional Adaptation of Vision Foundation Models

• arxiv url: http://arxiv.org/abs/2607.06918v1
• Date: Wed, 08 Jul 2026 02:19:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-09 22:50:30.251185
• Title: LoCA: Spatially-Aware Low-Rank Convolutional Adaptation of Vision Foundation Models
• Title（参考訳）: LoCA:ビジョンファウンデーションモデルの空間的認識型低ランク畳み込み適応
• Abstract要約: 本稿では,空間チャネルの絡み合いに対処する,畳み込み対応のPEFTフレームワークであるLoCAを提案する。 LoCAは、高密度チャネル混合のための低ランクチャネル適応を導入し、事前訓練されたカーネルから抽出された空間ベースを洗練する。 実験結果から,LoCAは,詳細な分類,ドメイン一般化セマンティックセマンティックセグメンテーション,生成ベンチマークなどにおいて,事前訓練された空間的先行状態と最先端性能を保っていることがわかった。
• 参考スコア（独自算出の注目度）: 22.261546114940057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pre-trained Vision Foundation Models (VFMs) provide strong visual representations for diverse downstream tasks. The key challenge of VFM adaptation stems from the prohibitive costs of full fine-tuning and catastrophic forgetting. To address this, Low-Rank Adaptation (LoRA) has emerged as the prevailing paradigm for Parameter-Efficient Fine-Tuning (PEFT). However, LoRA is typically designed for transformer self-attention layers parameterized by 2D matrices. Since convolutional kernels inherently couple spatial and channel information within a 4D tensor, forcing them into a monolithic 2D matrix disrupts the inherent spatial topology. In this paper, we propose Low-Rank Convolutional Adaptation (LoCA), a convolution-aware PEFT framework that addresses spatial-channel entanglement by decoupling channel and spatial adaptation. LoCA introduces a low-rank channel adaptation for dense cross-channel mixing and refines spatial bases extracted from pre-trained kernels via Singular Value Decomposition (SVD). Experimental results show that LoCA preserves pre-trained spatial priors and achieves competitive or state-of-the-art performance across fine-grained classification, domain-generalized semantic segmentation, and generative benchmarks.
• Abstract（参考訳）: 事前訓練されたビジョンファウンデーションモデル(VFM)は、様々な下流タスクに対して強力な視覚的表現を提供する。 VFM適応の鍵となる課題は、完全な微調整と破滅的な忘れ込みの禁止費用に起因している。 これを解決するために、パラメータ効率の良いファインチューニング(PEFT)のパラダイムとしてLoRA(Lo-Rank Adaptation)が登場している。 しかし、LoRAは通常、2次元行列でパラメータ化されるトランスフォーマー自己アテンション層のために設計されている。 畳み込みカーネルは本質的に4次元テンソル内で空間情報とチャネル情報を結合するため、それらをモノリシックな2次元行列に強制することで、固有の空間トポロジーを乱す。 本稿では,空間チャネルの絡み合いと空間適応による空間チャネルの絡み合いに対処する,畳み込みを意識したPEFTフレームワークであるLoCAを提案する。 LoCAは、密度の高いクロスチャネル混合のための低ランクチャネル適応を導入し、Singular Value Decomposition (SVD)を介して事前訓練されたカーネルから抽出された空間ベースを洗練する。 実験結果から,LoCAは事前学習した空間的先行情報を保存し,詳細な分類,ドメイン一般化セマンティックセマンティックセグメンテーション,生成ベンチマークにまたがる競争的,あるいは最先端のパフォーマンスを達成することが示された。

関連論文リスト

• Multimodal Foundation Models Adaptation based on Domain-Aware Relaxed Orthogonal Subspace for Remote Sensing [16.45880716714667]
  Domain-Aware Relaxed Orthogonal Subspace adaptation (DROS) DROSはデータ条件付きサブスペース学習と柔軟なサブスペース適応として低ランク適応を再構成する。 複数のリモートセンシングベンチマークの実験は、DROSが最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2026-09-12T02:19:11Z)
• FAN-LoRA: A Fourier-Adaptive Nonlinear Low-Rank Adaptor for Medical Foundation Model Domain Adaptation [11.04143971119602]
  本稿では,周波数分離型ファインチューニングアーキテクチャであるFAN-LoRAを提案する。 FAN-LoRAは、最先端のPEFTベースラインを一貫して上回ることを示す。 提案手法は,最強の競合相手と比較して,平均Diceスコアにおける一貫した改善と境界誤差の顕著な低減を実現している。
  論文  参考訳（メタデータ） (2026-08-27T02:08:57Z)
• Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
  カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。 既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。 動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-25T09:57:46Z)
• Enhancing Gradient Inversion Attacks in Federated Learning via Hierarchical Feature Optimization [56.95448807869383]
  フェデレートラーニング(FL)は、プライバシを保存する分散機械学習の魅力的なパラダイムとして登場した。 近年の研究では、FLシステムで交換される勾配もプライバシー漏洩に弱いことが報告されている。 我々は textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD) を提案する。
  論文  参考訳（メタデータ） (2026-04-01T14:32:15Z)
• Cross-Domain Transfer with Self-Supervised Spectral-Spatial Modeling for Hyperspectral Image Classification [5.784164305429653]
  本稿では,自己管理型クロスドメイン転送フレームワークを提案する。 ソースラベルなしで伝送可能なスペクトル-空間結合表現を学習する。 実験結果は、安定した分類性能と強いクロスドメイン適応性を示す。
  論文  参考訳（メタデータ） (2026-01-26T02:52:35Z)
• Beyond Weight Adaptation: Feature-Space Domain Injection for Cross-Modal Ship Re-Identification [3.6907522136316975]
  CMS Re-ID(Cross-Modality Ship Re-Identification)は、全天候の海上目標追跡を実現するために重要である。 モダリティギャップのブリッジ化におけるビジョン・ファンデーション・モデル(VFM)の可能性を探る。 ドメイン表現注入(Domain Representation Injection, DRI)と呼ばれる新しいPEFT戦略を提案する。
  論文  参考訳（メタデータ） (2025-12-24T02:30:23Z)
• SCoDA: Self-supervised Continual Domain Adaptation [1.2389885407843222]
  Source-Free Domain Adaptation (SFDA)は、ソースドメインのデータにアクセスせずにターゲットドメインにモデルを適用するという課題に対処する。 これらの制約に対処するため、自己監督型連続ドメイン適応(SCoDA)を導入する。
  論文  参考訳（メタデータ） (2025-09-12T02:53:03Z)
• ALOcc: Adaptive Lifting-Based 3D Semantic Occupancy and Cost Volume-Based Flow Predictions [91.55655961014027]
  シーン理解には3次元セマンティック占有とフロー予測が不可欠である。 本稿では,3つの改善点を目標とした視覚ベースのフレームワークを提案する。 我々の純粋な畳み込みアーキテクチャは、セマンティック占有率とジョイントセマンティックフロー予測の両方のために、複数のベンチマーク上で新しいSOTA性能を確立する。
  論文  参考訳（メタデータ） (2024-11-12T11:32:56Z)
• GIFD: A Generative Gradient Inversion Method with Feature Domain Optimization [52.55628139825667]
  Federated Learning(FL)は、クライアントのプライバシを保護するための有望な分散機械学習フレームワークとして登場した。 近年の研究では、事前学習された生成逆ネットワーク(GAN)を事前知識として活用することにより、攻撃者が共有勾配を逆転し、FLシステムに対する機密データを回復できることが示されている。 textbfGradient textbfInversion over textbfFeature textbfDomains (GIFD)を提案する。
  論文  参考訳（メタデータ） (2023-08-09T04:34:21Z)
• Amplitude Spectrum Transformation for Open Compound Domain Adaptive Semantic Segmentation [62.68759523116924]
  オープン化合物ドメイン適応(OCDA)は、実用的な適応セットとして現れている。 我々は、新しい特徴空間振幅スペクトル変換(AST)を提案する。
  論文  参考訳（メタデータ） (2022-02-09T05:40:34Z)
• TDACNN: Target-domain-free Domain Adaptation Convolutional Neural Network for Drift Compensation in Gas Sensors [6.451060076703026]
  本稿では,ターゲットドメインレスドメイン適応畳み込みニューラルネットワーク(TDACNN)に基づくディープラーニングを提案する。 主な概念は、CNNがサンプルのドメイン固有の特徴を抽出するだけでなく、ソースドメインとターゲットドメインの両方の基礎となるドメイン不変の特徴も抽出することである。 異なる設定下でドリフトする2つのデータセットの実験は、いくつかの最先端手法と比較してTDACNNの優位性を示している。
  論文  参考訳（メタデータ） (2021-10-14T16:30:17Z)
• HSVA: Hierarchical Semantic-Visual Adaptation for Zero-Shot Learning [74.76431541169342]
  ゼロショット学習(ZSL)は、目に見えないクラス認識の問題に取り組み、目に見えないクラスから目に見えないクラスに意味的な知識を移す。 本稿では,意味領域と視覚領域を協調させる新しい階層型意味視覚適応(HSVA)フレームワークを提案する。 4つのベンチマークデータセットの実験では、HSVAは従来のZSLと一般的なZSLの両方で優れた性能を示す。
  論文  参考訳（メタデータ） (2021-09-30T14:27:50Z)
• Transformer-Based Source-Free Domain Adaptation [134.67078085569017]
  本研究では,ソースフリードメイン適応(SFDA)の課題について検討する。 我々は、FDAの一般化モデルを学ぶためのTransformer(TransDA)という、汎用的で効果的なフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-05-28T23:06:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。