論文の概要: Preserving the Manifold: Frozen Expert Alignment for Label-Efficient SAR Scene Understanding
- arxiv url: http://arxiv.org/abs/2610.25429v1
- Date: Sun, 18 Oct 2026 17:43:57 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:22:03.871631
- Title: Preserving the Manifold: Frozen Expert Alignment for Label-Efficient SAR Scene Understanding
- Title(参考訳): マニフォールド保存:ラベル効率の良いSARシーン理解のための凍結専門家アライメント
- Abstract要約: 合成開口レーダ(SAR)画像と自然言語との相互アライメントは、2つの異なる障害によって制約される。
1つ目はモダリティミスマッチであり、CLIPのような光学画像で事前訓練されたテキストエンコーダは、SAR上で効率的に微調整することはできない。
SARエンコーダは、大規模な自己監督対象に基づいて事前訓練され、限られたキャプションデータに基づくテキストアライメントのために、エンコーダが微調整されたときに徐々に消去されるレーダー物理をエンコードする。
両方のエンコーダを凍結させ、制約のある構造保存ブリッジのみを学ぶ。
- 参考スコア(独自算出の注目度): 1.7300690315775575
- License:
- Abstract: Cross-modal alignment of synthetic aperture radar (SAR) imagery to natural language is constrained by two distinct failures. The first is modality mismatch: text encoders pre-trained on optical imagery, such as CLIP, cannot be efficiently fine-tuned on SAR, because active microwave backscatter is physically incompatible with passive optical reflectance and the available SAR caption datasets are orders of magnitude too small to bridge this gap without substantially degrading the learned semantic manifold. The second is physical forgetting: SAR encoders pre-trained on large-scale self-supervised objectives encode radar physics that are progressively erased when the encoder is fine-tuned for text alignment on limited caption data. A single design principle addresses both failures: keep both encoders frozen and learn only a constrained, structure-preserving bridge. Our Frozen Expert framework aligns a frozen CROMA SAR encoder with a frozen CLIP text encoder via a lightweight constrained residual bridge. We formally define physical forgetting via Procrustes disparity and show our bridge preserves SAR geometry significantly better than fine-tuning (disparity: 0.210 vs. 0.351). We validate generality across multiple SAR backbones and text encoders. On zero-shot SAR scene classification, our approach outperforms fine-tuned baselines using up to 8x less training data: DFC2020 (+10.3% R@1, +15.5% mAP), EuroSAT-SAR (+15.7% R@1, +12.2% mAP), BigEarthNet-MM (+14.7% R@1). These results establish frozen manifold alignment as a principled, data-efficient alternative to fine-tuning in high-disparity cross-modal settings.
- Abstract(参考訳): 合成開口レーダ(SAR)画像と自然言語との相互アライメントは、2つの異なる障害によって制約される。
ひとつはモダリティミスマッチである:CLIPのような光学画像で事前訓練されたテキストエンコーダは、能動マイクロ波後方散乱が受動光反射と物理的に互換性がなく、利用可能なSARキャプションデータセットは、学習されたセマンティック多様体を著しく劣化させることなく、このギャップを埋めるには桁違いに小さすぎるため、SAR上で効率よく微調整することはできない。
SARエンコーダは、大規模な自己監督対象に基づいて事前訓練され、限られたキャプションデータに基づくテキストアライメントのために、エンコーダが微調整されたときに徐々に消去されるレーダー物理をエンコードする。
両方のエンコーダを凍結させ、制約のある構造保存ブリッジのみを学ぶ。
我々のFrozen Expertフレームワークは、凍ったCROMA SARエンコーダと、軽量な制約された残留ブリッジを介して凍結したCLIPテキストエンコーダを整列する。
我々は,Procrustesの相違による物理的忘れを正式に定義し,SAR形状を微調整(0.210 vs. 0.351)よりもはるかによく保存することを示す。
複数のSARバックボーンとテキストエンコーダの一般性を検証する。
DFC2020 (+10.3% R@1, +15.5% mAP), EuroSAT-SAR (+15.7% R@1, +12.2% mAP), BigEarthNet-MM (+14.7% R@1)。
これらの結果は、高分散クロスモーダル設定における微調整の原則的、データ効率の代替として凍結多様体アライメントを確立する。
関連論文リスト
- Dual Task Vector Merging: Leveraging Emotion and ASR Knowledge for Low-Resource Alzheimer's Disease Detection [55.990179160175444]
大規模な事前訓練された音声エンコーダの微調整は容易に過度に行われ、凍結プローブはエンコーダのタスク関連知識を未利用のまま残す。
本稿では,凍結したwav2vec 2.0バックボーンに適応するパラメータ効率の高いDual Task Vector Mergingを提案する。
ADReSSとADReSSoの実験では、二重マージはメインバイナリ設定で凍結プローブ、LoRA、フル微調整よりも改善されている。
論文 参考訳(メタデータ) (2026-10-17T21:19:12Z) - ORCA: Hunting Compositional Failures in Text-to-Image Diffusion [2.687944617906212]
テキストエンコーダは、視覚ではなく言語モデリングによって形作られた表現空間において、構成構造を保っていることを示す。
この対応は明示的な訓練信号として提供でき、関連するクロスモーダル情報は、自己監督された視覚的特徴の低ランク部分空間に集中していることを示す。
提案手法であるORCAは,T5とCLIPの埋め込みにおいて学習された残差によって推論ベースがパラメータ化される予測器を介して,凍結した視覚エンコーダから導出される低ランクターゲットに拡散トランスフォーマーの潜時を整列させる。
論文 参考訳(メタデータ) (2026-10-07T11:03:58Z) - Scaling Parallel Sequence Models to Foundation-Scale Vision Encoders [123.58723804218151]
ビジョンファウンデーションモデルは、自己注意の二次的なコストによってボトルネックとなる。
2次元空間伝搬伝搬に基づくC-GSPNを提案する。
論文 参考訳(メタデータ) (2026-05-30T14:29:43Z) - Improved Baselines with Representation Autoencoders [61.47127824064028]
表現オートエンコーダ(RAE)は、従来のVAEを事前訓練された視覚エンコーダに置き換える。
RAEを単純化し、改善する3つの洞察が得られます。
RAEv2はオリジナルのRAEよりも10倍以上早く収束する。
論文 参考訳(メタデータ) (2026-05-18T12:42:34Z) - Light-ResKAN: A Parameter-Sharing Lightweight KAN with Gram Polynomials for Efficient SAR Image Recognition [31.135222295190022]
大規模合成開口レーダ(SAR)画像サイズは、リソース制約されたエッジデバイスへのディープラーニングデプロイメントを妨げる。
我々は、精度と効率のバランスを改善するために、Light-ResKANを提案する。
MSTAR, FUSAR-Ship, SAR-ACDデータセットの精度は99.09%, 93.01%, 97.26%であった。
論文 参考訳(メタデータ) (2026-04-02T11:17:20Z) - SARMAE: Masked Autoencoder for SAR Representation Learning [17.36199520462285]
自己教師型SAR表現学習のためのノイズ対応マスク付き自動エンコーダであるSARMAEを提案する。
SARMAEは、SAR固有のスペックルノイズをマスク付きオートエンコーダに注入し、ノイズ認識と堅牢な表現学習を容易にする。
複数のSARデータセットに対する実験は、SARMAEが分類、検出、セグメンテーションタスクにおける最先端のパフォーマンスを達成することを示した。
論文 参考訳(メタデータ) (2025-12-18T15:10:19Z) - RSAR: Restricted State Angle Resolver and Rotated SAR Benchmark [61.987291551925516]
単位円制限損失を組み込んで角度予測精度を向上させるユニットサイクルリゾルバを導入する。
提案手法は,既存の最先端教師あり手法の性能を効果的に向上させることができる。
UCRの助けを借りて、これまでで最大の多クラス回転SARオブジェクト検出データセットであるRSARをさらに注釈し、導入する。
論文 参考訳(メタデータ) (2025-01-08T11:41:47Z) - DiffIR: Efficient Diffusion Model for Image Restoration [108.82579440308267]
拡散モデル(DM)は、画像合成過程をデノナイジングネットワークのシーケンシャルな応用にモデル化することで、SOTA性能を達成した。
画像全体や特徴マップを推定する大規模なモデルで大規模なイテレーションを実行する従来のDMは、画像復元には非効率である。
本稿では、小型IR先行抽出ネットワーク(CPEN)、ダイナミックIR変換器(DIRformer)、デノナイズネットワーク(Denoising Network)からなるDiffIRを提案する。
論文 参考訳(メタデータ) (2023-03-16T16:47:14Z) - Boosting Continuous Sign Language Recognition via Cross Modality
Augmentation [135.30357113518127]
連続手話認識は不整合のビデオテキストペアを扱う。
クロスモーダル拡張を用いた新しいアーキテクチャを提案する。
提案するフレームワークは、既存のCTCベースの連続SLRアーキテクチャに容易に拡張できる。
論文 参考訳(メタデータ) (2020-10-11T15:07:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。