論文の概要: LoRA Enhanced Contrastive Learning with SAS Vision Transformers

• arxiv url: http://arxiv.org/abs/2609.21061v1
• Date: Thu, 17 Sep 2026 20:30:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:16.775785
• Title: LoRA Enhanced Contrastive Learning with SAS Vision Transformers
• Title（参考訳）: SASビジョン変換器を用いたLoRA強化コントラスト学習
• Abstract要約: DINOv3 Vision Transformer (ViT) モデルを3段階パラメータ効率フレームワークを用いて水中SAS ATRに適用する。 ステージ1は、ViTバックボーンを凍結しながらローランド適応(LoRA)を使用し、自然画像事前訓練と水中音響伝搬のギャップを埋める。 ステージ2は、人造ターゲットに似た岩や堆積物の形成を含む音響的模倣に対する決定境界を強化するために、強陰性採掘を使用する。 ステージ3では、SupCon(Supervised Contrastive Learning)を使用して、ターゲットと乱雑な表現を分離する。
• 参考スコア（独自算出の注目度）: 0.19573380763700712
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Automatic target recognition (ATR) with synthetic aperture sonar (SAS) supports advanced naval capabilities, but deep learning is constrained by scarce target imagery, background clutter, and human-in-the-loop assessment. We adapt DINOv3 Vision Transformer (ViT) models to underwater SAS ATR using a three-stage parameter-efficient framework. Stage 1 uses Low-Rank Adaptation (LoRA) while freezing the ViT backbone, bridging the gap between natural-image pretraining and underwater acoustic propagation. Stage 2 uses hard-negative mining to strengthen the decision boundary against acoustic mimics, including rocks and sediment formations resembling man-made targets. Stage 3 uses Supervised Contrastive Learning (SupCon) to separate target and clutter representations. We evaluate at-sea SAS data using a mission-level geographic split, compare all arms at 85 percent test recall, and repeat each comparison over three random seeds. LoRA accounts for the primary effect, increasing area under the precision-recall curve (AUPRC) from 0.300 to 0.679 +/- 0.027 using the same frozen backbone. Rank 4 achieves this result while training only 0.26 percent of weights. Neither refinement stage exceeds its matched control: hard-negative mining changes AUPRC by -0.0045 +/- 0.0119 versus an equal-size random curriculum, and SupCon changes AUPRC by +0.0002 +/- 0.0096 versus the preceding stage. These null results indicate that mining occurred on data the encoder had already fit and that supervised stages had already imposed most target-clutter geometry. One efficient adaptation stage is sufficient; stacked refinement is not.
• Abstract（参考訳）: 合成開口ソナー(SAS)を用いた自動目標認識(ATR)は、先進的な海軍能力をサポートするが、深層学習は、標的画像の不足、背景クラッタ、ループ内人間による評価によって制限される。 DINOv3 Vision Transformer (ViT) モデルを3段階パラメータ効率フレームワークを用いて水中SAS ATRに適用する。 ステージ1は、ViTバックボーンを凍結しながらローランド適応(LoRA)を使用し、自然画像事前訓練と水中音響伝搬のギャップを埋める。 ステージ2は、人造ターゲットに似た岩や堆積物の形成を含む音響的模倣に対する決定境界を強化するために、強陰性採掘を使用する。 ステージ3では、SupCon(Supervised Contrastive Learning)を使用して、ターゲットと乱雑な表現を分離する。 ミッションレベルの地理的分割を用いて海中SASデータを評価し、全腕を85%のテストリコールで比較し、3つのランダムシードの比較を繰り返した。 LoRAは主効果を考慮し、正確にリコール曲線(AUPRC)の下の面積を0.300から0.679 +/-0.027まで増加させ、同じ冷凍バックボーンを使用する。 ランク4は、重量のわずか0.26パーセントをトレーニングしながらこの結果を達成する。 AUPRCは-0.0045 +/- 0.0119、SupConは+0.0002 +/- 0.0096、AUPRCは-0.0045 +/- 0.0119である。 これらの無効な結果は、エンコーダがすでに適合していたデータに基づいてマイニングが行われ、監督された段階が既にほとんどのターゲット・クラッタ形状を課していたことを示している。 1つの効率的な適応段階は十分であり、積み重ねられた洗練は不十分である。

関連論文リスト

• Solution for UCF UrbanTwin LUMPI Track: Sim-to-Real Urban LiDAR 3D Object Detection [54.03436243843709]
  UCF UrbanTwin Sim2Real LiDAR Challenge at the 6th DriveX Workshop, ECCV 2026。 検出器は合成データのみに基づいて訓練され、50個の実LiDARフレームで評価される。 ポイントクラウドリアリズムに対して、別の50フレームの合成提案が評価される。
  論文  参考訳（メタデータ） (2026-09-07T15:03:36Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• SOAR: Self-Correction for Optimal Alignment and Refinement in Diffusion Models [48.335262141752715]
  拡散モデルのための後トレーニングパイプラインには、キュレートされたデータに対する教師付き微調整(SFT)と報酬モデルによる強化学習(RL)の2段階がある。 本稿では,このギャップを埋めるバイアス補正ポストトレーニング法であるSOAR(Self-Correction for Optimal Alignment and Refinement)を提案する。 オンライン政治であり、報酬なしであり、クレジット割り当ての問題なく、時間ごとの密集した監督を提供する。
  論文  参考訳（メタデータ） (2026-04-14T11:45:15Z)
• Low-Rank Adaptation Reduces Catastrophic Forgetting in Sequential Transformer Encoder Fine-Tuning: Controlled Empirical Evidence and Frozen-Backbone Representation Probes [3.305265383862785]
  コンパニオン表現プローブを用いたシーケンシャルトランスフォーマーエンコーダにおけるローランド適応(LoRA)の実証的研究について述べる。 RTE->MRPC->CoLA->SST-2配列上の5つのフルバリデーションBERTベースでは、フル微調整の収率は19.9%+/-で、標準のLoRA(r、クエリ/バリューモジュール)は0.6%+/-1.4%である。
  論文  参考訳（メタデータ） (2026-03-29T14:14:36Z)
• Label-Free Cross-Task LoRA Merging with Null-Space Compression [50.63908869296697]
  我々は,ラベルフリーで出力に依存しない手法であるNull-Space Compression (NSC) Mergingを紹介した。 NSCは、従来のメソッドがタスクのサブセットに収まるバランスの取れたゲインを持つ20の異種視覚タスクに対して、最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-03-27T11:34:41Z)
• D2-LoRA: A Synergistic Approach to Differential and Directional Low-Rank Adaptation [0.24636535146231608]
  D2-LoRAは8つの質問応答と読解ベンチマークで76.4%の平均精度を達成した。 この方法は、符号付き低ランク残差更新と追加的および減算的コンポーネント、および列車時列ワイドプロジェクションを組み合わせたものである。
  論文  参考訳（メタデータ） (2026-02-16T13:19:42Z)
• Patch-Level Contrasting without Patch Correspondence for Accurate and Dense Contrastive Representation Learning [79.43940012723539]
  ADCLRは、正確で高密度な視覚表現を学習するための自己教師型学習フレームワークである。 提案手法は, コントラッシブな手法のための新しい最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-06-23T07:38:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。