論文の概要: LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation
- arxiv url: http://arxiv.org/abs/2610.22182v1
- Date: Thu, 15 Oct 2026 16:35:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.194605
- Title: LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation
- Title(参考訳): LAMP: トレーニング不要なFew-Shotビジョンランゲージ適応のためのレイヤーワイド適応混合予測器
- Abstract要約: わずかなショット適応はエンコーダの最終的なグローバル表現に依存しており、中間層に補足的な情報は未使用のまま残されている。
複数のエンコーダ層からグローバルおよび地域情報を合成するトレーニングフリーフレームワークであるLAMP(Layerwise Adaptive Mixing of Predictors)を提案する。
- 参考スコア(独自算出の注目度): 13.409475573271473
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot adaptation often relies on an encoder's final global representation, leaving complementary information in intermediate layers underused. Combining these features is challenging because their dimensions can differ and their usefulness varies across tasks. We propose LAMP, Layerwise Adaptive Mixing of Predictors, a training-free framework that combines global and regional information from multiple encoder layers. A single forward pass per view supplies all descriptors. Global and support-calibrated regional kernel predictors independently fit the same label residuals. Labeled validation data select their mixture in class-score space, preserving native feature dimensions without learned projections. LAMP-F further adapts text-anchored class prototypes, using a cached response to update the fixed-kernel residual predictions exactly. Experiments cover eleven datasets and ViT and ResNet backbones. LAMP achieves state-of-the-art mean accuracy among the compared published training-free ResNet-50 methods at 4, 8, and 16 shots, reaching 78.73% at 16 shots. Averaged across five support budgets, LAMP improves over a paired global-feature-only baseline by 1.14 and 1.59 percentage points on ViT-B/16 and ResNet-50; LAMP-F raises these gains to 1.96 and 2.54 points. LAMP-F reaches 16-shot accuracies of 83.57% and 79.10%, respectively. Controlled experiments identify multi-layer integration as the main source of improvement and examine pooling, calibration, validation labels, and computational cost. These findings show that combining layer-specific predictions can exploit complementary features from frozen encoders to improve few-shot classification.
- Abstract(参考訳): わずかなショット適応はエンコーダの最終的なグローバル表現に依存しており、中間層に補足的な情報は未使用のまま残されている。
これらの特徴を組み合わせることは、その次元が異なる可能性があり、その有用性はタスクによって異なるため、難しい。
複数のエンコーダ層からグローバルおよび地域情報を合成するトレーニングフリーフレームワークであるLAMP(Layerwise Adaptive Mixing of Predictors)を提案する。
ビュー毎の単一のフォワードパスは、すべてのディスクリプタを提供する。
グローバルおよびサポート校正された地域カーネル予測器は、独立に同じラベル残基に適合する。
ラベル付き検証データはクラススコア空間でそれらの混合物を選択し、学習されたプロジェクションなしでネイティブ特徴次元を保存する。
LAMP-Fはさらに、固定カーネル残差予測を正確に更新するためにキャッシュされた応答を使用して、テキストアンコールされたクラスプロトタイプに適応する。
実験では11のデータセットとViTとResNetのバックボーンがカバーされている。
LAMPは、比較されたトレーニングフリーのResNet-50メソッドのうち、4、8、16ショットで最先端の平均精度を達成し、16ショットで78.73%に達した。
5つのサポート予算で評価され、LAMPは2つのグローバル機能のみのベースラインを1.14ポイント、ViT-B/16とResNet-50で1.59ポイント改善している。
LAMP-Fは、それぞれ83.57%と79.10%の16ショットの精度に達する。
制御された実験は、多層結合を改善の主源とし、プーリング、校正、バリデーションラベル、計算コストを調べる。
これらの結果から, 層固有の予測を組み合わせることで, 冷凍エンコーダの相補的特徴を生かし, 数発の分類を改善することができることがわかった。
関連論文リスト
- Purify Before You Align: Improving Representation Alignment for Diffusion Models [51.67434264043717]
局所的な外観浄化(LAP)は、5つの事前訓練された表現における生成品質を改善する。
LAPはアライメントターゲットのみを変更し、拡散トレーニングや推論を変更する必要はない。
論文 参考訳(メタデータ) (2026-10-14T18:11:28Z) - Towards Robust Time Series Learning via Capacity-Centric Modulation [76.23489485385964]
本稿では,CCM(Capacity-Centric Modulation)を相補的,サンプル適応正規化原理として提案する。
SACM(Sample-Adaptive Capacity Modulation)は,スペクトル空間の分散を利用して,サンプルワイドドロップアウト確率を割り当てるタスク非依存のフレームワークである。
301個の実世界のデータセット-バックボーンペアのうち、SACMは平均でMSEの予測を6.7%削減し、分類精度を3.04%改善し、ポイント調整されたF1を17.05%改善した。
論文 参考訳(メタデータ) (2026-09-30T10:51:23Z) - Hierarchical Adaptive Feature Refinement Network for VHR Remote Sensing Image Segmentation [15.24999553337715]
本稿では,階層的表現を適応的に整理・洗練する進歩的改良フレームワークHAFR-Netを提案する。
マッチしたSwin-Bトレーニングとシングルスケール推論プロトコルの下で、HAFR-Netは84.12%、87.86%、55.17%、67.70%mIoUを達成した。
論文 参考訳(メタデータ) (2026-08-16T09:26:58Z) - TabPFN beyond Tabular Data: Calibration and Accuracy on Multimodal Embeddings [2.4483752182160954]
我々はTabPFNを,凍結画像,テキスト,オーディオエンコーダのためのプラグアンドプレイ,ゼログレートな分類ヘッドとして評価する。
TabPFNは14のデータセット、11のエンコーダ、3つのモダリティにまたがる22,820回の評価エピソードにおいて、負の対数類似度(NLL)と期待の校正誤差(ECE)の双方において、9つの分類長の中で最高の平均ランクを達成している。
その精度の利点は条件付きであり、中程度から高いショット数と低からモデレートの特徴次元に集中している。
論文 参考訳(メタデータ) (2026-07-13T02:11:27Z) - A Modelling and Evaluation Framework for EuroCrops-Driven Sentinel-2 Crop Segmentation [78.66324246922831]
本研究では,Sentinel-2イメージとEuroCropsパーセルレベルのアノテーションからセマンティックセグメンテーション対応農業データセットを生成するパイプラインを提案する。
このデータセットには、ヨーロッパ5カ国から67,337のパッチが含まれており、10種類の作物と背景の分類を減らしている。
The four-level U-Net with Group Normalization were training using 10 Sentinel-2 spectrum bands and a Composite loss with class-weighted cross-entropy and Dice loss。
論文 参考訳(メタデータ) (2026-05-30T11:20:29Z) - SCOPE: Semantic Coreset with Orthogonal Projection Embeddings for Federated learning [0.7799711162530713]
現在のMLアプローチでは、非現実的なデータアグリゲーションを必要とするか、クラス不均衡のため失敗する。
SCOPEは,異常をフィルタし,冗長なデータを長期スキューに適応させる,フェデレートされたデータのためのコアセットフレームワークである。
SCOPEは、アップリンク帯域幅を128倍から512倍に削減しながら、競争力のあるグローバル精度と堅牢な収束をもたらす。
論文 参考訳(メタデータ) (2026-03-13T13:24:12Z) - Adaptive Spatial Goodness Encoding: Advancing and Scaling Forward-Forward Learning Without Backpropagation [5.092009068303438]
我々は、畳み込みニューラルネットワーク(CNN)に適した、新しいフォワードフォワード(FF)ベースのトレーニングフレームワークを提案する。
ASGEは、各層における空間的に認識された良さの反感をマップで計算し、レイヤ単位での監視を可能にする。
FFベースのトレーニングが最初に成功したのはImageNetデータセットで、Top-1とTop-5のアキュラシーは26.21%と47.49%である。
論文 参考訳(メタデータ) (2025-09-15T19:38:32Z) - Enhancing Zero-Shot Vision Models by Label-Free Prompt Distribution Learning and Bias Correcting [55.361337202198925]
CLIPのようなヴィジュアル言語モデルは、適切なテキスト記述を使用する際に、顕著な一般化能力を示している。
本稿では,ラベル付きデータを必要としないゼロショット性能を向上する,**Frolic**と呼ばれるラベルフリーな分布学習とバイアス補正フレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-25T04:00:45Z) - Generalized Focal Loss V2: Learning Reliable Localization Quality
Estimation for Dense Object Detection [78.11775981796367]
GFLV2 (ResNet-101) は14.6 FPSで46.2 APを達成し、以前の最先端ATSSベースライン (43.6 AP at 14.6 FPS) をCOCO tt test-devで絶対2.6 APで上回った。
コードはhttps://github.com/implus/GFocalV2.comから入手できる。
論文 参考訳(メタデータ) (2020-11-25T17:06:37Z) - Generalized Focal Loss: Learning Qualified and Distributed Bounding
Boxes for Dense Object Detection [85.53263670166304]
一段検出器は基本的に、物体検出を密度の高い分類と位置化として定式化する。
1段検出器の最近の傾向は、局所化の質を推定するために個別の予測分岐を導入することである。
本稿では, 上記の3つの基本要素, 品質推定, 分類, ローカライゼーションについて述べる。
論文 参考訳(メタデータ) (2020-06-08T07:24:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。