論文の概要: Rethinking Noise-Robust Training for Frozen Vision Foundation Models: A Cross-Dataset Benchmark with a Case Study of Small-Loss Failure
- arxiv url: http://arxiv.org/abs/2605.22591v1
- Date: Thu, 21 May 2026 15:02:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.315653
- Title: Rethinking Noise-Robust Training for Frozen Vision Foundation Models: A Cross-Dataset Benchmark with a Case Study of Small-Loss Failure
- Title(参考訳): 凍結型視覚基礎モデルにおける騒音-腐食訓練の再考:小損失故障のケーススタディを用いたクロスデータセットベンチマーク
- Authors: Zitong Li, Haoyu Wang,
- Abstract要約: 軽微な分類ヘッドを持つ凍結視覚基礎モデル (VFM) は、医用画像の撮影にますます利用されている。
5つの医療データセット,3つのバックボーン,2つのノイズタイプ,5つのノイズレートにまたがる8つのノイズラベル手法のベンチマークを示す。
我々は,エビデンスに基づく指導と,実践的な勧告のための低信頼度特徴空間セレクタで締めくくる。
- 参考スコア(独自算出の注目度): 7.512887610816016
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Frozen Vision Foundation Models (VFMs) with lightweight classification heads are increasingly used in medical imaging because they offer efficient and reproducible deployment. Yet noisy-label learning methods for this frozen-feature regime remain poorly understood, and most existing methods still rely on a small-loss assumption inherited from end-to-end training. We present a controlled benchmark of eight noisy-label methods across five medical datasets, three backbones, two noise types, and five noise rates (150 conditions, 6,000 training runs), evaluated with balanced accuracy. The benchmark shows that there is no universal winner: Friedman ranking over the 150 conditions yields $χ^2 = 333.2$ ($p = 4.77 \times 10^{-68}$), ELR wins the most conditions (49/150), while CUFIT attains the best mean rank (2.51). The practical cost of method choice grows sharply with noise severity, from 4.5pp on clean data to 18.8pp at asymmetric 40\% noise. To explain these benchmark-level patterns, we revisit the small-loss assumption in a representative high-risk regime. Under frozen DINOv2 features, clean and noisy loss distributions overlap by 53--61\%, and matched-rate clean-sample detection shows that prediction agreement is markedly more stable than loss ranking under asymmetric noise (3pp vs.\ 13pp precision drop). On ISIC2019 with asymmetric 40\% noise, Co-Teaching reaches 68\% overall accuracy while collapsing to 35.1\% balanced accuracy with zero recall on three minority classes. Together, these results recast noisy-label learning for frozen VFMs as a regime-aware method-selection problem rather than a search for a single dominant algorithm. We conclude with evidence-based guidance and a low-regret feature-space selector for practical recommendation.
- Abstract(参考訳): 軽量な分類ヘッドを持つ凍結視覚基礎モデル(VFM)は、効率よく再現可能な展開を提供するため、医療画像にますます利用されている。
しかし、この凍結機能体制の雑音ラベル学習法はいまだに理解されておらず、既存のほとんどの手法は、エンド・ツー・エンドのトレーニングから受け継がれた小さな仮定に依存している。
本研究では,5つの医療データセット,3つのバックボーン,2つのノイズタイプ,5つのノイズレート(150条件,6,000のトレーニング実行)の8つのノイズラベル法を,バランスの取れた精度で評価した。
このベンチマークは普遍的な勝者が存在しないことを示している: フリードマンが150の条件をランク付けすると、$ ^2 = 333.2$$ (p = 4.77 \times 10^{-68}$)、ELRが最も高い条件(49/150)、CUFITが最高の平均ランク(2.51)を得る。
方法選択の実践的コストは、クリーンなデータの4.5ppから非対称な40\%のノイズで18.8ppまで、ノイズの重大さとともに急激に増大する。
これらのベンチマークレベルのパターンを説明するために、我々は、代表的ハイリスク・システマティクスにおける小さめの仮定を再考する。
凍結したDINOv2特性の下では, クリーンおよびノイズの損失分布は53--61\%に重なり, 一致したレートのクリーンサンプル検出により, 非対称雑音(3pp vs。
13ppの精度低下)。
ISIC2019では、非対称な40 %のノイズがあり、コティーチングは68 %の総合的精度に達し、35.1 %のバランスの取れた精度で3つの少数クラスでのリコールをゼロにする。
これらの結果から, フリーズVFMの雑音ラベル学習を, 1つの支配的アルゴリズムを探索するよりも, ルール対応の手法選択問題として再検討した。
我々は,エビデンスに基づく指導と,実践的な勧告のための低信頼度特徴空間セレクタで締めくくる。
関連論文リスト
- Can LLMs Learn to Reason Robustly under Noisy Supervision? [31.39996460068968]
RLVRにおけるノイズラベル機構の体系的解析に向けた第一歩を踏み出す。
データ効率を低下させる非アクティブノイズラベルと、モデルを強化し、リスク回避するアクティブノイズラベルの2種類のノイズを区別する。
この力学によって動機づけられたオンラインラベルリファインメント(OLR)を提案する。
論文 参考訳(メタデータ) (2026-04-05T06:30:50Z) - Deconstructing the Failure of Ideal Noise Correction: A Three-Pillar Diagnosis [82.06444754727156]
ノイズ補正法は,まだ訓練中の性能低下に悩まされていることを示す。
このことは、失敗が基本的に$T$推定の問題ではなく、より根深い欠陥に起因することを、説得力強く示している。
我々は、マクロ収束状態、微視的最適化ダイナミクス、ノイズラベルから何が学べるかについての情報理論的限界の3つのレベルをリンクする統合分析を提供する。
論文 参考訳(メタデータ) (2026-03-13T13:53:04Z) - ReSup: Reliable Label Noise Suppression for Facial Expression
Recognition [20.74719263734951]
本稿では、ReSupと呼ばれるより信頼性の高いノイズラベル抑圧手法を提案する。
最適な分布モデリングを実現するために、ReSupは全てのサンプルの類似度分布をモデル化する。
ノイズ決定結果の信頼性をさらに高めるため、ReSupは2つのネットワークを使ってノイズ抑制を共同で実現している。
論文 参考訳(メタデータ) (2023-05-29T06:02:06Z) - Latent Class-Conditional Noise Model [54.56899309997246]
本稿では,ベイズ的枠組みの下での雑音遷移をパラメータ化するためのLatent Class-Conditional Noise Model (LCCN)を提案する。
次に、Gibs sampler を用いて遅延真のラベルを効率的に推測できる LCCN の動的ラベル回帰法を導出する。
提案手法は,サンプルのミニバッチから事前の任意チューニングを回避するため,ノイズ遷移の安定な更新を保護している。
論文 参考訳(メタデータ) (2023-02-19T15:24:37Z) - Class Prototype-based Cleaner for Label Noise Learning [73.007001454085]
半教師付き学習法は、雑音ラベル学習問題に対する現在のSOTAソリューションである。
textbfClass textbfPrototype-based label textbfCleaner。
論文 参考訳(メタデータ) (2022-12-21T04:56:41Z) - Identifying Hard Noise in Long-Tailed Sample Distribution [71.8462682319137]
NLT(Noisy Long-Tailed Classification)を紹介する。
ほとんどのノイズ除去法は、ハードノイズを特定するのに失敗する。
我々はH2E(Hard-to-Easy)と呼ばれる反復的な雑音学習フレームワークを設計する。
論文 参考訳(メタデータ) (2022-07-27T09:03:03Z) - Uncertainty-Aware Learning Against Label Noise on Imbalanced Datasets [23.4536532321199]
不整合データセットのラベルノイズを処理するための不確かさを意識したラベル補正フレームワークを提案する。
本研究では,不均衡なデータセットのラベルノイズを処理するために,不確かさを意識したラベル補正フレームワークを提案する。
論文 参考訳(メタデータ) (2022-07-12T11:35:55Z) - UNICON: Combating Label Noise Through Uniform Selection and Contrastive
Learning [89.56465237941013]
UNICONは,高ラベル雑音に対して頑健な,シンプルで効果的なサンプル選択法である。
90%のノイズレートでCIFAR100データセットの最先端データよりも11.4%改善した。
論文 参考訳(メタデータ) (2022-03-28T07:36:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。