論文の概要: Rethinking Noise-Robust Training for Frozen Vision Foundation Models: A Cross-Dataset Benchmark with a Case Study of Small-Loss Failure

• arxiv url: http://arxiv.org/abs/2605.22591v1
• Date: Thu, 21 May 2026 15:02:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 16:35:42.315653
• Title: Rethinking Noise-Robust Training for Frozen Vision Foundation Models: A Cross-Dataset Benchmark with a Case Study of Small-Loss Failure
• Title（参考訳）: 凍結型視覚基礎モデルにおける騒音-腐食訓練の再考:小損失故障のケーススタディを用いたクロスデータセットベンチマーク
• Abstract要約: 軽微な分類ヘッドを持つ凍結視覚基礎モデル (VFM) は、医用画像の撮影にますます利用されている。 5つの医療データセット,3つのバックボーン,2つのノイズタイプ,5つのノイズレートにまたがる8つのノイズラベル手法のベンチマークを示す。 我々は,エビデンスに基づく指導と,実践的な勧告のための低信頼度特徴空間セレクタで締めくくる。
• 参考スコア（独自算出の注目度）: 7.512887610816016
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Frozen Vision Foundation Models (VFMs) with lightweight classification heads are increasingly used in medical imaging because they offer efficient and reproducible deployment. Yet noisy-label learning methods for this frozen-feature regime remain poorly understood, and most existing methods still rely on a small-loss assumption inherited from end-to-end training. We present a controlled benchmark of eight noisy-label methods across five medical datasets, three backbones, two noise types, and five noise rates (150 conditions, 6,000 training runs), evaluated with balanced accuracy. The benchmark shows that there is no universal winner: Friedman ranking over the 150 conditions yields $χ^2 = 333.2$ ($p = 4.77 \times 10^{-68}$), ELR wins the most conditions (49/150), while CUFIT attains the best mean rank (2.51). The practical cost of method choice grows sharply with noise severity, from 4.5pp on clean data to 18.8pp at asymmetric 40\% noise. To explain these benchmark-level patterns, we revisit the small-loss assumption in a representative high-risk regime. Under frozen DINOv2 features, clean and noisy loss distributions overlap by 53--61\%, and matched-rate clean-sample detection shows that prediction agreement is markedly more stable than loss ranking under asymmetric noise (3pp vs.\ 13pp precision drop). On ISIC2019 with asymmetric 40\% noise, Co-Teaching reaches 68\% overall accuracy while collapsing to 35.1\% balanced accuracy with zero recall on three minority classes. Together, these results recast noisy-label learning for frozen VFMs as a regime-aware method-selection problem rather than a search for a single dominant algorithm. We conclude with evidence-based guidance and a low-regret feature-space selector for practical recommendation.
• Abstract（参考訳）: 軽量な分類ヘッドを持つ凍結視覚基礎モデル(VFM)は、効率よく再現可能な展開を提供するため、医療画像にますます利用されている。 しかし、この凍結機能体制の雑音ラベル学習法はいまだに理解されておらず、既存のほとんどの手法は、エンド・ツー・エンドのトレーニングから受け継がれた小さな仮定に依存している。 本研究では,5つの医療データセット,3つのバックボーン,2つのノイズタイプ,5つのノイズレート(150条件,6,000のトレーニング実行)の8つのノイズラベル法を,バランスの取れた精度で評価した。 このベンチマークは普遍的な勝者が存在しないことを示している: フリードマンが150の条件をランク付けすると、$ ^2 = 333.2$$ (p = 4.77 \times 10^{-68}$)、ELRが最も高い条件(49/150)、CUFITが最高の平均ランク(2.51)を得る。 方法選択の実践的コストは、クリーンなデータの4.5ppから非対称な40\%のノイズで18.8ppまで、ノイズの重大さとともに急激に増大する。 これらのベンチマークレベルのパターンを説明するために、我々は、代表的ハイリスク・システマティクスにおける小さめの仮定を再考する。 凍結したDINOv2特性の下では, クリーンおよびノイズの損失分布は53--61\%に重なり, 一致したレートのクリーンサンプル検出により, 非対称雑音(3pp vs。 13ppの精度低下)。 ISIC2019では、非対称な40 %のノイズがあり、コティーチングは68 %の総合的精度に達し、35.1 %のバランスの取れた精度で3つの少数クラスでのリコールをゼロにする。 これらの結果から, フリーズVFMの雑音ラベル学習を, 1つの支配的アルゴリズムを探索するよりも, ルール対応の手法選択問題として再検討した。 我々は,エビデンスに基づく指導と,実践的な勧告のための低信頼度特徴空間セレクタで締めくくる。

関連論文リスト

• Error-Type-Aware Loss Reweighting for Robust Named Entity Recognition with Noisy LLM Labels [11.267113571494392]
  名前付きエンティティ認識のための誤り型認識損失再重み付けを提案する。 我々のアプローチは単純で効率的であり、追加のトレーニングリソースを必要としない。Wikigoldのノイズレベルが最大4.6ポイントで、データセットレベルのノイズレベルが15%から40%である場合、F1を0.8～2.0ポイント改善する。
  論文  参考訳（メタデータ） (2026-08-31T14:05:08Z)
• Forget or Fine-tune? A Comparative Study of Machine Unlearning Strategies for Noisy Label Correction [0.5647577824219207]
  ディープニューラルネットワークのトレーニングにおいて、ノイズラベルは依然として重要な課題である。 標準的なソリューションは、クリーン化されたデータセットのスクラッチからモデルをトレーニングすることです。 マシン・アンラーニングは計算的に効率的な代替手段として登場した。
  論文  参考訳（メタデータ） (2026-08-30T21:16:29Z)
• ER-KANs: Efficient and Robust Kolmogorov-Arnold Networks for Data-Scarce Scientific Machine Learning [0.0]
  トレーニングデータをSigma=0.1ノイズで劣化させた場合,ChebyKanのMSEは10.6倍に向上することを示した。 ER-KANは、ノイズの多いデータスカース設定をターゲットとした3つの設計選択を組み合わせる。
  論文  参考訳（メタデータ） (2026-08-14T16:15:37Z)
• Agentic Autoresearch for CT Reconstruction [6.987253902215927]
  5月低用量CT(ノイズリミット)と128ビュースパースビュー乳房タスクで26の手法をベンチマークした。 訓練された乳房モデルはすべて、再訓練せずにノイズ入力で再検査され、一致した雑音で別々に再訓練された。 ベンチマークは1つの勝者ではなく、統計的に区別できないトップメソッドの層を提供する。
  論文  参考訳（メタデータ） (2026-07-24T18:03:21Z)
• Traffic-Aware Randomized Smoothing for LLM-Based Network Intrusion Detection [1.4915002678801434]
  本稿では,侵入検知システムに対するTA-RS(Traffic-Aware Randomized Smoothing)を提案する。 ガウスノイズを制御可能部分空間(DC)にのみ注入する認証された防御法である。 2つのデータセットに対して、55-100%の認証精度を達成する。
  論文  参考訳（メタデータ） (2026-07-15T13:08:19Z)
• Can LLMs Learn to Reason Robustly under Noisy Supervision? [31.39996460068968]
  RLVRにおけるノイズラベル機構の体系的解析に向けた第一歩を踏み出す。 データ効率を低下させる非アクティブノイズラベルと、モデルを強化し、リスク回避するアクティブノイズラベルの2種類のノイズを区別する。 この力学によって動機づけられたオンラインラベルリファインメント(OLR)を提案する。
  論文  参考訳（メタデータ） (2026-04-05T06:30:50Z)
• Deconstructing the Failure of Ideal Noise Correction: A Three-Pillar Diagnosis [82.06444754727156]
  ノイズ補正法は,まだ訓練中の性能低下に悩まされていることを示す。 このことは、失敗が基本的に$T$推定の問題ではなく、より根深い欠陥に起因することを、説得力強く示している。 我々は、マクロ収束状態、微視的最適化ダイナミクス、ノイズラベルから何が学べるかについての情報理論的限界の3つのレベルをリンクする統合分析を提供する。
  論文  参考訳（メタデータ） (2026-03-13T13:53:04Z)
• ReSup: Reliable Label Noise Suppression for Facial Expression Recognition [20.74719263734951]
  本稿では、ReSupと呼ばれるより信頼性の高いノイズラベル抑圧手法を提案する。 最適な分布モデリングを実現するために、ReSupは全てのサンプルの類似度分布をモデル化する。 ノイズ決定結果の信頼性をさらに高めるため、ReSupは2つのネットワークを使ってノイズ抑制を共同で実現している。
  論文  参考訳（メタデータ） (2023-05-29T06:02:06Z)
• Latent Class-Conditional Noise Model [54.56899309997246]
  本稿では,ベイズ的枠組みの下での雑音遷移をパラメータ化するためのLatent Class-Conditional Noise Model (LCCN)を提案する。 次に、Gibs sampler を用いて遅延真のラベルを効率的に推測できる LCCN の動的ラベル回帰法を導出する。 提案手法は,サンプルのミニバッチから事前の任意チューニングを回避するため,ノイズ遷移の安定な更新を保護している。
  論文  参考訳（メタデータ） (2023-02-19T15:24:37Z)
• Class Prototype-based Cleaner for Label Noise Learning [73.007001454085]
  半教師付き学習法は、雑音ラベル学習問題に対する現在のSOTAソリューションである。 textbfClass textbfPrototype-based label textbfCleaner。
  論文  参考訳（メタデータ） (2022-12-21T04:56:41Z)
• Identifying Hard Noise in Long-Tailed Sample Distribution [71.8462682319137]
  NLT(Noisy Long-Tailed Classification)を紹介する。 ほとんどのノイズ除去法は、ハードノイズを特定するのに失敗する。 我々はH2E(Hard-to-Easy)と呼ばれる反復的な雑音学習フレームワークを設計する。
  論文  参考訳（メタデータ） (2022-07-27T09:03:03Z)
• Uncertainty-Aware Learning Against Label Noise on Imbalanced Datasets [23.4536532321199]
  不整合データセットのラベルノイズを処理するための不確かさを意識したラベル補正フレームワークを提案する。 本研究では,不均衡なデータセットのラベルノイズを処理するために,不確かさを意識したラベル補正フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-12T11:35:55Z)
• (Certified!!) Adversarial Robustness for Free! [116.6052628829344]
  逆方向の摂動が0.5の2ノルム以内であることに制約された場合,ImageNetでは71%の精度が証明された。 これらの結果は,モデルパラメータの微調整や再学習を必要とせず,事前学習した拡散モデルと画像分類器のみを用いて得られる。
  論文  参考訳（メタデータ） (2022-06-21T17:27:27Z)
• UNICON: Combating Label Noise Through Uniform Selection and Contrastive Learning [89.56465237941013]
  UNICONは,高ラベル雑音に対して頑健な,シンプルで効果的なサンプル選択法である。 90%のノイズレートでCIFAR100データセットの最先端データよりも11.4%改善した。
  論文  参考訳（メタデータ） (2022-03-28T07:36:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。