論文の概要: Entropy Minimization without Model Collapse: Mitigating Prediction Bias in Medical Imaging
- arxiv url: http://arxiv.org/abs/2606.02339v1
- Date: Mon, 01 Jun 2026 14:48:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:32.296957
- Title: Entropy Minimization without Model Collapse: Mitigating Prediction Bias in Medical Imaging
- Title(参考訳): モデル崩壊のないエントロピー最小化 : 医用画像における予測バイアスの緩和
- Authors: Tim Nielen, Sameer Ambekar, Johannes Kiechle, Daniel M. Lang, Julia A. Schnabel,
- Abstract要約: エントロピーの最小化はテスト時間適応の主要な目的であるが、その失敗モードであるモデル崩壊は理解されていない。
本稿では,この障害モードを特に対象とするバイアス補正対象である分散シフトバイアス低減(DSBR)を提案する。
DSBRはテスト時間適応を一定に安定化し,モデル崩壊を防止し,最先端の手法に適合し,性能を向上する。
- 参考スコア(独自算出の注目度): 2.651701169890824
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Entropy minimization (EM) is the dominant objective for test-time adaptation, yet its failure mode, model collapse, remains poorly understood. In this work, we show that distribution shifts can cause feature clusters corresponding to distinct classes in the model's representation space to merge, while the decision boundary remains fixed. This induces a systematic skew in the predicted class distribution, referred to as prediction bias. Prediction bias refers to a shift in the predicted class distribution, with some classes overrepresented and others suppressed. We show that entropy minimization amplifies this prediction bias by tightening the existing clusters, reinforcing the incorrect groupings until all predictions collapse to a trivial solution. Next, to demonstrate the significance of prediction bias and mitigate it, we further propose Distribution Shift Bias Reduction (DSBR), a bias-correcting objective that specifically targets this failure mode by equalizing the contribution of each predicted class to the unsupervised entropy minimization loss. To study this failure mode, we design suitable adaptation settings using four medical-imaging datasets and additionally evaluate on ImageNet-C. We find that DSBR consistently stabilizes test-time adaptation, prevents model collapse, and matches or outperforms state-of-the-art methods. Moreover, DSBR operates solely at test-time.
- Abstract(参考訳): エントロピー最小化(EM)はテスト時間適応の主要な目的であるが、その失敗モード、モデル崩壊は理解されていない。
本研究では,分散シフトがモデル表現空間の異なるクラスに対応する特徴クラスタをマージし,決定境界が固定されたままにすることができることを示す。
これは予測クラス分布において、予測バイアスと呼ばれるシステマティックスキューを誘導する。
予測バイアスは、予測されたクラス分布の変化を指し、一部のクラスは過剰に表現され、他のクラスは抑制される。
エントロピー最小化は、全ての予測が自明な解に崩壊するまで、既存のクラスタを締め付け、誤ったグループ化を補強することにより、この予測バイアスを増幅することを示す。
次に、予測バイアスの重要性を実証し、それを緩和するために、各予測クラスの教師なしエントロピー最小化損失への寄与を等しくすることで、この障害モードを特に対象とするバイアス補正対象である分散シフトバイアス削減(DSBR)を提案する。
この障害モードを研究するために、4つの医用画像データセットを用いて適切な適応設定を設計し、ImageNet-Cで評価する。
DSBRはテスト時間適応を一定に安定化し,モデル崩壊を防止し,最先端の手法に適合し,性能を向上する。
さらにDSBRはテスト時にのみ動作する。
関連論文リスト
- Dual Strategies for Test-Time Adaptation [37.36806938657306]
従来のテスト時間適応アプローチは、ごく少数のテストサンプルを使用してモデルを適応させるのが一般的である。
本稿では,より大規模で多様なテストサンプルを活用することで,分散シフトによる性能向上を実現する新しいフレームワークであるDualTTAを紹介する。
論文 参考訳(メタデータ) (2026-04-19T17:04:36Z) - Micro-Diffusion Compression - Binary Tree Tweedie Denoising for Online Probability Estimation [0.0]
適応統計モデルにより生成される確率推定を改善するために, マイクロ拡散復調層を導入する。
Midicothは、適応型PPMモデル、長距離マッチングモデル、トレーベースワードモデル、高階コンテキストモデル、マイクロ拡散デノイザの5つの完全オンラインコンポーネントを最終段階として組み合わせている。
論文 参考訳(メタデータ) (2026-03-09T16:59:24Z) - Nonparametric Distribution Regression Re-calibration [3.0204520109309847]
全体的な予測誤差の最小化は、キャリブレーションよりも情報を優先することをモデルに推奨する。
安全クリティカルな設定では、信頼に値する不確実性推定は狭い間隔よりも価値があることが多い。
条件付きカーネル平均埋め込みに基づく新しい非パラメトリック再校正アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-02-13T11:48:43Z) - Causal Inference as Distribution Adaptation: Optimizing ATE Risk under Propensity Uncertainty [0.0]
我々は、分散シフトの下で、ATE推定をテキストドメイン適応問題として再フレーミングする。
結果モデルの共同学習を行うためのtextbfJoint Robust Estimator (JRE) を提案する。
論文 参考訳(メタデータ) (2025-12-19T21:40:46Z) - Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳(メタデータ) (2024-05-29T01:32:17Z) - Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [65.21599711087538]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。
事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。
本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文 参考訳(メタデータ) (2024-03-18T05:49:45Z) - Source-Free Unsupervised Domain Adaptation with Hypothesis Consolidation
of Prediction Rationale [53.152460508207184]
Source-Free Unsupervised Domain Adaptation (SFUDA)は、モデルがターゲットのドメインラベルやソースドメインデータにアクセスせずに新しいドメインに適応する必要がある、という課題である。
本稿では,各サンプルについて複数の予測仮説を考察し,各仮説の背景にある理論的根拠について考察する。
最適性能を達成するために,モデル事前適応,仮説統合,半教師付き学習という3段階の適応プロセスを提案する。
論文 参考訳(メタデータ) (2024-02-02T05:53:22Z) - Patch-level Gaze Distribution Prediction for Gaze Following [49.93340533068501]
トレーニング後の視線に対するパッチ分布予測(PDP)手法を提案する。
本モデルでは,アノテーションの差が大きい画像上でのより優れたヒートマップ分布を予測することにより,MSE損失の正則化を図っている。
実験により,ターゲット予測とイン/アウト予測サブタスクのギャップを埋めるモデルが得られた。
論文 参考訳(メタデータ) (2022-11-20T19:25:15Z) - Ensembling over Classifiers: a Bias-Variance Perspective [13.006468721874372]
Pfau (2013) による偏差分解の拡張の上に構築し, 分類器のアンサンブルの挙動に関する重要な知見を得る。
条件付き推定は必然的に既約誤差を生じさせることを示す。
経験的に、標準的なアンサンブルはバイアスを減少させ、この予期せぬ減少のために、分類器のアンサンブルがうまく機能するかもしれないという仮説を立てる。
論文 参考訳(メタデータ) (2022-06-21T17:46:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。