Fugu-MT 論文翻訳(概要): The hidden label-marginal biases of segmentation losses

論文の概要: The hidden label-marginal biases of segmentation losses

arxiv url: http://arxiv.org/abs/2104.08717v1
Date: Sun, 18 Apr 2021 04:59:39 GMT
ステータス: 処理完了
システム内更新日: 2021-04-20 13:54:18.770417
Title: The hidden label-marginal biases of segmentation losses
Title（参考訳）: セグメンテーション損失の隠れラベルマージ的バイアス
Authors: Bingyuan Liu, Jose Dolz, Adrian Galdran, Riadh Kobbi, Ismail Ben Ayed
Abstract要約: 我々は,クロスエントロピー(CE)とディース損失を関連付ける理論解析を開発した。 diceは不均衡解に対して本質的に偏りを持ち、ceは暗黙的に基底領域の比率を奨励する。ラベルマージバイアスを明示的に制御できる、原則的でシンプルなソリューションを提案します。
参考スコア（独自算出の注目度）: 17.493576319030115
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Most segmentation losses are arguably variants of the Cross-Entropy (CE) or Dice loss. In the literature, there is no clear consensus as to which of these losses is a better choice, with varying performances for each across different benchmarks and applications. We develop a theoretical analysis that links these two types of losses, exposing their advantages and weaknesses. First, we explicitly demonstrate that CE and Dice share a much deeper connection than previously thought: CE is an upper bound on both logarithmic and linear Dice losses. Furthermore, we provide an information-theoretic analysis, which highlights hidden label-marginal biases : Dice has an intrinsic bias towards imbalanced solutions, whereas CE implicitly encourages the ground-truth region proportions. Our theoretical results explain the wide experimental evidence in the medical-imaging literature, whereby Dice losses bring improvements for imbalanced segmentation. It also explains why CE dominates natural-image problems with diverse class proportions, in which case Dice might have difficulty adapting to different label-marginal distributions. Based on our theoretical analysis, we propose a principled and simple solution, which enables to control explicitly the label-marginal bias. Our loss integrates CE with explicit ${\cal L}_1$ regularization, which encourages label marginals to match target class proportions, thereby mitigating class imbalance but without losing generality. Comprehensive experiments and ablation studies over different losses and applications validate our theoretical analysis, as well as the effectiveness of our explicit label-marginal regularizers.
Abstract（参考訳）: ほとんどのセグメンテーション損失は、明らかにクロスエントロピー(CE)またはディース損失の変種である。文献では、これらの損失のどちらがよい選択であるかについての明確なコンセンサスはなく、ベンチマークやアプリケーションごとに異なるパフォーマンスがある。我々は,これら2種類の損失を関連付ける理論的解析を行い,その利点と弱点を明らかにした。まず、CE と Dice が以前考えられていたよりもはるかに深い接続を共有していることを明確に示す: CE は対数的損失と線型Dice の損失の両方の上限である。さらに,隠れたラベル・マージの偏りに注目した情報理論解析も提供する。diceは不均衡解に対して固有の偏りを持ち,ceは暗黙的に接地領域の比率を奨励する。以上の結果から,dice損失が不均衡分節化に改善をもたらす医学的画像化文献における広範な実験的な証拠を説明する。また、CEがクラス比が多様である自然像問題を支配している理由も説明されている。理論解析に基づき, ラベル・マージの偏りを明示的に制御できる, 原理的かつシンプルな解法を提案する。我々の損失はCEを明示的な${\cal L}_1$正規化と統合し、これはラベル境界が対象のクラス比に一致することを奨励し、クラス不均衡を緩和するが、一般性を損なうことはない。異なる損失に関する包括的実験とアブレーション研究は、我々の理論解析、および明示的なラベル・マージナル正規化器の有効性を検証する。

関連論文リスト

Centerline Boundary Dice Loss for Vascular Segmentation [6.988368827452061]
画像診断における血管セグメンテーションは形態学的および機能的評価を分析する上で重要な役割を担っている。中央のDice(clDice)損失のような伝統的な手法は、トポロジーの保存を確実にするが、幾何学的詳細を捉えることには失敗する。位相整合性と幾何ニュアンスを調和させる中心線境界Dice(cbDice)損失関数を導入する。
論文参考訳（メタデータ） (2024-07-01T17:58:44Z)
Less is More: Fewer Interpretable Region via Submodular Subset Selection [54.07758302264416]
本稿では,上述の画像帰属問題を部分モジュラ部分選択問題として再モデル化する。我々は、より正確な小さな解釈領域を発見するために、新しい部分モジュラー関数を構築する。正しく予測されたサンプルに対しては,HSIC-Attributionに対する平均4.9%と2.5%の利得で,Deletion and Insertionスコアを改善した。
論文参考訳（メタデータ） (2024-02-14T13:30:02Z)
Towards a Unified Analysis of Kernel-based Methods Under Covariate Shift [18.240776405802205]
再生カーネルヒルベルト空間における一般非パラメトリック手法の統一解析を提案する。本研究は, 損失関数ファミリーに属する一般損失について理論的に検討した。この結果は,2乗損失を用いた文献の最適結果と一致する。
論文参考訳（メタデータ） (2023-10-12T11:33:15Z)
Boundary Difference Over Union Loss For Medical Image Segmentation [30.75832534753879]
我々は、境界領域分割を導くために、ユニオン損失(境界DoU損失)に対する境界差という、シンプルで効果的な損失を開発した。私たちの損失はリージョンの計算にのみ依存するので、追加の損失を必要とせずに、実装やトレーニングが簡単になります。
論文参考訳（メタデータ） (2023-08-01T01:27:34Z)
Theoretical analysis and experimental validation of volume bias of soft Dice optimized segmentation maps in the context of inherent uncertainty [6.692460499366963]
最近のセグメンテーション法では、学習段階における損失関数の一部として、ソフトディースのような微分可能な代理計量を用いる。まず、ボリューム推定を、潜在的に本質的に不確実または曖昧なセグメンテーションから導出する方法を簡潔に説明する。ソフトなDice最適化は、Diceスコアやその他の測定値に対して改善された性能をもたらすが、本質的な不確実性の高いタスクに対してボリュームバイアスをもたらす可能性がある。
論文参考訳（メタデータ） (2022-11-08T11:04:52Z)
Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文参考訳（メタデータ） (2022-08-18T06:42:49Z)
Region Rebalance for Long-Tailed Semantic Segmentation [89.84860341946283]
まず、ピクセル再バランスによってこの問題に対処する主な課題を調査し、特定する。そして,本分析に基づいて,単純かつ効果的な領域再バランス方式を導出する。提案された領域再均衡スキームでは、最先端のBEiTはADE20K val集合上のmIoUで+0.7%上昇する。
論文参考訳（メタデータ） (2022-04-05T03:47:47Z)
Distribution of Classification Margins: Are All Data Equal? [61.16681488656473]
我々は理論的に動機付け、トレーニングセット上のマージン分布の曲線の下の領域が実際は一般化のよい尺度であることを実証的に示す。結果として生じる"高いキャパシティ"機能のサブセットは、異なるトレーニング実行間で一貫性がない。
論文参考訳（メタデータ） (2021-07-21T16:41:57Z)
KL Guided Domain Adaptation [88.19298405363452]
ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
論文参考訳（メタデータ） (2021-06-14T22:24:23Z)
Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
論文参考訳（メタデータ） (2020-12-19T15:24:04Z)
Joint Contrastive Learning for Unsupervised Domain Adaptation [20.799729748233343]
本稿では, 目標誤差に対して, より管理しやすくするために, 共同エラーを明示的に考慮する別の上限を提案する。連立比較学習を導入し, 連立誤差の最小化に欠かせない, クラスレベルの識別的特徴を見出す。 2つの実世界のデータセットの実験では、JCLが最先端の手法より優れていることが示されている。
論文参考訳（メタデータ） (2020-06-18T06:25:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。