論文の概要: Do We Really Need Dice? The Hidden Region-Size Biases of Segmentation
Losses
- arxiv url: http://arxiv.org/abs/2104.08717v4
- Date: Sun, 19 Nov 2023 21:19:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-22 21:38:28.755788
- Title: Do We Really Need Dice? The Hidden Region-Size Biases of Segmentation
Losses
- Title（参考訳）: 本当にサイコロが必要なの?
セグメンテーション損失の隠れた地域規模バイアス
- Authors: Bingyuan Liu, Jose Dolz, Adrian Galdran, Riadh Kobbi, Ismail Ben Ayed
- Abstract要約: ほとんどのセグメンテーション損失は、明らかにクロスエントロピー(CE)またはディース損失の変種である。
我々は、CEとDiceが以前考えられていたよりもはるかに深い関係を持っていることを示す理論解析を提供する。
本稿では,領域サイズの偏差を明示的に制御できる,原理的でシンプルな解を提案する。
- 参考スコア（独自算出の注目度）: 19.669173092632
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most segmentation losses are arguably variants of the Cross-Entropy (CE) or
Dice losses. On the surface, these two categories of losses seem unrelated, and
there is no clear consensus as to which category is a better choice, with
varying performances for each across different benchmarks and applications.
Furthermore, it is widely argued within the medical-imaging community that Dice
and CE are complementary, which has motivated the use of compound CE-Dice
losses. In this work, we provide a theoretical analysis, which shows that CE
and Dice share a much deeper connection than previously thought. First, we show
that, from a constrained-optimization perspective, they both decompose into two
components, i.e., a similar ground-truth matching term, which pushes the
predicted foreground regions towards the ground-truth, and a region-size
penalty term imposing different biases on the size of the predicted regions.
Then, we provide bound relationships and an information-theoretic analysis,
which uncover hidden region-size biases: Dice has an intrinsic bias towards
specific extremely imbalanced solutions, whereas CE implicitly encourages the
ground-truth region proportions. Our theoretical results explain the wide
experimental evidence in the medical-imaging literature, whereby Dice losses
bring improvements for imbalanced segmentation. Based on our theoretical
analysis, we propose a principled and simple solution, which enables to control
explicitly the region-size bias. The proposed method integrates CE with
explicit terms based on L1 or the KL divergence, which encourage segmenting
region proportions to match target class proportions, thereby mitigating class
imbalance but without losing generality. Comprehensive experiments and ablation
studies over different losses and applications validate our theoretical
analysis, as well as the effectiveness of explicit and simple region-size
terms.
- Abstract（参考訳）: ほとんどのセグメンテーション損失はクロスエントロピー(CE)またはディース損失の変種である。
表面的には、これら2つの損失のカテゴリは無関係に見え、どのカテゴリがより良い選択であるかについての明確なコンセンサスはなく、それぞれのベンチマークやアプリケーションのパフォーマンスが異なる。
さらに、Dice と CE は相補的であり、複合 CE-Dice の損失を動機付けていると広く主張されている。
本研究では,CE と Dice が従来考えられていたよりもはるかに深い関係を持つことを示す理論解析を行う。
まず, 制約最適化の観点からは, 2つの要素,すなわち, 予測された前景領域を接地構造へ押し上げる類似の接地構造マッチング項と, 予測された領域の大きさに異なるバイアスを与える地域規模ペナルティ項に分解することを示した。
Diceは特定の極端に不均衡な解に対して本質的な偏りを持ち、CEは暗黙的に地平線領域の比例を奨励する。
以上の結果から,dice損失が不均衡分節化に改善をもたらす医学的画像化文献における広範な実験的な証拠を説明する。
理論解析に基づいて,領域サイズのバイアスを明示的に制御できる,原理的かつ簡単な解法を提案する。
提案手法は,CE を L1 あるいは KL の発散に基づく明示的な用語と統合し,対象のクラス比にマッチする分節領域比を奨励し,クラス不均衡を緩和するが,一般性を損なうことはない。
異なる損失と応用に関する包括的実験とアブレーションの研究は、我々の理論解析と、明示的かつ単純な領域サイズ項の有効性を検証する。
関連論文リスト
- Centerline Boundary Dice Loss for Vascular Segmentation [6.988368827452061]
画像診断における血管セグメンテーションは形態学的および機能的評価を分析する上で重要な役割を担っている。
中央のDice(clDice)損失のような伝統的な手法は、トポロジーの保存を確実にするが、幾何学的詳細を捉えることには失敗する。
位相整合性と幾何ニュアンスを調和させる中心線境界Dice(cbDice)損失関数を導入する。
論文 参考訳（メタデータ） (2024-07-01T17:58:44Z) - Less is More: Fewer Interpretable Region via Submodular Subset Selection [54.07758302264416]
本稿では,上述の画像帰属問題を部分モジュラ部分選択問題として再モデル化する。
我々は、より正確な小さな解釈領域を発見するために、新しい部分モジュラー関数を構築する。
正しく予測されたサンプルに対しては,HSIC-Attributionに対する平均4.9%と2.5%の利得で,Deletion and Insertionスコアを改善した。
論文 参考訳（メタデータ） (2024-02-14T13:30:02Z) - Towards a Unified Analysis of Kernel-based Methods Under Covariate Shift [18.240776405802205]
再生カーネルヒルベルト空間における一般非パラメトリック手法の統一解析を提案する。
本研究は, 損失関数ファミリーに属する一般損失について理論的に検討した。
この結果は,2乗損失を用いた文献の最適結果と一致する。
論文 参考訳（メタデータ） (2023-10-12T11:33:15Z) - Boundary Difference Over Union Loss For Medical Image Segmentation [30.75832534753879]
我々は、境界領域分割を導くために、ユニオン損失(境界DoU損失)に対する境界差という、シンプルで効果的な損失を開発した。
私たちの損失はリージョンの計算にのみ依存するので、追加の損失を必要とせずに、実装やトレーニングが簡単になります。
論文 参考訳（メタデータ） (2023-08-01T01:27:34Z) - Theoretical analysis and experimental validation of volume bias of soft
Dice optimized segmentation maps in the context of inherent uncertainty [6.692460499366963]
最近のセグメンテーション法では、学習段階における損失関数の一部として、ソフトディースのような微分可能な代理計量を用いる。
まず、ボリューム推定を、潜在的に本質的に不確実または曖昧なセグメンテーションから導出する方法を簡潔に説明する。
ソフトなDice最適化は、Diceスコアやその他の測定値に対して改善された性能をもたらすが、本質的な不確実性の高いタスクに対してボリュームバイアスをもたらす可能性がある。
論文 参考訳（メタデータ） (2022-11-08T11:04:52Z) - Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。
本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。
もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文 参考訳（メタデータ） (2022-08-18T06:42:49Z) - Region Rebalance for Long-Tailed Semantic Segmentation [89.84860341946283]
まず、ピクセル再バランスによってこの問題に対処する主な課題を調査し、特定する。
そして,本分析に基づいて,単純かつ効果的な領域再バランス方式を導出する。
提案された領域再均衡スキームでは、最先端のBEiTはADE20K val集合上のmIoUで+0.7%上昇する。
論文 参考訳（メタデータ） (2022-04-05T03:47:47Z) - Distribution of Classification Margins: Are All Data Equal? [61.16681488656473]
我々は理論的に動機付け、トレーニングセット上のマージン分布の曲線の下の領域が実際は一般化のよい尺度であることを実証的に示す。
結果として生じる"高いキャパシティ"機能のサブセットは、異なるトレーニング実行間で一貫性がない。
論文 参考訳（メタデータ） (2021-07-21T16:41:57Z) - KL Guided Domain Adaptation [88.19298405363452]
ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。
ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。
確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
論文 参考訳（メタデータ） (2021-06-14T22:24:23Z) - Fundamental Limits and Tradeoffs in Invariant Representation Learning [99.2368462915979]
多くの機械学習アプリケーションは、2つの競合する目標を達成する表現を学習する。
ミニマックスゲーム理論の定式化は、精度と不変性の基本的なトレードオフを表す。
分類と回帰の双方において,この一般的かつ重要な問題を情報論的に解析する。
論文 参考訳（メタデータ） (2020-12-19T15:24:04Z) - Joint Contrastive Learning for Unsupervised Domain Adaptation [20.799729748233343]
本稿では, 目標誤差に対して, より管理しやすくするために, 共同エラーを明示的に考慮する別の上限を提案する。
連立比較学習を導入し, 連立誤差の最小化に欠かせない, クラスレベルの識別的特徴を見出す。
2つの実世界のデータセットの実験では、JCLが最先端の手法より優れていることが示されている。
論文 参考訳（メタデータ） (2020-06-18T06:25:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。