論文の概要: A simple normalization technique using window statistics to improve the
out-of-distribution generalization in medical images
- arxiv url: http://arxiv.org/abs/2207.03366v1
- Date: Thu, 7 Jul 2022 15:14:37 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-08 14:05:03.824007
- Title: A simple normalization technique using window statistics to improve the
out-of-distribution generalization in medical images
- Title(参考訳): 医用画像の分布汎化を改善するためのウィンドウ統計を用いた簡易正規化手法
- Authors: Chengfeng Zhou, Songchang Chen, Chenming Xu, Jun Wang, Chun Zhang,
Juan Ye, Hefeng Huang, Dahong Qian
- Abstract要約: ウィンドウ正規化(WIN)と呼ばれる新しい正規化手法を提案する。
WINは、特徴のウィンドウ上で計算された局所統計と正規化統計を摂動する。
WIN-WINと呼ばれる新しい自己蒸留法を提案する。
- 参考スコア(独自算出の注目度): 7.4801918314640305
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Since data scarcity and data heterogeneity are prevailing for medical images,
well-trained Convolutional Neural Networks (CNNs) using previous normalization
methods may perform poorly when deployed to a new site. However, a reliable
model for real-world applications should be able to generalize well both on
in-distribution (IND) and out-of-distribution (OOD) data (e.g., the new site
data). In this study, we present a novel normalization technique called window
normalization (WIN), which is a simple yet effective alternative to existing
normalization methods. Specifically, WIN perturbs the normalizing statistics
with the local statistics computed on a window of features. This feature-level
augmentation technique regularizes the models well and improves their OOD
generalization significantly. Taking its advantage, we propose a novel
self-distillation method called WIN-WIN to further improve the OOD
generalization in classification. WIN-WIN is easily implemented with twice
forward passes and a consistency constraint, which can be a simple extension
for existing methods. Extensive experimental results on various tasks (such as
glaucoma detection, breast cancer detection, chromosome classification, optic
disc and cup segmentation, etc.) and datasets (26 datasets) demonstrate the
generality and effectiveness of our methods. The code is available at
https://github.com/joe1chief/windowNormalizaion.
- Abstract(参考訳): 医用画像にデータ不足とデータ不均一性が普及しているため、従来の正規化手法を用いたよく訓練された畳み込みニューラルネットワーク(CNN)は、新しいサイトにデプロイすると性能が低下する可能性がある。
しかし、現実のアプリケーションの信頼性の高いモデルは、in-distribution(IND)データとout-of-distriion(OOD)データ(例えば、新しいサイトデータ)の両方でうまく一般化できるべきである。
本研究では,既存の正規化手法に対する単純かつ効果的な代替手段である,ウィンドウ正規化(win)と呼ばれる新しい正規化手法を提案する。
具体的には、WINは特徴のウィンドウ上で計算された局所統計と正規化統計を摂動する。
この機能レベルの拡張技術はモデルを適切に正規化し、OOD一般化を大幅に改善する。
その利点を活かし, 分類におけるオード一般化をさらに改善するために, win-win と呼ばれる新しい自己蒸留法を提案する。
WIN-WINは2倍のフォワードパスと、既存のメソッドの単純な拡張である一貫性制約で容易に実装できる。
緑内障検診,乳癌検診,染色体分類,光ディスクとカップセグメンテーションなど) およびデータセット(26データセット) による広範囲な実験結果から, 本手法の汎用性と有効性が確認された。
コードはhttps://github.com/joe1chief/windownormalizaionで入手できる。
関連論文リスト
- Normality Learning-based Graph Anomaly Detection via Multi-Scale
Contrastive Learning [61.57383634677747]
グラフ異常検出(GAD)は、機械学習やデータマイニングにおいて注目を集めている。
本稿では,マルチスケールコントラスト学習ネットワーク(NLGAD,略語)による正規性学習に基づくGADフレームワークを提案する。
特に,提案アルゴリズムは,最先端手法と比較して検出性能(最大5.89%のAUCゲイン)を向上させる。
論文 参考訳(メタデータ) (2023-09-12T08:06:04Z) - Context Normalization Layer with Applications [0.1499944454332829]
本研究では,画像データに対する文脈正規化と呼ばれる新しい正規化手法を提案する。
各サンプルの特性に基づいて特徴のスケーリングを調整し、モデルの収束速度と性能を改善する。
文脈正規化の有効性は様々なデータセットで示され、その性能は他の標準正規化手法と比較される。
論文 参考訳(メタデータ) (2023-03-14T06:38:17Z) - Adversarial Style Augmentation for Domain Generalization [41.72506801753435]
本稿では,より効率的な統計摂動を発生させることにより,より広いスタイル空間を探索する,新しいAdrial Style Augmentation (ASA)手法を提案する。
ASA の応用を容易にするため,プラグイン・アンド・プレイ方式で ASA メソッドをインスタンス化するシンプルなモジュールである AdvStyle を設計した。
本手法は,PACSデータセット上での単一ソース一般化条件下での競合よりも優れていた。
論文 参考訳(メタデータ) (2023-01-30T03:52:16Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - Fake It Till You Make It: Near-Distribution Novelty Detection by
Score-Based Generative Models [54.182955830194445]
既存のモデルは、いわゆる"近く分布"設定で失敗するか、劇的な低下に直面します。
本稿では, スコアに基づく生成モデルを用いて, 合成近分布異常データを生成することを提案する。
本手法は,9つのノベルティ検出ベンチマークにおいて,近分布ノベルティ検出を6%改善し,最先端のノベルティ検出を1%から5%パスする。
論文 参考訳(メタデータ) (2022-05-28T02:02:53Z) - Distribution Mismatch Correction for Improved Robustness in Deep Neural
Networks [86.42889611784855]
正規化法は ノイズや入力の腐敗に関して 脆弱性を増大させる
本稿では,各層の活性化分布に適応する非教師なし非パラメトリック分布補正法を提案する。
実験により,提案手法は画像劣化の激しい影響を効果的に低減することを示した。
論文 参考訳(メタデータ) (2021-10-05T11:36:25Z) - Task-agnostic Continual Learning with Hybrid Probabilistic Models [75.01205414507243]
分類のための連続学習のためのハイブリッド生成識別手法であるHCLを提案する。
フローは、データの配布を学習し、分類を行い、タスクの変更を特定し、忘れることを避けるために使用される。
本研究では,スプリット-MNIST,スプリット-CIFAR,SVHN-MNISTなどの連続学習ベンチマークにおいて,HCLの強い性能を示す。
論文 参考訳(メタデータ) (2021-06-24T05:19:26Z) - TELESTO: A Graph Neural Network Model for Anomaly Classification in
Cloud Services [77.454688257702]
機械学習(ML)と人工知能(AI)はITシステムの運用とメンテナンスに適用される。
1つの方向は、修復自動化を可能にするために、繰り返し発生する異常タイプを認識することである。
与えられたデータの次元変化に不変な手法を提案する。
論文 参考訳(メタデータ) (2021-02-25T14:24:49Z) - Correct Normalization Matters: Understanding the Effect of Normalization
On Deep Neural Network Models For Click-Through Rate Prediction [3.201333208812837]
本研究では,LayerNormをベースとした新しい効果的な正規化手法を提案する。
正規化の分散が主な役割を担い、本研究に説明を与える。
論文 参考訳(メタデータ) (2020-06-23T04:35:22Z) - Frustratingly Simple Domain Generalization via Image Stylization [27.239024949033496]
畳み込みニューラルネットワーク(CNN)は,標準分類設定において優れた性能を示す。
CNNは、異なる統計を持つ新しいドメインに容易に一般化しない。
我々は、非常に単純で効果的な手法、すなわち、このバイアスを、スタイリングされた画像でデータセットを増強することで補正することを示した。
論文 参考訳(メタデータ) (2020-06-19T16:20:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。