論文の概要: Out-of-distribution Detection by Cross-class Vicinity Distribution of
In-distribution Data
- arxiv url: http://arxiv.org/abs/2206.09385v2
- Date: Sun, 27 Aug 2023 07:22:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-30 01:54:52.639903
- Title: Out-of-distribution Detection by Cross-class Vicinity Distribution of
In-distribution Data
- Title(参考訳): 分布データのクラス間分布による分布外検出
- Authors: Zhilin Zhao and Longbing Cao and Kun-Yu Lin
- Abstract要約: 画像分類のためのディープニューラルネットワークは、トレーニングにおいて、インディストリビューション入力を対応する基底真理ラベルにマップすることしか学ばない。
これは、全てのサンプルが独立であり、同一に分散しているという仮定から生じる。
textitCross-class Vicinity Distributionは、複数のin-distributionサンプルを混合したアウト・オブ・ディストリビューションサンプルが、その構成成分の同じクラスを共有していないことを仮定して導入される。
- 参考スコア(独自算出の注目度): 36.66825830101456
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks for image classification only learn to map
in-distribution inputs to their corresponding ground truth labels in training
without differentiating out-of-distribution samples from in-distribution ones.
This results from the assumption that all samples are independent and
identically distributed (IID) without distributional distinction. Therefore, a
pretrained network learned from in-distribution samples treats
out-of-distribution samples as in-distribution and makes high-confidence
predictions on them in the test phase. To address this issue, we draw
out-of-distribution samples from the vicinity distribution of training
in-distribution samples for learning to reject the prediction on
out-of-distribution inputs. A \textit{Cross-class Vicinity Distribution} is
introduced by assuming that an out-of-distribution sample generated by mixing
multiple in-distribution samples does not share the same classes of its
constituents. We thus improve the discriminability of a pretrained network by
finetuning it with out-of-distribution samples drawn from the cross-class
vicinity distribution, where each out-of-distribution input corresponds to a
complementary label. Experiments on various in-/out-of-distribution datasets
show that the proposed method significantly outperforms the existing methods in
improving the capacity of discriminating between in- and out-of-distribution
samples.
- Abstract(参考訳): 画像分類のためのディープニューラルネットワークは、配信対象のサンプルと配信対象のサンプルを区別することなく、トレーニング中に、配信対象の入力を対応する基底真理ラベルにマッピングすることしか学習しない。
この結果は、すべてのサンプルが独立であり、分布的区別のない同一分布 (iid) である、という仮定から生じる。
そこで, 分布内サンプルから学習した事前学習ネットワークは, 分布外サンプルを分布内として扱い, テストフェーズにおける信頼度の高い予測を行う。
この問題に対処するために,学習用分布標本の近傍分布から分布標本を作成し,分布標本の予測を拒否する。
複数の分布サンプルを混合して生成された分配外サンプルは、その構成要素の同じクラスを共有しないことを仮定して、 \textit{cross-class near distribution} が導入された。
そこで我々は,各分布外入力が相補ラベルに対応するクロスクラス近傍分布から抽出された分布外サンプルを微調整することにより,事前学習ネットワークの識別性を向上させる。
各種分布データを用いた実験により,本手法は,分布内と分布外を識別する能力を向上させる上で,既存の手法よりも有意に優れていた。
関連論文リスト
- Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳(メタデータ) (2024-02-13T09:40:19Z) - Probabilistic Matching of Real and Generated Data Statistics in Generative Adversarial Networks [0.6906005491572401]
本稿では,あるデータ統計量の分布が実データの分布と一致することを確実にする手法を提案する。
提案手法を合成データセットと実世界のデータセットで評価し,提案手法の性能向上を実証した。
論文 参考訳(メタデータ) (2023-06-19T14:03:27Z) - Distribution Shift Inversion for Out-of-Distribution Prediction [57.22301285120695]
本稿では,OoD(Out-of-Distribution)予測のためのポータブル分布シフト変換アルゴリズムを提案する。
提案手法は,OoDアルゴリズムを広範囲に接続した場合に,一般的な性能向上をもたらすことを示す。
論文 参考訳(メタデータ) (2023-06-14T08:00:49Z) - Towards In-distribution Compatibility in Out-of-distribution Detection [30.49191281345763]
本稿では,深層モデルの上位設計と損失関数の両方を適応させることにより,新しい分布外検出法を提案する。
本手法は,最先端の分布検出性能を実現するとともに,分布内精度も向上する。
論文 参考訳(メタデータ) (2022-08-29T09:06:15Z) - Robust Calibration with Multi-domain Temperature Scaling [86.07299013396059]
我々は,複数の領域からのデータを活用することで,分散シフトを処理するシステムキャリブレーションモデルを開発した。
提案手法は,分布シフト時のキャリブレーションを改善するために,領域内のロバスト性を利用する。
論文 参考訳(メタデータ) (2022-06-06T17:32:12Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳(メタデータ) (2021-10-06T16:58:34Z) - Multi-Class Data Description for Out-of-distribution Detection [25.853322158250435]
Deep-MCDDは、分布外(OOD)サンプルを検出するだけでなく、分布内(ID)サンプルを分類するのに効果的です。
ガウス微分分析の概念をディープニューラルネットワークに統合することにより,クラス条件分布を学習する深層学習目標を提案する。
論文 参考訳(メタデータ) (2021-04-02T08:41:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。