論文の概要: Denoising diffusion models for out-of-distribution detection

• arxiv url: http://arxiv.org/abs/2211.07740v4
• Date: Thu, 20 Apr 2023 20:09:54 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-24 18:00:40.537247
• Title: Denoising diffusion models for out-of-distribution detection
• Title（参考訳）: 分布外検出のための拡散モデル
• Authors: Mark S. Graham, Walter H.L. Pinaya, Petru-Daniel Tudosiu, Parashkev Nachev, Sebastien Ourselin, M. Jorge Cardoso
• Abstract要約: 我々は,確率拡散モデル(DDPM)を自己エンコーダの復号化として活用する。 DDPMを用いてノイズレベルの範囲の入力を再構成し,結果の多次元再構成誤差を用いてアウト・オブ・ディストリビューション入力を分類する。
• 参考スコア（独自算出の注目度）: 2.113925122479677
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Out-of-distribution detection is crucial to the safe deployment of machine learning systems. Currently, unsupervised out-of-distribution detection is dominated by generative-based approaches that make use of estimates of the likelihood or other measurements from a generative model. Reconstruction-based methods offer an alternative approach, in which a measure of reconstruction error is used to determine if a sample is out-of-distribution. However, reconstruction-based approaches are less favoured, as they require careful tuning of the model's information bottleneck - such as the size of the latent dimension - to produce good results. In this work, we exploit the view of denoising diffusion probabilistic models (DDPM) as denoising autoencoders where the bottleneck is controlled externally, by means of the amount of noise applied. We propose to use DDPMs to reconstruct an input that has been noised to a range of noise levels, and use the resulting multi-dimensional reconstruction error to classify out-of-distribution inputs. We validate our approach both on standard computer-vision datasets and on higher dimension medical datasets. Our approach outperforms not only reconstruction-based methods, but also state-of-the-art generative-based approaches. Code is available at https://github.com/marksgraham/ddpm-ood.
• Abstract（参考訳）: 分散検出は、機械学習システムの安全な展開に不可欠である。 現在、教師なしの分布外検出は、生成モデルからの可能性または他の測定値の見積もりを利用する生成ベースのアプローチによって支配されている。 レコンストラクションに基づく手法は、サンプルが配布外であるかどうかを判断するために再構成誤差の尺度を使用する別のアプローチを提供する。 しかし、再構築に基づくアプローチは、良い結果を得るためにモデルの情報ボトルネック(潜伏次元のサイズなど)を慎重にチューニングする必要があるため、あまり好ましくない。 本研究では,拡散確率モデル(DDPM)を,ボトルネックが外部に制御される自己エンコーダを雑音の量で識別する手法として活用する。 DDPMを用いてノイズレベルの範囲の入力を再構成し,その結果の多次元再構成誤差を用いて分布外入力を分類する。 我々は、標準的なコンピュータビジョンデータセットと高次元医療データセットの両方にアプローチを検証する。 提案手法は, 復元法だけでなく, 最先端の生成法にも優れる。 コードはhttps://github.com/marksgraham/ddpm-oodで入手できる。

関連論文リスト

• Diffusion-based Layer-wise Semantic Reconstruction for Unsupervised Out-of-Distribution Detection [30.02748131967826]
  教師なしのアウト・オブ・ディストリビューション(OOD)検出は、未ラベルのIn-Distribution(ID)トレーニングサンプルからのみ学習することで、ドメイン外のデータを識別することを目的としている。 現在の再構成手法は, 画素/機能空間における入力と対応する生成物間の再構成誤差を測定することで, 優れた代替手法を提供する。 拡散に基づく階層的意味再構成手法を提案する。
  論文  参考訳（メタデータ） (2024-11-16T04:54:07Z)
• SEMRes-DDPM: Residual Network Based Diffusion Modelling Applied to Imbalanced Data [9.969882349165745]
  データマイニングと機械学習の分野では、一般的に使われている分類モデルは、不均衡なデータで効果的に学習することはできない。 古典的なオーバーサンプリング手法の多くは、データのローカル情報のみに焦点を当てたSMOTE技術に基づいている。 本稿では,SEMRes-DDPMのオーバーサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2024-03-09T14:01:04Z)
• Projection Regret: Reducing Background Bias for Novelty Detection via Diffusion Models [72.07462371883501]
  本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。 PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。 拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
  論文  参考訳（メタデータ） (2023-12-05T09:44:47Z)
• Direct Unsupervised Denoising [60.71146161035649]
  教師なしのデノイザは、MMSE推定のような単一の予測を直接生成しない。 本稿では,VAEと並んで決定論的ネットワークを訓練し,中心的な傾向を直接予測するアプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-27T13:02:12Z)
• AdjointDPM: Adjoint Sensitivity Method for Gradient Backpropagation of Diffusion Probabilistic Models [103.41269503488546]
  既存のカスタマイズ方法は、事前訓練された拡散確率モデルをユーザが提供する概念に合わせるために、複数の参照例にアクセスする必要がある。 本論文は、DPMカスタマイズの課題として、生成コンテンツ上で定義された差別化可能な指標が唯一利用可能な監督基準である場合に解決することを目的とする。 本稿では,拡散モデルから新しいサンプルを初めて生成するAdjointDPMを提案する。 次に、随伴感度法を用いて、損失の勾配をモデルのパラメータにバックプロパゲートする。
  論文  参考訳（メタデータ） (2023-07-20T09:06:21Z)
• Noise-to-Norm Reconstruction for Industrial Anomaly Detection and Localization [5.101905755052051]
  異常検出は幅広い応用があり、特に工業品質検査において重要である。 再構成に基づく手法では, サンプルの位置差を考慮せずに, 再構成誤差を用いて異常を検出する。 本研究では, 異常領域の不変な再構成を回避するため, ノイズ・ツー・ノーム・パラダイムを用いた再構成手法を提案する。
  論文  参考訳（メタデータ） (2023-07-06T08:06:48Z)
• Improving the Robustness of Summarization Models by Detecting and Removing Input Noise [50.27105057899601]
  本研究では,様々な種類の入力ノイズから,様々なデータセットやモデルサイズに対する性能損失を定量化する大規模な実験的検討を行った。 本稿では,モデル推論中の入力中のそのようなノイズを検出し,除去するための軽量な手法を提案する。
  論文  参考訳（メタデータ） (2022-12-20T00:33:11Z)
• Window-Based Distribution Shift Detection for Deep Neural Networks [21.73028341299301]
  本研究では,データストリームを受信したディープニューラルネットワーク(DNN)の正常動作をモニタリングする場合について検討する。 選択的予測原理を用いて,DNNの分布偏差検出手法を提案する。 我々の新しい検出法は、最先端技術よりもかなり少ない時間を消費しながら、オンパー以上の性能を発揮する。
  論文  参考訳（メタデータ） (2022-10-19T21:27:25Z)
• Self-Supervised Training with Autoencoders for Visual Anomaly Detection [61.62861063776813]
  我々は, 正規サンプルの分布を低次元多様体で支持する異常検出において, 特定のユースケースに焦点を当てた。 我々は、訓練中に識別情報を活用する自己指導型学習体制に適応するが、通常の例のサブ多様体に焦点をあてる。 製造領域における視覚異常検出のための挑戦的なベンチマークであるMVTec ADデータセットで、最先端の新たな結果を達成する。
  論文  参考訳（メタデータ） (2022-06-23T14:16:30Z)
• Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
  本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。 我々は,再建基準の代替として,異常スコアの代替尺度を提案した。 提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-03-24T08:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。