論文の概要: Shaken, and Stirred: Long-Range Dependencies Enable Robust Outlier Detection with PixelCNN++

• arxiv url: http://arxiv.org/abs/2208.13579v2
• Date: Sat, 20 May 2023 20:14:06 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-24 05:44:58.654687
• Title: Shaken, and Stirred: Long-Range Dependencies Enable Robust Outlier Detection with PixelCNN++
• Title（参考訳）: Shaken, and Stirred: PixelCNN++でロバスト外乱検出を可能にする長距離依存性
• Authors: Barath Mohan Umapathi, Kushal Chauhan, Pradeep Shenoy, Devarajan Sridharan
• Abstract要約: PixelCNN++のバイアスは、主にローカル依存に基づく予測から生じる。 低レベルのバイアスを緩和し、長距離依存関係の寄与を分離する。 5つのグレースケールと6つの自然画像データセットを用いて、我々のアプローチを広範囲にテストし、それらが最先端の異常検出を達成または超えることを示す。
• 参考スコア（独自算出の注目度）: 6.736754991468853
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reliable outlier detection is critical for real-world deployment of deep learning models. Although extensively studied, likelihoods produced by deep generative models have been largely dismissed as being impractical for outlier detection. First, deep generative model likelihoods are readily biased by low-level input statistics. Second, many recent solutions for correcting these biases are computationally expensive, or do not generalize well to complex, natural datasets. Here, we explore outlier detection with a state-of-the-art deep autoregressive model: PixelCNN++. We show that biases in PixelCNN++ likelihoods arise primarily from predictions based on local dependencies. We propose two families of bijective transformations -- ``stirring'' and ``shaking'' -- which ameliorate low-level biases and isolate the contribution of long-range dependencies to PixelCNN++ likelihoods. These transformations are inexpensive and readily computed at evaluation time. We test our approaches extensively with five grayscale and six natural image datasets and show that they achieve or exceed state-of-the-art outlier detection, particularly on datasets with complex, natural images. We also show that our solutions work well with other types of generative models (generative flows and variational autoencoders) and that their efficacy is governed by each model's reliance on local dependencies. In sum, lightweight remedies suffice to achieve robust outlier detection on image data with deep generative models.
• Abstract（参考訳）: ディープラーニングモデルの現実的な展開には、信頼性の高いアウトレーヤ検出が不可欠だ。 広範囲に研究されているが、深層生成モデルによって生み出される可能性は、異常検出には実用的でないとして、ほとんど無視されている。 第一に、深い生成モデルの可能性は、低レベルの入力統計によって容易に偏る。 第二に、これらのバイアスを修正するための最近の多くのソリューションは計算コストが高く、複雑な自然データセットにうまく一般化していない。 本稿では,現在最先端の深層自己回帰モデルであるPixelCNN++を用いて,外乱検出について検討する。 PixelCNN++のバイアスは、主にローカル依存に基づく予測から生じる。 低レベルのバイアスを緩和し、pixelcnn++の可能性に対する長距離依存関係の寄与を分離する、単射変換の2つのファミリー -- `stirring' と ``shaking'' -- を提案する。 これらの変換は安価で、評価時に容易に計算できる。 5つのグレースケールと6つの自然画像データセットを用いて我々のアプローチを広範囲にテストし、特に複雑な自然画像を持つデータセットにおいて、最先端の異常検出を達成または超えることを示す。 また、本手法は他の生成モデル(生成フローと変分オートエンコーダ)とうまく連携し、それらの有効性は各モデルが局所的依存に依存することによって制御されることを示す。 要約すると、軽量な修正は、深層生成モデルによる画像データのロバストな外れ値検出を実現するために十分である。

関連論文リスト

• Open-Set Deepfake Detection: A Parameter-Efficient Adaptation Method with Forgery Style Mixture [58.60915132222421]
  本稿では,顔偽造検出に汎用的かつパラメータ効率の高い手法を提案する。 フォージェリー・ソース・ドメインの多様性を増大させるフォージェリー・ミックス・フォーミュレーションを設計する。 設計したモデルは、トレーニング可能なパラメータを著しく減らし、最先端の一般化性を実現する。
  論文  参考訳（メタデータ） (2024-08-23T01:53:36Z)
• Exploring the Effectiveness of Dataset Synthesis: An application of Apple Detection in Orchards [68.95806641664713]
  本研究では,リンゴ樹の合成データセットを生成するための安定拡散2.1-baseの有用性について検討する。 我々は、現実世界のリンゴ検出データセットでリンゴを予測するために、YOLOv5mオブジェクト検出モデルを訓練する。 その結果、実世界の画像でトレーニングされたベースラインモデルと比較して、生成データでトレーニングされたモデルはわずかに性能が劣っていることがわかった。
  論文  参考訳（メタデータ） (2023-06-20T09:46:01Z)
• Semi-supervised Deep Learning for Image Classification with Distribution Mismatch: A Survey [1.5469452301122175]
  ディープラーニングモデルは、予測モデルをトレーニングするためにラベル付き観測の豊富な部分に依存します。 ラベル付きデータ観測を収集することは高価であり、ディープラーニングモデルの使用は理想的ではない。 多くの状況では、異なる非競合データソースが利用可能である。 これにより、ラベル付きデータセットと非ラベル付きデータセットの間にかなりの分散ミスマッチが発生するリスクが生じる。
  論文  参考訳（メタデータ） (2022-03-01T02:46:00Z)
• X-model: Improving Data Efficiency in Deep Learning with A Minimax Model [78.55482897452417]
  ディープラーニングにおける分類と回帰設定の両面でのデータ効率の向上を目標とする。 両世界の力を生かすために,我々は新しいX-モデルを提案する。 X-モデルは、特徴抽出器とタスク固有のヘッドの間でミニマックスゲームを行う。
  論文  参考訳（メタデータ） (2021-10-09T13:56:48Z)
• Efficient remedies for outlier detection with variational autoencoders [8.80692072928023]
  深層生成モデルによって計算される類似度は、ラベルなしデータによる外れ値検出の候補メトリックである。 理論的に定位された補正は、VAE推定値による鍵バイアスを容易に改善することを示す。 また,VAEのアンサンブル上で計算される確率の分散により,ロバストな外乱検出が可能となることを示す。
  論文  参考訳（メタデータ） (2021-08-19T16:00:58Z)
• Robust Out-of-Distribution Detection on Deep Probabilistic Generative Models [0.06372261626436676]
  アウト・オブ・ディストリビューション(OOD)検出は機械学習システムにおいて重要な課題である。 深い確率的生成モデルは、データサンプルの可能性を推定することによって、OODの検出を容易にする。 本稿では,外周露光を伴わない新しい検出指標を提案する。
  論文  参考訳（メタデータ） (2021-06-15T06:36:10Z)
• Contemplating real-world object classification [53.10151901863263]
  Barbuらが最近提案したObjectNetデータセットを再分析した。 日常の状況に物を含むこと。 分離されたオブジェクトにディープモデルを適用すると、元の論文のようにシーン全体ではなく、約20～30%の性能改善が得られます。
  論文  参考訳（メタデータ） (2021-03-08T23:29:59Z)
• Goal-directed Generation of Discrete Structures with Conditional Generative Models [85.51463588099556]
  本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
  論文  参考訳（メタデータ） (2020-10-05T20:03:13Z)
• Understanding Anomaly Detection with Deep Invertible Networks through Hierarchies of Distributions and Features [4.25227087152716]
  畳み込みネットワークは、任意の自然言語データセットでトレーニングされた場合、同様の低レベルの特徴分布を学習する。 inlier とoutlier の識別的特徴が高いレベルにある場合、異常検出は特に困難になる。 モデルバイアスとドメインが高レベルの差を検出する前に負の影響を除去する2つの方法を提案する。
  論文  参考訳（メタデータ） (2020-06-18T20:56:14Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)
• Granular Learning with Deep Generative Models using Highly Contaminated Data [0.0]
  品質問題のある実世界の画像データセット上で, 微粒な意味での異常検出のための深部生成モデルの最近の進歩を活用するためのアプローチを詳述する。 このアプローチは完全に教師なし(アノテーションは使用できない)だが、質的に画像の正確なセマンティックラベリングを提供するために示される。
  論文  参考訳（メタデータ） (2020-01-06T23:22:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。