論文の概要: Block Selection Method for Using Feature Norm in Out-of-distribution Detection

• arxiv url: http://arxiv.org/abs/2212.02295v1
• Date: Mon, 5 Dec 2022 14:19:21 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-06 17:41:49.783958
• Title: Block Selection Method for Using Feature Norm in Out-of-distribution Detection
• Title（参考訳）: 分布外検出における特徴ノルムのブロック選択法
• Authors: Yeonguk Yu, Sungho Shin, Seongju Lee, Changhyun Jun, Kyoobin Lee
• Abstract要約: 特徴マップのノルムであるFeatureNormと、IDとOODに対するFeatureNormの比率であるNormRatioからなるフレームワークを提案する。 特に、IDのFeatureNormとOODのFeatureNormの最大の違いを提供するブロックを選択するために、IDトレーニングサンプルから擬似OODとしてJigsawパズルイメージを作成し、NormRatioを計算する。 適切なブロックが選択された後、FeatureNormによるOOD検出は、CIFAR10ベンチマークでFPR95を52.77%、最大48.53%削減することで、他のOOD検出方法より優れている。
• 参考スコア（独自算出の注目度）: 5.486046841722322
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Detecting out-of-distribution (OOD) inputs during the inference stage is crucial for deploying neural networks in the real world. Previous methods commonly relied on the output of a network derived from the highly activated feature map. In this study, we first revealed that a norm of the feature map obtained from the other block than the last block can be a better indicator of OOD detection. Motivated by this, we propose a simple framework consisting of FeatureNorm: a norm of the feature map and NormRatio: a ratio of FeatureNorm for ID and OOD to measure the OOD detection performance of each block. In particular, to select the block that provides the largest difference between FeatureNorm of ID and FeatureNorm of OOD, we create Jigsaw puzzle images as pseudo OOD from ID training samples and calculate NormRatio, and the block with the largest value is selected. After the suitable block is selected, OOD detection with the FeatureNorm outperforms other OOD detection methods by reducing FPR95 by up to 52.77% on CIFAR10 benchmark and by up to 48.53% on ImageNet benchmark. We demonstrate that our framework can generalize to various architectures and the importance of block selection, which can improve previous OOD detection methods as well.
• Abstract（参考訳）: 推論段階でのアウト・オブ・ディストリビューション(OOD)入力の検出は、ニューラルネットワークを現実世界にデプロイするために不可欠である。 以前の方法は、高活性化された特徴マップから派生したネットワークの出力に一般的に依存していた。 本研究では,まず,最後のブロック以外のブロックから得られる特徴マップのノルムが,ood検出の指標として優れていることを明らかにした。 そこで我々は,特徴マップのノルムであるFeatureNormと,各ブロックのOOD検出性能を測定するためのFeatureNorm for IDとOODの比率であるNormRatioからなる,シンプルなフレームワークを提案する。 特に、IDのFeatureNormとOODのFeatureNormの最大の違いを提供するブロックを選択するために、IDトレーニングサンプルから擬似OODとしてJigsawパズルイメージを作成し、NormRatioを計算し、最大値のブロックを選択する。 適切なブロックが選択された後、FeatureNormによるOOD検出は、CIFAR10ベンチマークでFPR95を52.77%、ImageNetベンチマークで48.53%削減することで、他のOOD検出方法よりも優れている。 我々は,従来のood検出法を改善できる様々なアーキテクチャとブロック選択の重要性を,フレームワークが一般化できることを実証する。

関連論文リスト

• The Best of Both Worlds: On the Dilemma of Out-of-distribution Detection [75.65876949930258]
  アウト・オブ・ディストリビューション(OOD)検出はモデル信頼性に不可欠である。 我々は,OODの一般化能力を秘かに犠牲にすることで,最先端手法のOOD検出性能が向上することを示す。
  論文  参考訳（メタデータ） (2024-10-12T07:02:04Z)
• Look Around and Find Out: OOD Detection with Relative Angles [24.369626931550794]
  本稿では, 分布内構造に対して計算されるOOD検出のための新しい角度に基づく計量法を提案する。 提案手法は, CIFAR-10 と ImageNet ベンチマークの最先端性能を実現し, FPR95 を 0.88% と 7.74% 削減した。
  論文  参考訳（メタデータ） (2024-10-06T15:36:07Z)
• Model-free Test Time Adaptation for Out-Of-Distribution Detection [62.49795078366206]
  我々はtextbfDistribution textbfDetection (abbr) のための非パラメトリックテスト時間 textbfAdaptation フレームワークを提案する。 Abbrは、オンラインテストサンプルを使用して、テスト中のモデル適応、データ分散の変更への適応性を向上させる。 複数のOOD検出ベンチマークにおける包括的実験により,abrの有効性を示す。
  論文  参考訳（メタデータ） (2023-11-28T02:00:47Z)
• Classifier-head Informed Feature Masking and Prototype-based Logit Smoothing for Out-of-Distribution Detection [27.062465089674763]
  ニューラルネットワークを現実世界にデプロイする際には、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。 1つの大きな課題は、ニューラルネットワークがOODデータに対して過信的な予測をすることです。 本稿では,新しい特徴マスキング戦略と新しいロジット平滑化戦略に基づく,効果的なポストホックOOD検出手法を提案する。
  論文  参考訳（メタデータ） (2023-10-27T12:42:17Z)
• From Global to Local: Multi-scale Out-of-distribution Detection [129.37607313927458]
  アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングプロセス中にラベルが見られない未知のデータを検出することを目的としている。 近年の表現学習の進歩により,距離に基づくOOD検出がもたらされる。 グローバルな視覚情報と局所的な情報の両方を活用する第1のフレームワークであるマルチスケールOOD検出(MODE)を提案する。
  論文  参考訳（メタデータ） (2023-08-20T11:56:25Z)
• Unleashing Mask: Explore the Intrinsic Out-of-Distribution Detection Capability [70.72426887518517]
  Out-of-Distribution(OOD)検出は、機械学習モデルを現実世界のアプリケーションにデプロイする際に、セキュアAIの必須の側面である。 本稿では,IDデータを用いた学習モデルのOOD識別能力を復元する新しい手法であるUnleashing Maskを提案する。 本手法では, マスクを用いて記憶した非定型サンプルを抽出し, モデルを微調整するか, 導入したマスクでプルーする。
  論文  参考訳（メタデータ） (2023-06-06T14:23:34Z)
• Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is All You Need [52.88953913542445]
  簡単な再構築手法を用いることで,OOD検出の性能が大幅に向上する可能性が示唆された。 我々は、OOD検出フレームワーク(MOOD)のプリテキストタスクとして、マスケ画像モデリング(Masked Image Modeling)を採用する。
  論文  参考訳（メタデータ） (2023-02-06T08:24:41Z)
• Boosting Out-of-distribution Detection with Typical Features [22.987563801433595]
  オフ・オブ・ディストリビューション(OOD)検出は、現実世界のシナリオにおけるディープニューラルネットワークの信頼性と安全性を保証するための重要なタスクである。 本稿では,その特徴を定式化してOODスコアを定式化して,信頼性の高い不確実性推定を実現することを提案する。 一般的なベンチマーク(CIFAR)と大きなラベル空間を持つ高解像度ベンチマーク(ImageNet)の両方において,本手法の優位性を評価する。
  論文  参考訳（メタデータ） (2022-10-09T08:44:22Z)
• A Simple Test-Time Method for Out-of-Distribution Detection [45.11199798139358]
  本稿では,OOD検出のための簡易なテスト時間線形訓練法を提案する。 分布外である入力画像の確率は、ニューラルネットワークが抽出した特徴と驚くほど線形に相関していることがわかった。 本稿では,提案手法のオンライン版を提案し,実世界のアプリケーションでより実用的な性能を実現する。
  論文  参考訳（メタデータ） (2022-07-17T16:02:58Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。