Fugu-MT 論文翻訳(概要): GROOD: GRadient-aware Out-Of-Distribution detection in interpolated manifolds

論文の概要: GROOD: GRadient-aware Out-Of-Distribution detection in interpolated manifolds

arxiv url: http://arxiv.org/abs/2312.14427v1
Date: Fri, 22 Dec 2023 04:28:43 GMT
ステータス: 処理完了
システム内更新日: 2023-12-25 16:17:05.581841
Title: GROOD: GRadient-aware Out-Of-Distribution detection in interpolated manifolds
Title（参考訳）: GROOD:補間多様体における勾配認識外分布検出
Authors: Mostafa ElAraby, Sabyasachi Sahoo, Yann Pequignot, Paul Novello, Liam Paull
Abstract要約: ディープニューラルネットワーク(DNN)におけるアウト・オブ・ディストリビューション検出は、現実世界のデプロイメントにおいてリスクを引き起こす可能性がある。グラディエント・アウェア・アウトオフ・ディストリビューション検出を導入。ネイティブ多様体(Internative manifold, GROOD)は、勾配空間の識別力に依存する新しいフレームワークである。 GRODが最先端のベースラインの確立された堅牢性を上回ることを示す。
参考スコア（独自算出の注目度）: 12.727088216619386
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Deep neural networks (DNNs) often fail silently with over-confident predictions on out-of-distribution (OOD) samples, posing risks in real-world deployments. Existing techniques predominantly emphasize either the feature representation space or the gradient norms computed with respect to DNN parameters, yet they overlook the intricate gradient distribution and the topology of classification regions. To address this gap, we introduce GRadient-aware Out-Of-Distribution detection in interpolated manifolds (GROOD), a novel framework that relies on the discriminative power of gradient space to distinguish between in-distribution (ID) and OOD samples. To build this space, GROOD relies on class prototypes together with a prototype that specifically captures OOD characteristics. Uniquely, our approach incorporates a targeted mix-up operation at an early intermediate layer of the DNN to refine the separation of gradient spaces between ID and OOD samples. We quantify OOD detection efficacy using the distance to the nearest neighbor gradients derived from the training set, yielding a robust OOD score. Experimental evaluations substantiate that the introduction of targeted input mix-upamplifies the separation between ID and OOD in the gradient space, yielding impressive results across diverse datasets. Notably, when benchmarked against ImageNet-1k, GROOD surpasses the established robustness of state-of-the-art baselines. Through this work, we establish the utility of leveraging gradient spaces and class prototypes for enhanced OOD detection for DNN in image classification.
Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、オフ・オブ・ディストリビューション(OOD)サンプルの過信予測でサイレントに失敗することが多く、現実のデプロイメントにおいてリスクを生じさせる。既存の手法は主にDNNパラメータに関して計算される特徴表現空間や勾配ノルムを強調するが、それらは複雑な勾配分布と分類領域のトポロジを見落としている。このギャップに対処するために, 勾配空間の識別力に依存する新しい枠組みである補間多様体 (grood) における勾配認識外分布検出を導入する。このスペースを構築するために、GROODはOODの特徴を特に捉えるプロトタイプとともに、クラスプロトタイプに依存している。この手法はDNNの初期中間層において,IDとOODサンプル間の勾配空間の分離を改良するために,目的とする混合演算を取り入れている。トレーニングセットから最も近い隣接勾配までの距離を用いてOOD検出の有効性を定量化し,より堅牢なOODスコアを得た。実験的評価は、ターゲット入力混合の導入が勾配空間におけるIDとOODの分離を増幅し、多様なデータセット間で印象的な結果をもたらすことを裏付けるものである。特に、ImageNet-1kに対してベンチマークすると、GROODは最先端のベースラインの確立した堅牢性を上回る。本研究により,画像分類におけるDNNのOOD検出を向上するために,勾配空間とクラスプロトタイプを利用する方法を確立した。

関連論文リスト

Rethinking the Evaluation of Out-of-Distribution Detection: A Sorites Paradox [70.57120710151105]
既存のアウト・オブ・ディストリビューション(OOD)検出ベンチマークは、サンプルを新しいラベルでOODデータとして分類する。いくつかの限界OODサンプルは、実際には分布内(ID)サンプルに密接なセマンティック内容を持ち、OODサンプルをソリテスパラドックス(英語版)と判定する。この問題に対処するため,Incremental Shift OOD (IS-OOD) というベンチマークを構築した。
論文参考訳（メタデータ） (2024-06-14T09:27:56Z)
Optimizing OOD Detection in Molecular Graphs: A Novel Approach with Diffusion Models [71.39421638547164]
本稿では,入力分子と再構成グラフの類似性を比較する補助拡散モデルに基づくフレームワークを用いてOOD分子を検出することを提案する。 IDトレーニングサンプルの再構成に向けた生成バイアスのため、OOD分子の類似度スコアは検出を容易にするためにはるかに低い。本研究は,PGR-MOOD(PGR-MOOD)とよばれる分子OOD検出のためのプロトタイプグラフ再構成のアプローチを開拓し,3つのイノベーションを生かした。
論文参考訳（メタデータ） (2024-04-24T03:25:53Z)
EAT: Towards Long-Tailed Out-of-Distribution Detection [55.380390767978554]
本稿では,長い尾を持つOOD検出の課題に対処する。主な困難は、尾クラスに属するサンプルとOODデータを区別することである。本稿では,(1)複数の禁制クラスを導入して分布内クラス空間を拡大すること,(2)コンテキストリッチなOODデータに画像をオーバーレイすることでコンテキスト限定のテールクラスを拡大すること,の2つの簡単な考え方を提案する。
論文参考訳（メタデータ） (2023-12-14T13:47:13Z)
Nearest Neighbor Guidance for Out-of-Distribution Detection [18.851275688720108]
そこで本研究では,最寄りのNearest Neighbor Guidance (NNGuide) を用いて,オフ・オブ・ディストリビューション(OOD) サンプルの検出を行う。 NNGuideは、分類器ベースのスコアのきめ細かい機能を維持しながら、OODサンプルの過信を低減する。この結果から,NNGuideはベース検出スコアを大幅に向上することがわかった。
論文参考訳（メタデータ） (2023-09-26T12:40:35Z)
From Global to Local: Multi-scale Out-of-distribution Detection [129.37607313927458]
アウト・オブ・ディストリビューション(OOD)検出は、イン・ディストリビューション(ID)トレーニングプロセス中にラベルが見られない未知のデータを検出することを目的としている。近年の表現学習の進歩により,距離に基づくOOD検出がもたらされる。グローバルな視覚情報と局所的な情報の両方を活用する第1のフレームワークであるマルチスケールOOD検出(MODE)を提案する。
論文参考訳（メタデータ） (2023-08-20T11:56:25Z)
WDiscOOD: Out-of-Distribution Detection via Whitened Linear Discriminant Analysis [21.023001428704085]
本稿では,クラス固有情報とクラス非依存情報に基づく新しい特徴空間OOD検出スコアを提案する。 WDiscOODという手法の有効性を,大規模なImageNet-1kベンチマークで検証した。
論文参考訳（メタデータ） (2023-03-14T00:13:57Z)
Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文参考訳（メタデータ） (2023-02-06T16:38:43Z)
How to Exploit Hyperspherical Embeddings for Out-of-Distribution Detection? [22.519572587827213]
CIDERは、OOD検出に超球面埋め込みを利用する表現学習フレームワークである。 CIDERは優れたパフォーマンスを確立し、FPR95では19.36%で最新のライバルを上回った。
論文参考訳（メタデータ） (2022-03-08T23:44:01Z)
Triggering Failures: Out-Of-Distribution detection by learning from local adversarial attacks in Semantic Segmentation [76.2621758731288]
セグメンテーションにおけるアウト・オブ・ディストリビューション(OOD)オブジェクトの検出に取り組む。私たちの主な貢献は、ObsNetと呼ばれる新しいOOD検出アーキテクチャであり、ローカル・アタック(LAA)に基づく専用トレーニングスキームと関連付けられています。 3つの異なるデータセットの文献の最近の10つの手法と比較して,速度と精度の両面で最高の性能が得られることを示す。
論文参考訳（メタデータ） (2021-08-03T17:09:56Z)
Joint Distribution across Representation Space for Out-of-Distribution Detection [16.96466730536722]
本稿では,各隠蔽層から生成した潜伏特性を表現空間間の連成分布として利用し,分布内データに対する新たな展望を示す。まず,隠れ層ごとに分布しない潜在特性に基づいてガウス混合モデル(GMM)を構築し,その後,推定トレースの遷移確率を介してGMMを接続する。
論文参考訳（メタデータ） (2021-03-23T06:39:29Z)
Out-Of-Distribution Detection With Subspace Techniques And Probabilistic Modeling Of Features [7.219077740523682]
本論文では,DNN(Deep Neural Network)におけるOOD(Out-of- Distributionion)サンプル検出の原理的手法を提案する。深部特徴量に基づく確率分布のモデル化は,近年,DNNにおけるOODサンプルの検出方法として,効率的かつ安価に実現されている。線形統計的次元還元法と非線形多様体学習法を高次元的特徴に適用し、その特徴にまたがる真の部分空間を捕捉する。
論文参考訳（メタデータ） (2020-12-08T07:07:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。