論文の概要: Fast Decision Boundary based Out-of-Distribution Detector
- arxiv url: http://arxiv.org/abs/2312.11536v1
- Date: Fri, 15 Dec 2023 19:50:32 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-20 18:44:50.606642
- Title: Fast Decision Boundary based Out-of-Distribution Detector
- Title(参考訳): 高速決定バウンダリベース分散検出器
- Authors: Litian Liu and Yao Qin
- Abstract要約: レイテンシクリティカルなアプリケーションにおけるAIの安全なデプロイには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。
近年の研究では,特徴空間情報に基づくOODの検出が有効であることが判明している。
有効性にもかかわらず、特徴空間を離脱するOOD法は、非無視的な計算オーバーヘッドを引き起こす可能性がある。
- 参考スコア(独自算出の注目度): 8.324938763661295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Efficient and effective Out-of-Distribution (OOD) detection is essential for
the safe deployment of AI in latency-critical applications. Recently, studies
have revealed that detecting OOD based on feature space information can be
highly effective. Despite their effectiveness, however, exiting feature space
OOD methods may incur non-negligible computational overhead, given their
reliance on auxiliary models built from training features. In this paper, we
aim to obviate auxiliary models to optimize computational efficiency while
leveraging the rich information embedded in the feature space. We investigate
from the novel perspective of decision boundaries and propose to detect OOD
using the feature distance to decision boundaries. To minimize the cost of
measuring the distance, we introduce an efficient closed-form estimation,
analytically proven to tightly lower bound the distance. We observe that ID
features tend to reside further from the decision boundaries than OOD features.
Our observation aligns with the intuition that models tend to be more decisive
on ID samples, considering that distance to decision boundaries quantifies
model uncertainty. From our understanding, we propose a hyperparameter-free,
auxiliary model-free OOD detector. Our OOD detector matches or surpasses the
effectiveness of state-of-the-art methods across extensive experiments.
Meanwhile, our OOD detector incurs practically negligible overhead in inference
latency. Overall, we significantly enhance the efficiency-effectiveness
trade-off in OOD detection.
- Abstract(参考訳): レイテンシクリティカルなアプリケーションにおけるAIの安全なデプロイには、効率的かつ効果的なOOD(Out-of-Distribution)検出が不可欠だ。
近年,特徴空間情報に基づくOOD検出が有効であることが明らかとなった。
しかし、その効果にもかかわらず、トレーニング特徴から構築された補助モデルに依存しているため、OOD法は非無視的な計算オーバーヘッドを引き起こす可能性がある。
本稿では,特徴空間に埋め込まれたリッチな情報を活用しながら,計算効率を最適化する補助モデルを提案する。
決定境界の新しい視点から検討し,決定境界に対する特徴距離を用いたoodの検出を提案する。
距離を計測するコストを最小限に抑えるために,解析的に距離を厳格に下げる効率的な閉形式推定を導入する。
我々は,ID特徴がOOD特徴よりも決定境界から遠ざかる傾向があることを観察した。
我々の観察は、決定境界までの距離がモデルの不確実性を定量化することを考えると、モデルがIDサンプルに対してより決定的な傾向にあるという直感と一致している。
我々は,超パラメータフリー・補助モデルフリーOOD検出器を提案する。
ood検出器は広範囲な実験で最先端の手法の有効性に匹敵する。
一方、OOD検出器は、推論遅延において事実上無視可能なオーバーヘッドを発生させる。
全体として、OOD検出における効率効率と効率性のトレードオフを著しく強化する。
関連論文リスト
- How to Overcome Curse-of-Dimensionality for Out-of-Distribution
Detection? [29.668859994222238]
OOD検出のための新しいフレームワークSubspace Nearest Neighbor (SNN)を提案する。
トレーニングにおいて,本手法は次元の最も関連性の高い部分集合を利用してモデルとその特徴表現を正規化する。
現在の最良の距離ベースの手法と比較して、SNNはCIFAR-100ベンチマークで平均FPR95を15.96%削減している。
論文 参考訳(メタデータ) (2023-12-22T06:04:09Z) - Model-free Test Time Adaptation for Out-Of-Distribution Detection [62.49795078366206]
我々はtextbfDistribution textbfDetection (abbr) のための非パラメトリックテスト時間 textbfAdaptation フレームワークを提案する。
Abbrは、オンラインテストサンプルを使用して、テスト中のモデル適応、データ分散の変更への適応性を向上させる。
複数のOOD検出ベンチマークにおける包括的実験により,abrの有効性を示す。
論文 参考訳(メタデータ) (2023-11-28T02:00:47Z) - Beyond AUROC & co. for evaluating out-of-distribution detection
performance [50.88341818412508]
安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。
我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
論文 参考訳(メタデータ) (2023-06-26T12:51:32Z) - LINe: Out-of-Distribution Detection by Leveraging Important Neurons [15.797257361788812]
本稿では,分布内データとOODデータ間のモデル出力の差を解析するための新しい側面を紹介する。
本稿では,分布検出のポストホックアウトのための新しい手法であるLINe( Leveraging Important Neurons)を提案する。
論文 参考訳(メタデータ) (2023-03-24T13:49:05Z) - AUTO: Adaptive Outlier Optimization for Online Test-Time OOD Detection [81.49353397201887]
オープンソースアプリケーションに機械学習モデルをデプロイするには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。
我々は、未ラベルのオンラインデータをテスト時に直接利用してOOD検出性能を向上させる、テスト時OOD検出と呼ばれる新しいパラダイムを導入する。
本稿では,入出力フィルタ,IDメモリバンク,意味的に一貫性のある目的からなる適応外乱最適化(AUTO)を提案する。
論文 参考訳(メタデータ) (2023-03-22T02:28:54Z) - Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。
我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
論文 参考訳(メタデータ) (2023-03-09T04:36:38Z) - Rainproof: An Umbrella To Shield Text Generators From
Out-Of-Distribution Data [41.62897997865578]
安全なシステム動作を保証するための重要な要素は、Out-Of-Distribution Detectionである。
ほとんどのメソッドはエンコーダが出力する隠れた機能に依存している。
本研究では,ブラックボックスフレームワークにおけるソフト確率の活用に焦点をあてる。
論文 参考訳(メタデータ) (2022-12-18T21:22:28Z) - On the Impact of Spurious Correlation for Out-of-distribution Detection [14.186776881154127]
我々は、不変性と環境特性の両方を考慮して、データシフトをモデル化し、新しい形式化を提案する。
その結果, トレーニングセットにおいて, 突発的特徴とラベルの相関が大きくなると, 検出性能が著しく悪化することが示唆された。
論文 参考訳(メタデータ) (2021-09-12T23:58:17Z) - ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。
ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-06-26T20:58:05Z) - Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。
ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
論文 参考訳(メタデータ) (2020-03-21T17:46:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。