論文の概要: Fast Decision Boundary based Out-of-Distribution Detector

• arxiv url: http://arxiv.org/abs/2312.11536v1
• Date: Fri, 15 Dec 2023 19:50:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-20 18:44:50.606642
• Title: Fast Decision Boundary based Out-of-Distribution Detector
• Title（参考訳）: 高速決定バウンダリベース分散検出器
• Authors: Litian Liu and Yao Qin
• Abstract要約: レイテンシクリティカルなアプリケーションにおけるAIの安全なデプロイには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。 近年の研究では,特徴空間情報に基づくOODの検出が有効であることが判明している。 有効性にもかかわらず、特徴空間を離脱するOOD法は、非無視的な計算オーバーヘッドを引き起こす可能性がある。
• 参考スコア（独自算出の注目度）: 8.324938763661295
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient and effective Out-of-Distribution (OOD) detection is essential for the safe deployment of AI in latency-critical applications. Recently, studies have revealed that detecting OOD based on feature space information can be highly effective. Despite their effectiveness, however, exiting feature space OOD methods may incur non-negligible computational overhead, given their reliance on auxiliary models built from training features. In this paper, we aim to obviate auxiliary models to optimize computational efficiency while leveraging the rich information embedded in the feature space. We investigate from the novel perspective of decision boundaries and propose to detect OOD using the feature distance to decision boundaries. To minimize the cost of measuring the distance, we introduce an efficient closed-form estimation, analytically proven to tightly lower bound the distance. We observe that ID features tend to reside further from the decision boundaries than OOD features. Our observation aligns with the intuition that models tend to be more decisive on ID samples, considering that distance to decision boundaries quantifies model uncertainty. From our understanding, we propose a hyperparameter-free, auxiliary model-free OOD detector. Our OOD detector matches or surpasses the effectiveness of state-of-the-art methods across extensive experiments. Meanwhile, our OOD detector incurs practically negligible overhead in inference latency. Overall, we significantly enhance the efficiency-effectiveness trade-off in OOD detection.
• Abstract（参考訳）: レイテンシクリティカルなアプリケーションにおけるAIの安全なデプロイには、効率的かつ効果的なOOD(Out-of-Distribution)検出が不可欠だ。 近年,特徴空間情報に基づくOOD検出が有効であることが明らかとなった。 しかし、その効果にもかかわらず、トレーニング特徴から構築された補助モデルに依存しているため、OOD法は非無視的な計算オーバーヘッドを引き起こす可能性がある。 本稿では,特徴空間に埋め込まれたリッチな情報を活用しながら,計算効率を最適化する補助モデルを提案する。 決定境界の新しい視点から検討し,決定境界に対する特徴距離を用いたoodの検出を提案する。 距離を計測するコストを最小限に抑えるために,解析的に距離を厳格に下げる効率的な閉形式推定を導入する。 我々は,ID特徴がOOD特徴よりも決定境界から遠ざかる傾向があることを観察した。 我々の観察は、決定境界までの距離がモデルの不確実性を定量化することを考えると、モデルがIDサンプルに対してより決定的な傾向にあるという直感と一致している。 我々は,超パラメータフリー・補助モデルフリーOOD検出器を提案する。 ood検出器は広範囲な実験で最先端の手法の有効性に匹敵する。 一方、OOD検出器は、推論遅延において事実上無視可能なオーバーヘッドを発生させる。 全体として、OOD検出における効率効率と効率性のトレードオフを著しく強化する。

関連論文リスト

• Look Around and Find Out: OOD Detection with Relative Angles [24.369626931550794]
  本稿では, 分布内構造に対して計算されるOOD検出のための新しい角度に基づく計量法を提案する。 提案手法は, CIFAR-10 と ImageNet ベンチマークの最先端性能を実現し, FPR95 を 0.88% と 7.74% 削減した。
  論文  参考訳（メタデータ） (2024-10-06T15:36:07Z)
• Margin-bounded Confidence Scores for Out-of-Distribution Detection [2.373572816573706]
  本稿では,非自明なOOD検出問題に対処するため,Margin bounded Confidence Scores (MaCS) と呼ばれる新しい手法を提案する。 MaCS は ID と OOD のスコアの差を拡大し、決定境界をよりコンパクトにする。 画像分類タスクのための様々なベンチマークデータセットの実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-09-22T05:40:25Z)
• OAL: Enhancing OOD Detection Using Latent Diffusion [5.357756138014614]
  Outlier Aware Learning (OAL)フレームワークは、潜伏空間で直接OODトレーニングデータを合成する。 In-Distribution (ID) と収集したOOD特徴の区別を増幅する相互情報に基づくコントラスト学習手法を提案する。
  論文  参考訳（メタデータ） (2024-06-24T11:01:43Z)
• How to Overcome Curse-of-Dimensionality for Out-of-Distribution Detection? [29.668859994222238]
  OOD検出のための新しいフレームワークSubspace Nearest Neighbor (SNN)を提案する。 トレーニングにおいて,本手法は次元の最も関連性の高い部分集合を利用してモデルとその特徴表現を正規化する。 現在の最良の距離ベースの手法と比較して、SNNはCIFAR-100ベンチマークで平均FPR95を15.96%削減している。
  論文  参考訳（メタデータ） (2023-12-22T06:04:09Z)
• EAT: Towards Long-Tailed Out-of-Distribution Detection [55.380390767978554]
  本稿では,長い尾を持つOOD検出の課題に対処する。 主な困難は、尾クラスに属するサンプルとOODデータを区別することである。 本稿では,(1)複数の禁制クラスを導入して分布内クラス空間を拡大すること,(2)コンテキストリッチなOODデータに画像をオーバーレイすることでコンテキスト限定のテールクラスを拡大すること,の2つの簡単な考え方を提案する。
  論文  参考訳（メタデータ） (2023-12-14T13:47:13Z)
• Model-free Test Time Adaptation for Out-Of-Distribution Detection [62.49795078366206]
  我々はtextbfDistribution textbfDetection (abbr) のための非パラメトリックテスト時間 textbfAdaptation フレームワークを提案する。 Abbrは、オンラインテストサンプルを使用して、テスト中のモデル適応、データ分散の変更への適応性を向上させる。 複数のOOD検出ベンチマークにおける包括的実験により,abrの有効性を示す。
  論文  参考訳（メタデータ） (2023-11-28T02:00:47Z)
• Beyond AUROC & co. for evaluating out-of-distribution detection performance [50.88341818412508]
  安全(r)AIとの関連性を考えると,OOD検出法の比較の基礎が実用的ニーズと整合しているかどうかを検討することが重要である。 我々は,IDとOODの分離が不十分なことを明示する新しい指標であるAUTC(Area Under the Threshold Curve)を提案する。
  論文  参考訳（メタデータ） (2023-06-26T12:51:32Z)
• Out-of-distribution Detection with Deep Nearest Neighbors [33.71627349163909]
  アウト・オブ・ディストリビューション(OOD)検出は、オープンな世界で機械学習モデルをデプロイするための重要なタスクである。 本稿では,OOD検出における非パラメトリック近接距離の有効性について検討する。 いくつかのベンチマークで最寄りのOOD検出の有効性を実証し,優れた性能を示す。
  論文  参考訳（メタデータ） (2022-04-13T16:45:21Z)
• No True State-of-the-Art? OOD Detection Methods are Inconsistent across Datasets [69.725266027309]
  アウト・オブ・ディストリビューション検出は、信頼できるMLシステムの重要なコンポーネントである。 本研究では,これらの手法が16対の標準セット上でのOOD検出よりも本質的に優れていることを示す。 また、ある(ID, OOD)ペアにおいて他の(ID, OOD)ペアよりも優れる手法は、低データ方式ではそうしない可能性があることを示す。
  論文  参考訳（メタデータ） (2021-09-12T16:35:00Z)
• ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
  インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。 ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-06-26T20:58:05Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。