論文の概要: Provably Robust Detection of Out-of-distribution Data (almost) for free

• arxiv url: http://arxiv.org/abs/2106.04260v1
• Date: Tue, 8 Jun 2021 11:40:49 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-09 16:22:53.565213
• Title: Provably Robust Detection of Out-of-distribution Data (almost) for free
• Title（参考訳）: ほとんど)無料で配布データ(ほぼ)のロバストな検出
• Authors: Alexander Meinke, Julian Bitterwolf, Matthias Hein
• Abstract要約: ディープニューラルネットワークは、アウト・オブ・ディストリビューション(OOD)データに対する高い過度な予測を生成することが知られている。 本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。 このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度を損なうことなく、非操作型OODデータに対する最先端のOOD検出性能に近接する。
• 参考スコア（独自算出の注目度）: 124.14121487542613
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When applying machine learning in safety-critical systems, a reliable assessment of the uncertainy of a classifier is required. However, deep neural networks are known to produce highly overconfident predictions on out-of-distribution (OOD) data and even if trained to be non-confident on OOD data one can still adversarially manipulate OOD data so that the classifer again assigns high confidence to the manipulated samples. In this paper we propose a novel method where from first principles we combine a certifiable OOD detector with a standard classifier into an OOD aware classifier. In this way we achieve the best of two worlds: certifiably adversarially robust OOD detection, even for OOD samples close to the in-distribution, without loss in prediction accuracy and close to state-of-the-art OOD detection performance for non-manipulated OOD data. Moreover, due to the particular construction our classifier provably avoids the asymptotic overconfidence problem of standard neural networks.
• Abstract（参考訳）: 安全クリティカルシステムに機械学習を適用する場合、分類器の不確かさの信頼性評価が必要となる。 しかし、ディープニューラルネットワークは、オフ・オブ・ディストリビューション(OOD)データに対する高過信な予測を生成することが知られており、OODデータに対して非信頼であるように訓練されたとしても、OODデータを逆向きに操作することで、クラスアイファーが再び操作されたサンプルに高い信頼を割り当てるようにすることができる。 本稿では,認証可能なOOD検出器を標準分類器と組み合わせてOOD認識分類器を提案する。 このようにして、我々は2つの世界のベストを達成している。OOD検出は、分布内に近いOODサンプルであっても、予測精度の損失がなく、非操作型OODデータに対する最先端のOOD検出性能に近い。 さらに、特定の構成のため、分類器は標準ニューラルネットワークの漸近的過信問題を確実に回避する。

関連論文リスト

• Out-of-Distribution Detection using Synthetic Data Generation [21.612592503592143]
  In- and out-of-distriion (OOD) 入力は、分類システムの信頼性の高いデプロイに不可欠である。 本稿では,Large Language Models (LLMs) の生成能力を利用して,高品質なOODプロキシを生成する手法を提案する。
  論文  参考訳（メタデータ） (2025-02-05T16:22:09Z)
• Uncertainty-Aware Out-of-Distribution Detection with Gaussian Processes [13.246251147975192]
  ディープニューラルネットワーク(DNN)はしばしばクローズドワールドの前提の下で構築される。 OODサンプルは、現実世界のアプリケーションでトレーニングフェーズで必ずしも利用できない。 InDデータのみに基づく決定境界を確立するために,ガウス過程に基づくOOD検出手法を提案する。
  論文  参考訳（メタデータ） (2024-12-30T12:57:31Z)
• Distilling the Unknown to Unveil Certainty [66.29929319664167]
  標準ネットワークがトレーニングされるIDデータから逸脱するテストサンプルを特定するためには、アウト・オブ・ディストリビューション(OOD)検出が不可欠である。 本稿では,IDデータのトレーニングが可能であるか否かを問う,先駆的な学習フレームワークであるOODナレッジ蒸留について紹介する。
  論文  参考訳（メタデータ） (2023-11-14T08:05:02Z)
• Can Pre-trained Networks Detect Familiar Out-of-Distribution Data? [37.36999826208225]
  PT-OODが事前学習ネットワークのOOD検出性能に及ぼす影響について検討した。 特徴空間におけるPT-OODの低線形分離性はPT-OOD検出性能を著しく低下させることがわかった。 本稿では,大規模事前学習モデルに対する一意な解を提案する。
  論文  参考訳（メタデータ） (2023-10-02T02:01:00Z)
• Pseudo-OOD training for robust language models [78.15712542481859]
  OOD検出は、あらゆる産業規模のアプリケーションに対する信頼性の高い機械学習モデルの鍵となるコンポーネントである。 In-distribution(IND)データを用いて擬似OODサンプルを生成するPOORE-POORE-POSthoc pseudo-Ood Regularizationを提案する。 我々は3つの現実世界の対話システムに関する枠組みを広く評価し、OOD検出における新たな最先端技術を実現した。
  論文  参考訳（メタデータ） (2022-10-17T14:32:02Z)
• Learn what you can't learn: Regularized Ensembles for Transductive Out-of-distribution Detection [76.39067237772286]
  ニューラルネットワークの現在のアウト・オブ・ディストリビューション(OOD)検出アルゴリズムは,様々なOOD検出シナリオにおいて不満足な結果をもたらすことを示す。 本稿では,テストデータのバッチを観察した後に検出方法を調整することで,このような「ハード」なOODシナリオがいかに有用かを検討する。 本稿では,テストデータと正規化に人工ラベリング手法を用いて,テストバッチ内のOODサンプルに対してのみ矛盾予測を生成するモデルのアンサンブルを求める手法を提案する。
  論文  参考訳（メタデータ） (2020-12-10T16:55:13Z)
• Certifiably Adversarially Robust Detection of Out-of-Distribution Data [111.67388500330273]
  我々は,OOD点における信頼度を低くすることで,OOD検出の証明可能な最悪のケースを保証することを目的としている。 トレーニング時に見られるOODデータセットを超えて一般化されたOODデータの信頼性の非自明な境界が可能であることを示す。
  論文  参考訳（メタデータ） (2020-07-16T17:16:47Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。