論文の概要: The Effect of Optimization Methods on the Robustness of Out-of-Distribution Detection Approaches

• arxiv url: http://arxiv.org/abs/2006.14584v1
• Date: Thu, 25 Jun 2020 17:32:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-17 03:22:51.941519
• Title: The Effect of Optimization Methods on the Robustness of Out-of-Distribution Detection Approaches
• Title（参考訳）: 分布外検出手法のロバスト性に及ぼす最適化法の影響
• Authors: Vahdat Abdelzad, Krzysztof Czarnecki, Rick Salay
• Abstract要約: ディープニューラルネットワーク(DNN)は、さまざまなドメインにおいて事実上の学習メカニズムとなっている。 アウト・オブ・ディストリビューション(OOD)インプットで不確実に実行する傾向は、クリティカルドメインへの導入を妨げる。 OOD入力の検出にはいくつかのアプローチが提案されているが、既存のアプローチにはロバスト性がない。
• 参考スコア（独自算出の注目度）: 12.216570247802874
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) have become the de facto learning mechanism in different domains. Their tendency to perform unreliably on out-of-distribution (OOD) inputs hinders their adoption in critical domains. Several approaches have been proposed for detecting OOD inputs. However, existing approaches still lack robustness. In this paper, we shed light on the robustness of OOD detection (OODD) approaches by revealing the important role of optimization methods. We show that OODD approaches are sensitive to the type of optimization method used during training deep models. Optimization methods can provide different solutions to a non-convex problem and so these solutions may or may not satisfy the assumptions (e.g., distributions of deep features) made by OODD approaches. Furthermore, we propose a robustness score that takes into account the role of optimization methods. This provides a sound way to compare OODD approaches. In addition to comparing several OODD approaches using our proposed robustness score, we demonstrate that some optimization methods provide better solutions for OODD approaches.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、さまざまなドメインにおいて事実上の学習メカニズムとなっている。 アウト・オブ・ディストリビューション(OOD)インプットで不確実に実行する傾向は、クリティカルドメインへの導入を妨げる。 OOD入力の検出にはいくつかの方法が提案されている。 しかし、既存のアプローチには堅牢性がない。 本稿では,OOD検出(OODD)手法のロバスト性に光を当て,最適化手法の重要な役割を明らかにする。 OODDアプローチは深層モデルのトレーニングで使用される最適化手法の種類に敏感であることを示す。 最適化手法は非凸問題に対する異なる解を与えることができるので、これらの解はooddアプローチによってなされる仮定(例えば、深い特徴の分布)を満たさないかもしれない。 さらに,最適化手法の役割を考慮したロバスト性スコアを提案する。 これはOODDアプローチを比較するための健全な方法を提供する。 提案したロバスト性スコアを用いて複数のOODD手法を比較することに加えて,最適化手法がOODD手法により良いソリューションを提供することを示す。

関連論文リスト

• SeTAR: Out-of-Distribution Detection with Selective Low-Rank Approximation [5.590633742488972]
  ニューラルネットワークの安全なデプロイには、アウト・オブ・ディストリビューション(OOD)検出が不可欠だ。 トレーニング不要なOOD検出手法であるSeTARを提案する。 SeTARは、単純なグリーディ探索アルゴリズムを用いて、モデルの重量行列のポストホックな修正によるOOD検出を強化する。 私たちの研究は、OOD検出のためのスケーラブルで効率的なソリューションを提供し、この分野で新しい最先端を設定します。
  論文  参考訳（メタデータ） (2024-06-18T13:55:13Z)
• WeiPer: OOD Detection using Weight Perturbations of Class Projections [11.130659240045544]
  入力のよりリッチな表現を生成する最終完全連結層にクラスプロジェクションの摂動を導入する。 我々はOpenOODフレームワークの複数のベンチマークで最先端のOOD検出結果を得る。
  論文  参考訳（メタデータ） (2024-05-27T13:38:28Z)
• Comprehensive OOD Detection Improvements [46.46252643210326]
  このタスクのために、アウト・オブ・ディストリビューション(OOD)検出手法が作成されている。 我々は,時間的高速化と性能向上の両面において,特徴埋め込みの次元的削減を表現ベース手法に適用する。 提案手法の有効性を,OpenOODv1.5ベンチマークフレームワーク上で実証する。
  論文  参考訳（メタデータ） (2024-01-18T18:05:35Z)
• Fast Decision Boundary based Out-of-Distribution Detector [7.04686607977352]
  アウト・オブ・ディストリビューション(OOD)検出は、AIシステムの安全なデプロイに不可欠である。 既存の特徴空間法は有効であるが、しばしば計算上のオーバーヘッドを生じさせる。 補助モデルを用いない計算効率の良いOOD検出器を提案する。
  論文  参考訳（メタデータ） (2023-12-15T19:50:32Z)
• Reject option models comprising out-of-distribution detection [6.746400031322727]
  アウト・オブ・ディストリビューション・セットアップの最適予測戦略は、機械学習の基本的な問題である。 OOD設定に対する3つの拒否オプションモデルを提案する。 提案したモデルがそれぞれ異なる定式化にもかかわらず、最適戦略の共通クラスを共有していることを確立する。
  論文  参考訳（メタデータ） (2023-07-11T12:09:14Z)
• Out-of-distribution Detection with Implicit Outlier Transformation [72.73711947366377]
  外周露光(OE)は、オフ・オブ・ディストリビューション(OOD)検出において強力である。 我々は,未確認のOOD状況に対してモデルの性能を良くする,新しいOEベースのアプローチを提案する。
  論文  参考訳（メタデータ） (2023-03-09T04:36:38Z)
• OpenOOD: Benchmarking Generalized Out-of-Distribution Detection [60.13300701826931]
  アウト・オブ・ディストリビューション(OOD)検出は、安全クリティカルな機械学習アプリケーションにとって不可欠である。 この分野では現在、統一的で厳格に定式化され、包括的なベンチマークが欠けている。 関連フィールドで開発された30以上のメソッドを実装したOpenOODという,統一的で構造化されたシステムを構築します。
  論文  参考訳（メタデータ） (2022-10-13T17:59:57Z)
• No True State-of-the-Art? OOD Detection Methods are Inconsistent across Datasets [69.725266027309]
  アウト・オブ・ディストリビューション検出は、信頼できるMLシステムの重要なコンポーネントである。 本研究では,これらの手法が16対の標準セット上でのOOD検出よりも本質的に優れていることを示す。 また、ある(ID, OOD)ペアにおいて他の(ID, OOD)ペアよりも優れる手法は、低データ方式ではそうしない可能性があることを示す。
  論文  参考訳（メタデータ） (2021-09-12T16:35:00Z)
• ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining [51.19164318924997]
  インフォメーション・アウトリエ・マイニングによるアドリアトレーニングは、OOD検出の堅牢性を向上させる。 ATOMは,古典的,敵対的なOOD評価タスクの幅広いファミリーの下で,最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2020-06-26T20:58:05Z)
• Robust Out-of-distribution Detection for Neural Networks [51.19164318924997]
  既存の検出機構は, 分布内およびOOD入力の評価において, 極めて脆弱であることを示す。 ALOE と呼ばれる実効性のあるアルゴリズムを提案する。このアルゴリズムは,逆向きに構築された逆数と外数の両方の例にモデルを公開することにより,堅牢なトレーニングを行う。
  論文  参考訳（メタデータ） (2020-03-21T17:46:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。