論文の概要: Identity Curvature Laplace Approximation for Improved Out-of-Distribution Detection

• arxiv url: http://arxiv.org/abs/2312.10464v2
• Date: Tue, 05 Nov 2024 10:32:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-06 14:57:46.107357
• Title: Identity Curvature Laplace Approximation for Improved Out-of-Distribution Detection
• Title（参考訳）: 分布外検出の精度向上のための等値曲線ラプラス近似
• Authors: Maksim Zhdanov, Stanislav Dereka, Sergey Kolesnikov,
• Abstract要約: 不確実性推定は、ロバストなアウト・オブ・ディストリビューション検出が不可欠である安全クリティカルなアプリケーションにおいて重要である。 伝統的なベイズ法は有効ではあるが、しばしば高い計算要求によって妨げられる。 本稿では,従来の補間法に挑戦する新しい手法であるICLA(Identity Curvature Laplace Approximation)を紹介する。
• 参考スコア（独自算出の注目度）: 4.779196219827508
• License:
• Abstract: Uncertainty estimation is crucial in safety-critical applications, where robust out-of-distribution (OOD) detection is essential. Traditional Bayesian methods, though effective, are often hindered by high computational demands. As an alternative, Laplace approximation offers a more practical and efficient approach to uncertainty estimation. In this paper, we introduce the Identity Curvature Laplace Approximation (ICLA), a novel method that challenges the conventional posterior covariance formulation by using identity curvature and optimizing prior precision. This innovative design significantly enhances OOD detection performance on well-known datasets such as CIFAR-10, CIFAR-100, and ImageNet, while maintaining calibration scores. We attribute this improvement to the alignment issues between typical feature embeddings and curvature as measured by the Fisher information matrix. Our findings are further supported by demonstrating that incorporating Fisher penalty or sharpness-aware minimization techniques can greatly enhance the uncertainty estimation capabilities of standard Laplace approximation.
• Abstract（参考訳）: 不確実性推定は、ロバスト・アウト・オブ・ディストリビューション(OOD)検出が不可欠である安全クリティカルなアプリケーションにおいて重要である。 伝統的なベイズ法は有効ではあるが、しばしば高い計算要求によって妨げられる。 代替として、ラプラス近似は不確実性推定に対するより実践的で効率的なアプローチを提供する。 本稿では、ID曲率を用いた従来の後続共分散の定式化に挑戦し、事前精度を最適化するICLA(Identity Curvature Laplace Approximation)を提案する。 この革新的な設計は、キャリブレーションスコアを維持しながら、CIFAR-10、CIFAR-100、ImageNetなどのよく知られたデータセット上でのOOD検出性能を大幅に向上させる。 この改善は、Fisher情報行列によって測定された典型的な特徴埋め込みと曲率のアライメントの問題に起因している。 さらに,フィッシャーペナルティやシャープネスを意識した最小化手法を取り入れることで,標準ラプラス近似の不確実性推定能力を大幅に向上させることができることを示した。

関連論文リスト

• Uncertainty Estimation for Safety-critical Scene Segmentation via Fine-grained Reward Maximization [12.79542334840646]
  不確実性推定は、安全クリティカルなシナリオにおけるディープセグメンテーションモデルの将来の信頼性の高い展開において重要な役割を果たす。 本研究では,不確実性推定に対処する新たな微粒化報酬(FGRM)フレームワークを提案する。 本手法は,不確実性推定のキャリブレーション指標のすべてに対して,最先端の手法よりも明確なマージンで優れる。
  論文  参考訳（メタデータ） (2023-11-05T17:43:37Z)
• dugMatting: Decomposed-Uncertainty-Guided Matting [83.71273621169404]
  そこで本稿では, 明確に分解された不確かさを探索し, 効率よく効率よく改善する, 分解不確実性誘導型マッチングアルゴリズムを提案する。 提案したマッチングフレームワークは,シンプルで効率的なラベリングを用いて対話領域を決定する必要性を緩和する。
  論文  参考訳（メタデータ） (2023-06-02T11:19:50Z)
• Optimal Learning via Moderate Deviations Theory [4.6930976245638245]
  我々は、中等度偏差原理に基づくアプローチを用いて、高精度な信頼区間の体系的構築を開発する。 提案した信頼区間は,指数的精度,最小性,整合性,誤評価確率,結果整合性(UMA)特性の基準を満たすという意味で統計的に最適であることが示されている。
  論文  参考訳（メタデータ） (2023-05-23T19:57:57Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• Uncertainty Estimation based on Geometric Separation [13.588210692213568]
  機械学習では、特定の入力が正しい確率を正確に予測することがリスク管理に不可欠である。 機械学習モデルにおける不確実性推定を改善するための新しい幾何学的アプローチを提案する。
  論文  参考訳（メタデータ） (2023-01-11T13:19:24Z)
• Adaptive Dimension Reduction and Variational Inference for Transductive Few-Shot Classification [2.922007656878633]
  適応次元の削減によりさらに改善された変分ベイズ推定に基づく新しいクラスタリング法を提案する。 提案手法は,Few-Shotベンチマークにおける現実的非バランスなトランスダクティブ設定の精度を大幅に向上させる。
  論文  参考訳（メタデータ） (2022-09-18T10:29:02Z)
• Learning to Estimate Without Bias [57.82628598276623]
  ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。 本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。 BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
  論文  参考訳（メタデータ） (2021-10-24T10:23:51Z)
• Semantic Perturbations with Normalizing Flows for Improved Generalization [62.998818375912506]
  我々は、非教師付きデータ拡張を定義するために、潜在空間における摂動が利用できることを示す。 トレーニングを通して分類器に適応する潜伏性対向性摂動が最も効果的であることが判明した。
  論文  参考訳（メタデータ） (2021-08-18T03:20:00Z)
• Gradient-Based Quantification of Epistemic Uncertainty for Deep Object Detectors [8.029049649310213]
  本稿では,新しい勾配に基づく不確実性指標を導入し,異なる物体検出アーキテクチャについて検討する。 実験では、真の肯定的/偽の正の判別と、結合上の交叉の予測において顕著な改善が示された。 また,モンテカルロのドロップアウト不確実性指標に対する改善や,さまざまな不確実性指標のソースを集約することで,さらなる大幅な向上が期待できる。
  論文  参考訳（メタデータ） (2021-07-09T16:04:11Z)
• On the Practicality of Deterministic Epistemic Uncertainty [106.06571981780591]
  決定論的不確実性法(DUM)は,分布外データの検出において高い性能を達成する。 DUMが十分に校正されており、現実のアプリケーションにシームレスにスケールできるかどうかは不明だ。
  論文  参考訳（メタデータ） (2021-07-01T17:59:07Z)
• Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning [78.83598532168256]
  階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。 本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
  論文  参考訳（メタデータ） (2021-04-11T09:50:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。