論文の概要: Propagating Variational Model Uncertainty for Bioacoustic Call Label
Smoothing
- arxiv url: http://arxiv.org/abs/2210.10526v1
- Date: Wed, 19 Oct 2022 13:04:26 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 16:07:13.344053
- Title: Propagating Variational Model Uncertainty for Bioacoustic Call Label
Smoothing
- Title(参考訳): 生体音響ラベル平滑化のための変分モデル不確かさの促進
- Authors: Georgios Rizos and Jenna Lawson and Simon Mitchell and Pranay Shah and
Xin Wen and Cristina Banks-Leite and Robert Ewers and Bjoern W. Schuller
- Abstract要約: ベイズニューラルネットワークが計算した予測不確実性信号を用いて、モデルが訓練している自己学習タスクの学習をガイドすることに焦点を当てる。
コストのかかるモンテカルロサンプリングを選ばず、近似的な隠れ分散をエンドツーエンドに伝播する。
損失計算における不確かさの明示的利用により, 変動モデルにより予測・校正性能が向上したことを示す。
- 参考スコア(独自算出の注目度): 15.929064190849665
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We focus on using the predictive uncertainty signal calculated by Bayesian
neural networks to guide learning in the self-same task the model is being
trained on. Not opting for costly Monte Carlo sampling of weights, we propagate
the approximate hidden variance in an end-to-end manner, throughout a
variational Bayesian adaptation of a ResNet with attention and
squeeze-and-excitation blocks, in order to identify data samples that should
contribute less into the loss value calculation. We, thus, propose
uncertainty-aware, data-specific label smoothing, where the smoothing
probability is dependent on this epistemic uncertainty. We show that, through
the explicit usage of the epistemic uncertainty in the loss calculation, the
variational model is led to improved predictive and calibration performance.
This core machine learning methodology is exemplified at wildlife call
detection, from audio recordings made via passive acoustic monitoring equipment
in the animals' natural habitats, with the future goal of automating large
scale annotation in a trustworthy manner.
- Abstract(参考訳): ベイジアンニューラルネットワークが計算した予測不確実性信号を用いて,モデルが学習している自己同一タスクにおける学習のガイドを行う。
重みのコストのかかるモンテカルロサンプリングを選ばず、損失値計算にあまり寄与しないデータサンプルを識別するために、注意と押出ブロックを備えたresnetの変動ベイズ適応を通じて、エンドツーエンドで近似隠れ分散を伝播する。
そこで本研究では,不確実性を考慮したデータ固有ラベル平滑化を提案し,その平滑化確率はこの認識的不確実性に依存する。
損失計算における認識的不確かさを明示的に利用することで,変動モデルが予測と校正性能の向上に繋がることを示す。
この中核的な機械学習手法は、野生動物呼出検出において、動物の自然生息地における受動的音響監視装置による音声記録から例示され、将来の目標は、信頼できる方法で大規模アノテーションを自動化することである。
関連論文リスト
- A Data-Driven Measure of Relative Uncertainty for Misclassification
Detection [25.947610541430013]
誤分類検出のための観測者に対して,不確実性に関するデータ駆動測度を導入する。
ソフト予測の分布パターンを学習することにより,不確実性を測定することができる。
複数の画像分類タスクに対する経験的改善を示し、最先端の誤分類検出方法より優れていることを示す。
論文 参考訳(メタデータ) (2023-06-02T17:32:03Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳(メタデータ) (2022-10-24T17:53:20Z) - Laplacian Autoencoders for Learning Stochastic Representations [0.6999740786886537]
本稿では,非教師付き表現学習のためのベイズオートエンコーダを提案する。
我々のラプラシアオートエンコーダは、潜在空間と出力空間の両方において、よく校正された不確かさを推定する。
論文 参考訳(メタデータ) (2022-06-30T07:23:16Z) - Theoretical characterization of uncertainty in high-dimensional linear
classification [24.073221004661427]
本研究では,高次元入力データとラベルの限られたサンプル数から学習する不確実性が,近似メッセージパッシングアルゴリズムによって得られることを示す。
我々は,信頼度を適切に正則化することで緩和する方法について論じるとともに,損失に対するクロスバリデーションが0/1誤差よりもキャリブレーションが優れていることを示す。
論文 参考訳(メタデータ) (2022-02-07T15:32:07Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - CertainNet: Sampling-free Uncertainty Estimation for Object Detection [65.28989536741658]
ニューラルネットワークの不確実性を推定することは、安全クリティカルな設定において基本的な役割を果たす。
本研究では,オブジェクト検出のための新しいサンプリング不要不確実性推定法を提案する。
私たちはそれをCertainNetと呼び、各出力信号に対して、オブジェクト性、クラス、位置、サイズという、別の不確実性を提供するのは、これが初めてです。
論文 参考訳(メタデータ) (2021-10-04T17:59:31Z) - Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。
分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。
本手法は精度と不確実性の両方を向上することを示す。
論文 参考訳(メタデータ) (2021-09-27T01:09:08Z) - The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。
本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
論文 参考訳(メタデータ) (2020-12-05T17:30:35Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。