論文の概要: Uncertainty Estimation in Autoregressive Structured Prediction

• arxiv url: http://arxiv.org/abs/2002.07650v5
• Date: Thu, 11 Feb 2021 09:42:35 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-30 18:57:34.887455
• Title: Uncertainty Estimation in Autoregressive Structured Prediction
• Title（参考訳）: 自己回帰構造予測における不確かさ推定
• Authors: Andrey Malinin, Mark Gales
• Abstract要約: 本研究は,自己回帰的構造予測タスクの不確実性推定を考察することを目的とする。 トークンレベルおよび完全シーケンスレベルにおけるシーケンスデータの不確実性推定、不確実性のさまざまな尺度の解釈と応用について考察する。 この研究は、トークンレベルとシーケンスレベルのエラー検出、WMT'14とWMT'17の英独翻訳データセットにおけるシーケンスレベルのドメイン外の入力検出のベースラインも提供する。
• 参考スコア（独自算出の注目度）: 16.441252243846534
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Uncertainty estimation is important for ensuring safety and robustness of AI systems. While most research in the area has focused on un-structured prediction tasks, limited work has investigated general uncertainty estimation approaches for structured prediction. Thus, this work aims to investigate uncertainty estimation for autoregressive structured prediction tasks within a single unified and interpretable probabilistic ensemble-based framework. We consider: uncertainty estimation for sequence data at the token-level and complete sequence-level; interpretations for, and applications of, various measures of uncertainty; and discuss both the theoretical and practical challenges associated with obtaining them. This work also provides baselines for token-level and sequence-level error detection, and sequence-level out-of-domain input detection on the WMT'14 English-French and WMT'17 English-German translation and LibriSpeech speech recognition datasets.
• Abstract（参考訳）: 不確実性推定は、AIシステムの安全性と堅牢性を保証するために重要である。 この領域のほとんどの研究は非構造化予測タスクに焦点を当てているが、限定的な研究は構造化予測に対する一般的な不確実性推定アプローチを調査している。 そこで本研究では,統一的かつ解釈可能な確率的アンサンブルに基づくフレームワークにおける自己回帰的構造化予測タスクの不確実性推定について検討する。 トークンレベルおよび完全シーケンスレベルにおけるシーケンスデータの不確実性推定、不確実性のさまざまな尺度の解釈と適用、およびそれらの取得に関する理論的および実践的課題について考察する。 また、トークンレベルおよびシーケンスレベルエラー検出のベースラインと、wmt'14英語フランス語およびwmt'17英語ドイツ語翻訳およびlibrispeech音声認識データセットのシーケンスレベルのドメイン外入力検出を提供する。

関連論文リスト

• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• Discretization-Induced Dirichlet Posterior for Robust Uncertainty Quantification on Regression [17.49026509916207]
  不確実性定量化は、現実世界のアプリケーションにディープニューラルネットワーク(DNN)をデプロイするために重要である。 視覚回帰タスクでは、現在のAuxUE設計は、主にアレタリック不確実性推定に採用されている。 回帰タスクにおけるより堅牢な不確実性定量化のための一般化されたAuxUEスキームを提案する。
  論文  参考訳（メタデータ） (2023-08-17T15:54:11Z)
• Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
  本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。 この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
  論文  参考訳（メタデータ） (2023-08-03T12:43:21Z)
• Ambiguity Meets Uncertainty: Investigating Uncertainty Estimation for Word Sense Disambiguation [5.55197751179213]
  既存の教師付き手法は、WSDを分類タスクとして扱い、優れたパフォーマンスを実現した。 本稿では,WSD 向けに設計されたベンチマークにおける不確実性推定(UE)を広範囲に研究する。 本研究では, モデルが適切に設計されたテストシナリオにおいて, 選択されたUEスコアを用いて, モデルによるデータとモデルの不確実性を捕捉する能力について検討し, モデルの不確実性を十分に反映するが, モデルの不確実性を過小評価する。
  論文  参考訳（メタデータ） (2023-05-22T15:18:15Z)
• Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
  時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。 これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。 クリーン音声推定における不確実性モデリングの利点について検討する。
  論文  参考訳（メタデータ） (2023-05-15T15:55:12Z)
• On Attacking Out-Domain Uncertainty Estimation in Deep Neural Networks [11.929914721626849]
  我々は,現在最先端の不確実性推定アルゴリズムが,我々の提案した敵攻撃の下で破滅的に失敗する可能性を示唆した。 特に、領域外不確実性推定を攻撃することを目的としている。
  論文  参考訳（メタデータ） (2022-10-03T23:33:38Z)
• Learning Uncertainty For Safety-Oriented Semantic Segmentation In Autonomous Driving [77.39239190539871]
  自律運転における安全クリティカル画像セグメンテーションを実現するために、不確実性推定をどのように活用できるかを示す。 相似性関数によって測定された不一致予測に基づく新しい不確実性尺度を導入する。 本研究では,提案手法が競合手法よりも推論時間において計算集約性が低いことを示す。
  論文  参考訳（メタデータ） (2021-05-28T09:23:05Z)
• DEUP: Direct Epistemic Uncertainty Prediction [56.087230230128185]
  認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。 一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-02-16T23:50:35Z)
• Probabilistic Deep Learning for Instance Segmentation [9.62543698736491]
  提案手法は,提案不要なインスタンスセグメンテーションモデルにおけるモデル独立不確実性推定値を得るための汎用的な手法である。 本手法は,BBBC010 C. elegansデータセットを用いて評価し,競合性能を示す。
  論文  参考訳（メタデータ） (2020-08-24T19:51:48Z)
• On the uncertainty of self-supervised monocular depth estimation [52.13311094743952]
  単眼深度推定のための自己監督的パラダイムは、基礎的な真理アノテーションを全く必要としないため、非常に魅力的である。 我々は,このタスクの不確かさを推定する方法と,これが深さ精度にどのように影響するかを初めて検討する。 自己教師型アプローチに特化して設計された,斬新な手法を提案する。
  論文  参考訳（メタデータ） (2020-05-13T09:00:55Z)
• Pitfalls of In-Domain Uncertainty Estimation and Ensembling in Deep Learning [70.72363097550483]
  本研究では,画像分類における領域内不確実性に着目した。 そこで本研究では,ディープアンサンブル等価スコア(DEE)を導入する。
  論文  参考訳（メタデータ） (2020-02-15T23:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。