論文の概要: Ambiguity Meets Uncertainty: Investigating Uncertainty Estimation for
Word Sense Disambiguation
- arxiv url: http://arxiv.org/abs/2305.13119v2
- Date: Sat, 10 Jun 2023 03:27:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 23:53:07.456994
- Title: Ambiguity Meets Uncertainty: Investigating Uncertainty Estimation for
Word Sense Disambiguation
- Title(参考訳): 不確かさに直面するあいまいさ : 単語センスの曖昧さに対する不確かさ推定の検討
- Authors: Zhu Liu and Ying Liu
- Abstract要約: 既存の教師付き手法は、WSDを分類タスクとして扱い、優れたパフォーマンスを実現した。
本稿では,WSD 向けに設計されたベンチマークにおける不確実性推定(UE)を広範囲に研究する。
本研究では, モデルが適切に設計されたテストシナリオにおいて, 選択されたUEスコアを用いて, モデルによるデータとモデルの不確実性を捕捉する能力について検討し, モデルの不確実性を十分に反映するが, モデルの不確実性を過小評価する。
- 参考スコア(独自算出の注目度): 5.55197751179213
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Word sense disambiguation (WSD), which aims to determine an appropriate sense
for a target word given its context, is crucial for natural language
understanding. Existing supervised methods treat WSD as a classification task
and have achieved remarkable performance. However, they ignore uncertainty
estimation (UE) in the real-world setting, where the data is always noisy and
out of distribution. This paper extensively studies UE on the benchmark
designed for WSD. Specifically, we first compare four uncertainty scores for a
state-of-the-art WSD model and verify that the conventional predictive
probabilities obtained at the end of the model are inadequate to quantify
uncertainty. Then, we examine the capability of capturing data and model
uncertainties by the model with the selected UE score on well-designed test
scenarios and discover that the model reflects data uncertainty satisfactorily
but underestimates model uncertainty. Furthermore, we explore numerous lexical
properties that intrinsically affect data uncertainty and provide a detailed
analysis of four critical aspects: the syntactic category, morphology, sense
granularity, and semantic relations. The code is available at
https://github.com/RyanLiut/WSD-UE.
- Abstract(参考訳): 目的語に対する適切な意味を決定することを目的とした単語感覚曖昧化(WSD)は、自然言語理解に不可欠である。
既存の教師付き手法はWSDを分類タスクとして扱い、優れたパフォーマンスを実現した。
しかし、データは常にノイズが多く分布外である実世界の環境での不確実性推定(UE)を無視する。
本稿では,WSD 向けに設計されたベンチマーク上で UE を広範囲に研究する。
具体的には、まず、最先端のWSDモデルに対する4つの不確実性スコアを比較し、モデルの最後に得られた従来の予測確率が不適切であることを検証する。
そこで, モデルが適切に設計されたテストシナリオにおいて, 選択したUEスコアを用いて, モデルによるデータとモデルの不確実性を捕捉し, モデルの不確かさを十分に反映していることを確認した。
さらに,データ不確実性に内在する多数の語彙特性を探索し,構文カテゴリー,形態,知覚粒度,意味関係の4つの重要な側面を詳細に分析した。
コードはhttps://github.com/RyanLiut/WSD-UEで公開されている。
関連論文リスト
- A Review of Bayesian Uncertainty Quantification in Deep Probabilistic Image Segmentation [0.0]
画像セグメンテーションの進歩は、ディープラーニングベースのコンピュータビジョンの広い範囲において重要な役割を果たす。
この文脈において不確かさの定量化が広く研究され、モデル無知(認識の不確実性)やデータ曖昧さ(アラート的不確実性)を表現し、不正な意思決定を防ぐことができる。
この研究は、分野の進歩を左右する不確実性の基本概念と様々なタスクへの応用について議論することで、確率的セグメンテーションの包括的概要を提供する。
論文 参考訳(メタデータ) (2024-11-25T13:26:09Z) - Uncertainty for Active Learning on Graphs [70.44714133412592]
不確実性サンプリングは、機械学習モデルのデータ効率を改善することを目的とした、アクティブな学習戦略である。
予測の不確実性を超えた不確実性サンプリングをベンチマークし、他のアクティブラーニング戦略に対する大きなパフォーマンスギャップを強調します。
提案手法は,データ生成プロセスの観点から基幹的ベイズ不確実性推定法を開発し,不確実性サンプリングを最適クエリへ導く上での有効性を実証する。
論文 参考訳(メタデータ) (2024-05-02T16:50:47Z) - Uncertainty-boosted Robust Video Activity Anticipation [72.14155465769201]
ビデオアクティビティの予測は、ロボットビジョンから自動運転まで幅広い応用可能性を受け入れることで、将来何が起こるかを予測することを目的としている。
近年の進展にもかかわらず、コンテンツ進化過程やイベントラベルの動的相関として反映されたデータ不確実性問題は、何らかの形で無視されている。
本研究では,予測結果の信頼性を示す不確実な値を生成する,不確実性を考慮した頑健なビデオアクティビティ予測フレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-29T12:31:38Z) - Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。
本稿では,LLMのための不確実性分解フレームワークについて述べる。
提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
論文 参考訳(メタデータ) (2023-11-15T05:58:35Z) - Adaptive Uncertainty Estimation via High-Dimensional Testing on Latent
Representations [28.875819909902244]
不確実性推定は、訓練されたディープニューラルネットワークの信頼性を評価することを目的としている。
既存の不確実性推定アプローチは、低次元分布仮定に依存している。
本研究では,不確実性推定のためのデータ適応型高次元仮説テストを用いた新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-25T12:22:18Z) - Evaluating AI systems under uncertain ground truth: a case study in
dermatology [44.80772162289557]
本稿では,アノテーションの不確実性を測定するための指標を提案し,評価のための不確実性調整指標を提案する。
本稿では,本フレームワークを皮膚条件分類に応用した症例スタディとして,アノテーションを診断の形で提供した画像について述べる。
論文 参考訳(メタデータ) (2023-07-05T10:33:45Z) - Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。
これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。
クリーン音声推定における不確実性モデリングの利点について検討する。
論文 参考訳(メタデータ) (2023-05-15T15:55:12Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳(メタデータ) (2022-10-24T17:53:20Z) - Exploring Predictive Uncertainty and Calibration in NLP: A Study on the
Impact of Method & Data Scarcity [7.3372471678239215]
我々は、幅広いアプローチから推定値の質を評価し、利用可能なデータ量に依存する。
事前訓練されたモデルとアンサンブルに基づくアプローチは全体として最高の結果を得るが、不確実性推定の品質は驚くほど多くのデータに悩まされる。
論文 参考訳(メタデータ) (2022-10-20T15:42:02Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳(メタデータ) (2021-11-22T08:54:10Z) - Approaching Neural Network Uncertainty Realism [53.308409014122816]
自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。
マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。
自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-01-08T11:56:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。