論文の概要: Label-Confidence-Aware Uncertainty Estimation in Natural Language Generation

• arxiv url: http://arxiv.org/abs/2412.07255v1
• Date: Tue, 10 Dec 2024 07:35:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-11 14:39:16.937866
• Title: Label-Confidence-Aware Uncertainty Estimation in Natural Language Generation
• Title（参考訳）: ラベル信頼度を考慮した自然言語生成における不確かさ推定
• Authors: Qinhong Lin, Linna Zhou, Zhongliang Yang, Yuang Cai,
• Abstract要約: 不確実性定量化(UQ)は、AIシステムの安全性と堅牢性を保証するために不可欠である。 サンプルとラベルソース間の分岐に基づくラベル信頼度(LCA)の不確実性評価を提案する。
• 参考スコア（独自算出の注目度）: 8.635811152610604
• License:
• Abstract: Large Language Models (LLMs) display formidable capabilities in generative tasks but also pose potential risks due to their tendency to generate hallucinatory responses. Uncertainty Quantification (UQ), the evaluation of model output reliability, is crucial for ensuring the safety and robustness of AI systems. Recent studies have concentrated on model uncertainty by analyzing the relationship between output entropy under various sampling conditions and the corresponding labels. However, these methods primarily focus on measuring model entropy with precision to capture response characteristics, often neglecting the uncertainties associated with greedy decoding results-the sources of model labels, which can lead to biased classification outcomes. In this paper, we explore the biases introduced by greedy decoding and propose a label-confidence-aware (LCA) uncertainty estimation based on Kullback-Leibler (KL) divergence bridging between samples and label source, thus enhancing the reliability and stability of uncertainty assessments. Our empirical evaluations across a range of popular LLMs and NLP datasets reveal that different label sources can indeed affect classification, and that our approach can effectively capture differences in sampling results and label sources, demonstrating more effective uncertainty estimation.
• Abstract（参考訳）: 大型言語モデル(LLM)は、生成タスクにおいて強大な能力を示すが、幻覚反応を引き起こす傾向があるため潜在的なリスクも生じる。 モデル出力信頼性の評価である不確実性定量化(UQ)は、AIシステムの安全性と堅牢性を保証するために不可欠である。 近年の研究では、様々なサンプリング条件下での出力エントロピーと対応するラベルの関係を解析することによって、モデルの不確実性に焦点を当てている。 しかし、これらの手法は主に応答特性を正確に把握するモデルエントロピーの測定に重点を置いており、しばしばグレーディ復号結果に関連する不確かさを無視する。 本稿では,greedyデコーディングによって導入されたバイアスについて検討し,サンプルとラベルソース間のKL分岐に基づくラベル信頼度(LCA)不確実性評価を提案し,不確実性評価の信頼性と安定性を向上する。 LLM と NLP データセットを対象とする実験的な評価により,ラベルの異なるソースが分類に実際に影響を与え,サンプリング結果とラベルのソースの差異を効果的に把握し,より効果的な不確実性評価を行うことができた。

関連論文リスト

• Uncertainty Quantification in Stereo Matching [61.73532883992135]
  ステレオマッチングのための新しいフレームワークとその不確実性定量化を提案する。 我々は、不確実性と推定データの尺度としてベイズリスクを採用し、個別に不確実性をモデル化する。 我々は,不確実性の少ないデータポイントを選択することにより,予測精度を向上させるために不確実性手法を適用した。
  論文  参考訳（メタデータ） (2024-12-24T23:28:20Z)
• Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
  大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。 本稿では,LLMのための不確実性分解フレームワークについて述べる。 提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
  論文  参考訳（メタデータ） (2023-11-15T05:58:35Z)
• On Uncertainty Calibration and Selective Generation in Probabilistic Neural Summarization: A Benchmark Study [14.041071717005362]
  要約のための最新のディープモデルは、優れたベンチマーク性能を得るが、誤校正された予測の不確実性を生成する傾向にある。 これは、低品質の予測に高い信頼性を割り当て、現実世界のアプリケーションにおける信頼性と信頼性を損なうことを意味する。 確率的深層学習法は誤校正問題の一般的な解法であるが, 複雑な自己回帰的要約タスクにおける相対的有効性はよく理解されていない。
  論文  参考訳（メタデータ） (2023-04-17T23:06:28Z)
• Reliability-Aware Prediction via Uncertainty Learning for Person Image Retrieval [51.83967175585896]
  UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。 データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
  論文  参考訳（メタデータ） (2022-10-24T17:53:20Z)
• Exploring Predictive Uncertainty and Calibration in NLP: A Study on the Impact of Method & Data Scarcity [7.3372471678239215]
  我々は、幅広いアプローチから推定値の質を評価し、利用可能なデータ量に依存する。 事前訓練されたモデルとアンサンブルに基づくアプローチは全体として最高の結果を得るが、不確実性推定の品質は驚くほど多くのデータに悩まされる。
  論文  参考訳（メタデータ） (2022-10-20T15:42:02Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
  我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)
• Approaching Neural Network Uncertainty Realism [53.308409014122816]
  自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。 マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。 自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
  論文  参考訳（メタデータ） (2021-01-08T11:56:12Z)
• Know Your Limits: Uncertainty Estimation with ReLU Classifiers Fails at Reliable OOD Detection [0.0]
  本稿では, 実験結果について理論的に説明し, 合成データから考察する。 このような技術は、分類設定でOODサンプルを確実に識別できないことを証明します。
  論文  参考訳（メタデータ） (2020-12-09T21:35:55Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)
• Uncertainty Quantification in Extreme Learning Machine: Analytical Developments, Variance Estimates and Confidence Intervals [0.0]
  不確かさの定量化は、機械学習モデルの予測品質を評価するために不可欠である。 文献で提案されるほとんどの手法は、データに対して強い仮定を行い、入力重みのランダム性を無視したり、信頼区間推定におけるバイアス寄与を無視したりする。 本稿では,これらの制約を克服し,EMMの多様性の理解を向上させる新しい推定法を提案する。
  論文  参考訳（メタデータ） (2020-11-03T13:45:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。