論文の概要: PANDA (Pedantic ANswer-correctness Determination and
Adjudication):Improving Automatic Evaluation for Question Answering and Text
Generation
- arxiv url: http://arxiv.org/abs/2402.11161v1
- Date: Sat, 17 Feb 2024 01:56:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-20 23:16:15.302416
- Title: PANDA (Pedantic ANswer-correctness Determination and
Adjudication):Improving Automatic Evaluation for Question Answering and Text
Generation
- Title(参考訳): panda (pedantic answer-correctness determination and adjudication):質問応答とテキスト生成の自動評価の改善
- Authors: Zongxia Li, Ishani Mondal, Yijun Liang, Huy Nghiem, Jordan Lee
Boyd-Graber
- Abstract要約: 質問応答(QA)は、答えが正しいかどうかを知る場合にのみ進行する。
現在の回答正当性(AC)の指標は人間の判断と一致しない。
正確性判定と適応(PANDA)について紹介する。
- 参考スコア(独自算出の注目度): 11.122579182121909
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Question answering (QA) can only make progress if we know if an answer is
correct, but for many of the most challenging and interesting QA examples,
current answer correctness (AC) metrics do not align with human judgments,
particularly verbose, free form answers from large language models (LLM). There
are two challenges: a lack of data and that models are too big. LLM based
scorers correlate better with humans, but this expensive task has only been
tested on limited QA datasets. We rectify these issues by providing clear
guidelines for evaluating machine QA adopted from human QA contests. We also
introduce Precise ANswer correctness Determination and Adjudication (PANDA), a
small, efficient, deterministic AC classifier (812 KB) that more accurately
evaluates answer correctness.
- Abstract(参考訳): 質問応答(QA)は、答えが正しいかどうかを知る場合にのみ進行するが、最も困難で興味深いQAの例では、現在の回答正当性(AC)メトリクスは人間の判断、特に冗長で、大きな言語モデル(LLM)からの自由なフォーム回答と一致しない。
データ不足とモデルが大きすぎるという2つの課題があります。
LLMベースのスコアラは人間と相関するが、この高価なタスクは限られたQAデータセットでのみテストされている。
我々は、人間のQAコンテストから採用したマシンQAを評価するための明確なガイドラインを提供することで、これらの問題を是正する。
また,回答の正確さをより正確に評価する小型かつ効率的で決定論的AC分類器であるPANDA (Precise ANswer correctness determined and Adjudication) を導入する。
関連論文リスト
- CFMatch: Aligning Automated Answer Equivalence Evaluation with Expert
Judgments For Open-Domain Question Answering [14.366087533102656]
質問応答(QA)は、答えが正しいかどうかを知る場合にのみ進行する。
回答等価性(AE)を決定するための現在の評価基準は、しばしば人間の判断と一致しない。
論文 参考訳(メタデータ) (2024-01-24T01:30:25Z) - SQUARE: Automatic Question Answering Evaluation using Multiple Positive
and Negative References [73.67707138779245]
SQuArE (Sentence-level QUestion AnsweRing Evaluation) という新しい評価指標を提案する。
文レベルの抽出(回答選択)と生成(GenQA)の両方のQAシステムでSQuArEを評価する。
論文 参考訳(メタデータ) (2023-09-21T16:51:30Z) - RoMQA: A Benchmark for Robust, Multi-evidence, Multi-answer Question
Answering [87.18962441714976]
堅牢でマルチエビデンスな質問応答(QA)のための最初のベンチマークであるRoMQAを紹介します。
我々は、最先端の大規模言語モデルをゼロショット、少数ショット、微調整設定で評価し、RoMQAが難しいことを発見した。
以上の結果から,RoMQAは大規模言語モデルにとって難しいベンチマークであり,より堅牢なQA手法を構築するための定量的なテストを提供する。
論文 参考訳(メタデータ) (2022-10-25T21:39:36Z) - ASQA: Factoid Questions Meet Long-Form Answers [35.11889930792675]
この研究は、解釈によって異なる正しい答えを持つ、あいまいな事実型問題に焦点を当てている。
曖昧な質問に対する回答は、複数の情報源からの事実情報を長文の要約にまとめるべきである。
我々は、この正確性の概念を用いて、ASQAのパフォーマンスの自動測定基準を定義します。
論文 参考訳(メタデータ) (2022-04-12T21:58:44Z) - Counterfactual Variable Control for Robust and Interpretable Question
Answering [57.25261576239862]
ディープニューラルネットワークに基づく質問応答(QA)モデルは、多くの場合、堅牢でも説明もできない。
本稿では、因果推論を用いてQAモデルのこのような突発的な「能力」を検証する。
本稿では,任意のショートカット相関を明示的に緩和する,CVC(Counterfactual Variable Control)という新しい手法を提案する。
論文 参考訳(メタデータ) (2020-10-12T10:09:05Z) - Selective Question Answering under Domain Shift [90.021577320085]
モデルがドメイン外の入力に対して過度に信頼されているため、モデルのソフトマックス確率のみに基づくアテンションポリシーは不適切である。
キャリブレータをトレーニングして、QAモデルがアースする入力を識別し、エラーを予測した場合に停止する。
提案手法は,80%の精度を維持しながら56%の質問に回答するが,それに対してモデルの確率を直接使用する場合,80%の精度で48%しか回答しない。
論文 参考訳(メタデータ) (2020-06-16T19:13:21Z) - Harvesting and Refining Question-Answer Pairs for Unsupervised QA [95.9105154311491]
教師なし質問回答(QA)を改善するための2つのアプローチを提案する。
まず、ウィキペディアから語彙的・構文的に異なる質問を抽出し、質問応答対のコーパスを自動的に構築する(RefQAと名づけられる)。
第2に、より適切な回答を抽出するためにQAモデルを活用し、RefQA上でデータを反復的に洗練する。
論文 参考訳(メタデータ) (2020-05-06T15:56:06Z) - KPQA: A Metric for Generative Question Answering Using Keyphrase Weights [64.54593491919248]
KPQA-metricは生成的質問応答システムの正当性を評価するための新しい指標である。
我々の新しい計量は、キーフレーズ予測を通じて各トークンに異なる重みを割り当てる。
提案手法は,既存の指標よりも人的判断との相関が有意に高いことを示す。
論文 参考訳(メタデータ) (2020-05-01T03:24:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。