論文の概要: Extracting or Guessing? Improving Faithfulness of Event Temporal
Relation Extraction
- arxiv url: http://arxiv.org/abs/2210.04992v2
- Date: Wed, 12 Oct 2022 00:49:15 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 11:49:07.538252
- Title: Extracting or Guessing? Improving Faithfulness of Event Temporal
Relation Extraction
- Title(参考訳): 抽出か推測か?
事象時間関係抽出の忠実度向上
- Authors: Haoyu Wang, Hongming Zhang, Yuqian Deng, Jacob R. Gardner, Dan Roth,
Muhao Chen
- Abstract要約: 本研究では,TempRel抽出モデルの忠実度を2つの観点から改善する。
第1の視点は、文脈記述に基づいて真に抽出することである。
第2の視点は、適切な不確実性評価を提供することである。
- 参考スコア(独自算出の注目度): 87.04153383938969
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we seek to improve the faithfulness of TempRel extraction
models from two perspectives. The first perspective is to extract genuinely
based on contextual description. To achieve this, we propose to conduct
counterfactual analysis to attenuate the effects of two significant types of
training biases: the event trigger bias and the frequent label bias. We also
add tense information into event representations to explicitly place an
emphasis on the contextual description. The second perspective is to provide
proper uncertainty estimation and abstain from extraction when no relation is
described in the text. By parameterization of Dirichlet Prior over the
model-predicted categorical distribution, we improve the model estimates of the
correctness likelihood and make TempRel predictions more selective. We also
employ temperature scaling to recalibrate the model confidence measure after
bias mitigation. Through experimental analysis on MATRES, MATRES-DS, and
TDDiscourse, we demonstrate that our model extracts TempRel and timelines more
faithfully compared to SOTA methods, especially under distribution shifts.
- Abstract(参考訳): 本稿では,TempRel抽出モデルの忠実度を2つの観点から改善する。
最初の視点は、文脈記述に基づいて真に抽出することである。
そこで本研究では,イベントトリガバイアスと頻繁なラベルバイアスという,2つの重要なトレーニングバイアスの影響を緩和する反事実分析手法を提案する。
また、コンテキスト記述に明示的に重点を置くために、イベント表現にテンス情報を追加します。
第2の視点は、適切な不確実性の推定と、テキストに関係が記述されていない場合の抽出の回避である。
モデル予測カテゴリー分布よりもディリクレ事前のパラメータ化により、正しさ確率のモデル推定を改善し、TempRel予測をより選択的にする。
また、バイアス緩和後のモデル信頼度尺度の再検討に温度スケーリングを用いる。
MATRES, MATRES-DS, TDDiscourseの実験的解析により, このモデルがTempRelと時間軸をSOTA法よりも忠実に抽出することを示した。
関連論文リスト
- Plausible Extractive Rationalization through Semi-Supervised Entailment Signal [29.67884478799914]
抽出された有理量の妥当性を最適化するために,半教師付きアプローチを採用する。
我々は、事前学習された自然言語推論(NLI)モデルを採用し、さらに教師付き論理の小さなセットに微調整する。
質問応答タスクにおける説明と回答のアライメント合意を強制することにより、真理ラベルにアクセスせずに性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2024-02-13T14:12:32Z) - Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation [53.27596811146316]
拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。
本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。
そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
論文 参考訳(メタデータ) (2024-01-17T07:58:18Z) - Exploiting Diffusion Prior for Generalizable Dense Prediction [85.4563592053464]
近年のテキスト・トゥ・イメージ(T2I)拡散モデルでは、既成の高密度予測器では予測できないことがある。
我々は,事前学習したT2Iモデルを用いたパイプラインDMPを,高密度予測タスクの先駆けとして導入する。
限られたドメインのトレーニングデータにもかかわらず、この手法は任意の画像に対して忠実に推定し、既存の最先端のアルゴリズムを超越する。
論文 参考訳(メタデータ) (2023-11-30T18:59:44Z) - You Only Forward Once: Prediction and Rationalization in A Single
Forward Pass [10.998983921416533]
教師なしの合理性抽出は、合理性のないモデル予測をサポートするために、簡潔で連続的なテキストスニペットを抽出することを目的としている。
これまでの研究では、RNP(Rationalizing Neural Prediction)フレームワークと呼ばれる2段階のフレームワークを使用してきた。
そこで我々は,論理学の緩和版から派生した,単相一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一元一
論文 参考訳(メタデータ) (2023-11-04T08:04:28Z) - KL-Divergence Guided Temperature Sampling [5.726259957909055]
温度が上がると、予測は多様になるが、幻覚にも弱い。
幻覚を緩和するための一般的なアプローチは、ソース/グラウンドのドキュメントを提供することである。
本稿では,デコードステップよりも温度が一定であることの制約を緩和すると共に,その発生源との関係に応じて動的温度を誘導する機構を提案する。
論文 参考訳(メタデータ) (2023-06-02T06:11:26Z) - Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。
また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。
様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
論文 参考訳(メタデータ) (2023-02-22T14:50:24Z) - Confidence and Dispersity Speak: Characterising Prediction Matrix for
Unsupervised Accuracy Estimation [51.809741427975105]
この研究は、ラベルを使わずに、分散シフト下でのモデルの性能を評価することを目的としている。
我々は、両方の特性を特徴付けるのに有効であることが示されている核規範を用いる。
核の基準は既存の手法よりも正確で堅牢であることを示す。
論文 参考訳(メタデータ) (2023-02-02T13:30:48Z) - Learning Sample Importance for Cross-Scenario Video Temporal Grounding [30.82619216537177]
本稿では,時間的接地作業に特有の表面バイアスについて検討する。
そこで本研究では,Debiased Temporal Language Localizer (DebiasTLL) と呼ばれる新しい手法を提案する。
我々は、列車/テストデータが均一にソースされるクロスセサリオ時間的グラウンドリングにおいて、提案モデルを評価する。
論文 参考訳(メタデータ) (2022-01-08T15:41:38Z) - Debiased Explainable Pairwise Ranking from Implicit Feedback [0.3867363075280543]
BPR(Bayesian Personalized Ranking)に焦点をあてる。
BPRはアウトプットを説明しないブラックボックスモデルであり、ユーザのレコメンデーションに対する信頼を制限する。
本稿では,項目に基づく説明とともにレコメンデーションを生成する新しい説明可能な損失関数と,それに対応する行列分解モデルを提案する。
論文 参考訳(メタデータ) (2021-07-30T17:19:37Z) - Understanding Neural Abstractive Summarization Models via Uncertainty [54.37665950633147]
seq2seq抽象要約モデルは、自由形式の方法でテキストを生成する。
モデルのトークンレベルの予測のエントロピー、すなわち不確実性について検討する。
要約とテキスト生成モデルをより広範囲に解析する上で,不確実性は有用であることを示す。
論文 参考訳(メタデータ) (2020-10-15T16:57:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。