論文の概要: Unsupervised Pronoun Resolution via Masked Noun-Phrase Prediction
- arxiv url: http://arxiv.org/abs/2105.12392v1
- Date: Wed, 26 May 2021 08:30:18 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-27 13:32:54.215474
- Title: Unsupervised Pronoun Resolution via Masked Noun-Phrase Prediction
- Title(参考訳): Masked Noun-Phrase 予測による教師なし代名詞分解
- Authors: Ming Shen, Pratyay Banerjee, Chitta Baral
- Abstract要約: Masked Noun-Phrase Prediction (MNPP) は完全に教師なしの環境で代名詞解決に取り組むための事前学習戦略である。
提案手法は,全データセットにおける従来の教師なし手法を大きなマージンで上回っている。
- 参考スコア(独自算出の注目度): 19.242433301351234
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we propose Masked Noun-Phrase Prediction (MNPP), a pre-training
strategy to tackle pronoun resolution in a fully unsupervised setting. Firstly,
We evaluate our pre-trained model on various pronoun resolution datasets
without any finetuning. Our method outperforms all previous unsupervised
methods on all datasets by large margins. Secondly, we proceed to a few-shot
setting where we finetune our pre-trained model on WinoGrande-S and XS. Our
method outperforms RoBERTa-large baseline with large margins, meanwhile,
achieving a higher AUC score after further finetuning on the remaining three
official splits of WinoGrande.
- Abstract(参考訳): 本研究では,完全教師なし環境で代名詞解決に取り組むための事前学習戦略であるMasked Noun-Phrase Prediction (MNPP)を提案する。
まず,様々な代名詞解決データセットの事前学習モデルを評価する。
提案手法は,全データセットにおける従来の教師なし手法を大きなマージンで上回っている。
次に、WinoGrande-SとXSでトレーニング済みのモデルを微調整する。
提案手法は,WinoGrandeの残りの3つのオフィシャルスプリットを微調整した後,高いAUCスコアを達成し,RoBERTa-largeベースラインを大きなマージンで上回った。
関連論文リスト
- Denoising and Selecting Pseudo-Heatmaps for Semi-Supervised Human Pose
Estimation [38.97427474379367]
ラベルのないデータから学習するターゲットとして,信頼度の高い擬似熱マップを生成するための認知スキームを導入する。
評価された学生間の不確実性によって導かれる擬似熱マップから学習対象を選択する。
提案手法は,従来の半教師付きポーズ推定装置よりも優れていた。
論文 参考訳(メタデータ) (2023-09-29T19:17:30Z) - Multi-Level Contrastive Learning for Dense Prediction Task [59.591755258395594]
本稿では,高密度予測タスクのための領域レベルの特徴表現を効率よく学習するための,MCL(Multi-Level Contrastive Learning for Dense Prediction Task)を提案する。
本手法は, 局所化, スケールの整合性, 認識の3つの要因に動機付けられている。
提案手法は,様々なデータセットにおける最近の最先端の手法よりも有意なマージンを有する。
論文 参考訳(メタデータ) (2023-04-04T17:59:04Z) - MV-JAR: Masked Voxel Jigsaw and Reconstruction for LiDAR-Based
Self-Supervised Pre-Training [58.07391711548269]
Masked Voxel Jigsaw and Reconstruction (MV-JAR) method for LiDAR-based self-supervised pre-training
Masked Voxel Jigsaw and Reconstruction (MV-JAR) method for LiDAR-based self-supervised pre-training
論文 参考訳(メタデータ) (2023-03-23T17:59:02Z) - MIRST-DM: Multi-Instance RST with Drop-Max Layer for Robust
Classification of Breast Cancer [62.997667081978825]
MIRST-DMと呼ばれるドロップマックス層を用いたマルチインスタンスRTTを提案し、小さなデータセット上でよりスムーズな決定境界を学習する。
提案手法は1,190画像の小さな乳房超音波データセットを用いて検証した。
論文 参考訳(メタデータ) (2022-05-02T20:25:26Z) - Digging into Uncertainty in Self-supervised Multi-view Stereo [57.04768354383339]
自己教師型学習のための新しいuncertainty reduction Multi-view Stereo(UMVS)フレームワークを提案する。
我々のフレームワークは、教師なしのMVSメソッドの中で最高のパフォーマンスを達成し、教師なしの対戦相手と競合する性能を実現している。
論文 参考訳(メタデータ) (2021-08-30T02:53:08Z) - Pseudo Zero Pronoun Resolution Improves Zero Anaphora Resolution [34.67648598169118]
ゼロアナフォラ分解能(ZAR)のための新しい事前学習タスクと微調整手法を提案する。
大規模な生のコーパスからZARに必要なアナフォリックな関係知識の習得を目指します。
実験の結果,提案手法は従来の最先端性能よりも大きなマージンを持つことがわかった。
論文 参考訳(メタデータ) (2021-04-15T12:43:57Z) - Learning from eXtreme Bandit Feedback [105.0383130431503]
非常に大きな行動空間の設定における帯域幅フィードバックからのバッチ学習の問題について検討する。
本稿では,より有利なバイアス分散状態で動作する選択的重要度サンプリング推定器(sIS)を提案する。
我々は,この推定器を,XMCタスクの帯域幅フィードバックから学習するために,新しいアルゴリズム手法であるポリシ・オプティマイズ・フォー・エクストリーム・モデル (POXM) に採用する。
論文 参考訳(メタデータ) (2020-09-27T20:47:25Z) - Completely Self-Supervised Crowd Counting via Distribution Matching [92.09218454377395]
我々は,密集した群集数に対するトレーニングモデルに対する完全な自己超越的アプローチを提案する。
トレーニングに必要な入力は、大量の未ラベルの群衆画像以外は、群衆数に近似した上限である。
提案手法は,自然群集が逆伝播の誤り信号を生成するために利用可能な電力法分布に従うという考え方に富む。
論文 参考訳(メタデータ) (2020-09-14T13:20:12Z) - RecSal : Deep Recursive Supervision for Visual Saliency Prediction [2.223733768286313]
正当性予測データセットを使用して、最終的な正当性マップだけでなく、各刺激についてより多くの情報を作成することができる。
提案手法は,パラメータが50~80%少ない従来の最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-08-31T17:08:34Z) - Self-supervised Monocular Trained Depth Estimation using Self-attention
and Discrete Disparity Volume [19.785343302320918]
本研究では,1)自己注意,2)離散的不一致予測という,自己教師付き単分子学習深度推定を改善するための2つの新しいアイデアを提案する。
これらの2つのアイデアにより、最先端の自己教師型単分子深度推定器 Monodepth2 の拡張により、KITTI 2015 と Make3D の分野で最高の結果を生み出すモデルを設計できることを示す。
論文 参考訳(メタデータ) (2020-03-31T04:48:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。