Fugu-MT 論文翻訳(概要): LMVE at SemEval-2020 Task 4: Commonsense Validation and Explanation using Pretraining Language Model

論文の概要: LMVE at SemEval-2020 Task 4: Commonsense Validation and Explanation using Pretraining Language Model

arxiv url: http://arxiv.org/abs/2007.02540v1
Date: Mon, 6 Jul 2020 05:51:10 GMT
ステータス: 処理完了
システム内更新日: 2022-11-13 01:14:54.752108
Title: LMVE at SemEval-2020 Task 4: Commonsense Validation and Explanation using Pretraining Language Model
Title（参考訳）: LMVE at SemEval-2020 Task 4:Commonsense Validation and Explanation using Pretraining Language Model (英語)
Authors: Shilei Liu, Yu Guo, Bochao Li and Feiliang Ren
Abstract要約: 本稿では,SemEval-2020 Task 4のサブタスクa,bへの提出について述べる。サブタスク a では、ALBERT ベースのモデルを用いて2つの文候補から共通感覚文を抽出する。サブタスクbでは、ヒント文機構によって強化された多重選択モデルを用いて、文が常識に反する理由を与えられた選択肢から選択する。
参考スコア（独自算出の注目度）: 5.428461405329692
License: http://creativecommons.org/licenses/by/4.0/
Abstract: This paper describes our submission to subtask a and b of SemEval-2020 Task 4. For subtask a, we use a ALBERT based model with improved input form to pick out the common sense statement from two statement candidates. For subtask b, we use a multiple choice model enhanced by hint sentence mechanism to select the reason from given options about why a statement is against common sense. Besides, we propose a novel transfer learning strategy between subtasks which help improve the performance. The accuracy scores of our system are 95.6 / 94.9 on official test set and rank 7$^{th}$ / 2$^{nd}$ on Post-Evaluation leaderboard.
Abstract（参考訳）: 本稿では,SemEval-2020 Task 4のサブタスクaとbについて述べる。サブタスクaでは、入力フォームが改善されたalbertベースのモデルを使用して、2つのステートメント候補から共通意味文を選択します。サブタスクbでは、ヒント文機構によって強化された多重選択モデルを用いて、文が常識に反する理由を与えられた選択肢から選択する。さらに,性能向上を支援するサブタスク間での移動学習戦略を提案する。我々のシステムの精度スコアは公式のテストセットで95.6 / 94.9であり、ポスト評価のリーダーボードで7$^{th}$ / 2$^{nd}$である。

関連論文リスト

Prompt Algebra for Task Composition [131.97623832435812]
素早いチューニングを伴うビジュアル言語モデルを基本分類器として検討する。合成分類器の性能向上のための制約付きプロンプトチューニングを提案する。 UTZapposでは、最高のベースモデルに対する分類精度を平均8.45%向上させる。
論文参考訳（メタデータ） (2023-06-01T03:20:54Z)
Toward Efficient Language Model Pretraining and Downstream Adaptation via Self-Evolution: A Case Study on SuperGLUE [203.65227947509933]
このレポートでは、スーパーGLUEのリーダーボードにJDExplore d-teamのVega v2を提出しました。 SuperGLUEは、広く使われている汎用言語理解評価(GLUE)ベンチマークよりも難易度が高く、8つの難しい言語理解タスクを含んでいる。
論文参考訳（メタデータ） (2022-12-04T15:36:18Z)
Findings of the WMT 2022 Shared Task on Translation Suggestion [63.457874930232926]
We report the results of the first edition of the WMT shared task on Translation Suggestion。このタスクは、機械翻訳(MT)によって生成された文書全体に対して、特定の単語やフレーズの代替手段を提供することを目的としている。 2つのサブタスク、すなわち単純翻訳提案と暗示付き翻訳提案で構成されている。
論文参考訳（メタデータ） (2022-11-30T03:48:36Z)
ISCAS at SemEval-2020 Task 5: Pre-trained Transformers for Counterfactual Statement Modeling [48.3669727720486]
ISCASはSemEval 2020 Task 5の2つのサブタスクに参加した。本稿では,事前学習したトランスをベースとしたシステムについて述べる。
論文参考訳（メタデータ） (2020-09-17T09:28:07Z)
QiaoNing at SemEval-2020 Task 4: Commonsense Validation and Explanation system based on ensemble of language model [2.728575246952532]
本稿では,SemEval-2020 Task 4コンペティションに提出された言語モデルシステムについて述べる。我々は、事前訓練された言語モデル(BERT、XLNet、RoBERTa、ALBERT)を用いて転送学習を行い、このタスクでそれらを微調整した。アンサンブルされたモデルはこの問題をよりよく解決し、モデルの精度はサブタスクAで95.9%に達した。
論文参考訳（メタデータ） (2020-09-06T05:12:50Z)
CS-NET at SemEval-2020 Task 4: Siamese BERT for ComVE [2.0491741153610334]
本論文では,共通認識を裏付ける文と,そうでない文とを区別するシステムについて述べる。我々はトランスフォーマーの並列インスタンスを使用し、それによってパフォーマンスが向上します。その結果, サブタスクAでは94.8%, サブタスクBでは89%の精度が得られた。
論文参考訳（メタデータ） (2020-07-21T14:08:02Z)
IIE-NLP-NUT at SemEval-2020 Task 4: Guiding PLM with Prompt Template Reconstruction Strategy for ComVE [13.334749848189826]
サブタスクを複数選択の質問応答形式に形式化し、プロンプトテンプレートで入力を構築する。実験結果から,本手法はベースラインシステムと比較して高い性能を示した。最初の2つのサブタスクの2つの公式テストセットにおいて、96.4の精度と94.3の精度で第3位を確保した。
論文参考訳（メタデータ） (2020-07-02T06:59:53Z)
CUHK at SemEval-2020 Task 4: CommonSense Explanation, Reasoning and Prediction with Multi-task Learning [22.534520584497503]
本稿では,SemEval 2020: Commonsense Validation and Explanation (ComVE)のタスク4に提案したシステムについて述べる。タスクは、与えられた文が意味があるかどうかを直接検証し、それを説明するためにモデルを必要とする。マルチタスク設定によるBERTarchitectureに基づいて,ERP(Explain, Reason and Predict)システムを提案する。
論文参考訳（メタデータ） (2020-06-12T13:51:12Z)
L2R2: Leveraging Ranking for Abductive Reasoning [65.40375542988416]
学習システムの帰納的推論能力を評価するために,帰納的自然言語推論タスク(alpha$NLI)を提案する。新たな$L2R2$アプローチは、Learning-to-rankフレームワークの下で提案されている。 ARTデータセットの実験は、公開リーダボードの最先端に到達します。
論文参考訳（メタデータ） (2020-05-22T15:01:23Z)
CS-NLP team at SemEval-2020 Task 4: Evaluation of State-of-the-art NLP Deep Learning Architectures on Commonsense Reasoning Task [3.058685580689605]
本稿では,SemEval-2020 Task 4 competition: Commonsense Validation and Explanation (ComVE) Challengeについて述べる。本システムは、3つの異なる自然言語推論サブタスクに対して手動でキュレートされたラベル付きテキストデータセットを使用する。第2のサブタスクでは、声明が意味をなさない理由を選択するため、27人の参加者のうち、最初の6チーム(93.7%)で非常に競争力のある結果が得られます。
論文参考訳（メタデータ） (2020-05-17T13:20:10Z)
Pre-training Is (Almost) All You Need: An Application to Commonsense Reasoning [61.32992639292889]
事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
論文参考訳（メタデータ） (2020-04-29T10:54:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。