論文の概要: Autoencoding Language Model Based Ensemble Learning for Commonsense
Validation and Explanation
- arxiv url: http://arxiv.org/abs/2204.03324v1
- Date: Thu, 7 Apr 2022 09:43:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-08 13:34:38.454067
- Title: Autoencoding Language Model Based Ensemble Learning for Commonsense
Validation and Explanation
- Title（参考訳）: コモンセンス検証と説明のための自動エンコーディング言語モデルに基づくアンサンブル学習
- Authors: Ngo Quang Huy, Tu Minh Phuong and Ngo Xuan Bach
- Abstract要約: 本稿では,コモンセンス検証と説明のための自動符号化言語モデルに基づくアンサンブル学習手法を提案する。
提案手法は,コモンセンスに反する自然言語文(検証サブタスク)を識別し,コモンセンスに反する理由(説明選択サブタスク)を正しく識別する。
SemEval-2020 Task 4のベンチマークデータセットによる実験結果から,本手法が最先端モデルより優れていることが示された。
- 参考スコア（独自算出の注目度）: 1.503974529275767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An ultimate goal of artificial intelligence is to build computer systems that
can understand human languages. Understanding commonsense knowledge about the
world expressed in text is one of the foundational and challenging problems to
create such intelligent systems. As a step towards this goal, we present in
this paper ALMEn, an Autoencoding Language Model based Ensemble learning method
for commonsense validation and explanation. By ensembling several advanced
pre-trained language models including RoBERTa, DeBERTa, and ELECTRA with
Siamese neural networks, our method can distinguish natural language statements
that are against commonsense (validation subtask) and correctly identify the
reason for making against commonsense (explanation selection subtask).
Experimental results on the benchmark dataset of SemEval-2020 Task 4 show that
our method outperforms state-of-the-art models, reaching 97.9% and 95.4%
accuracies on the validation and explanation selection subtasks, respectively.
- Abstract（参考訳）: 人工知能の究極の目標は、人間の言語を理解できるコンピュータシステムを構築することである。
テキストで表現された世界に関する常識的な知識を理解することは、そのようなインテリジェントなシステムを構築するための基礎的かつ困難な問題の1つです。
そこで,本稿では,共通意味の検証と説明のための自動符号化言語モデルに基づくアンサンブル学習手法であるalmenについて述べる。
提案手法は,RoBERTa,DeBERTa,ELECTRAといった先進的な事前学習型言語モデルとサイムズニューラルネットワークを併用することにより,コモンセンス(検証サブタスク)に対する自然言語文を識別し,コモンセンス(説明選択サブタスク)に対する理由を正しく識別する。
SemEval-2020 Task 4のベンチマークデータセットによる実験結果から,提案手法は最先端モデルよりも優れており,検証と説明のサブタスクにおいて,97.9%,95.4%の精度が得られた。
関連論文リスト
- Learning Phonotactics from Linguistic Informants [54.086544221761486]
本モデルでは,情報理論的なポリシーの1つに従って,データポイントを反復的に選択または合成する。
提案モデルでは,情報提供者を問う項目の選択に使用する情報理論のポリシーが,完全教師付きアプローチに匹敵する,あるいはそれ以上の効率性が得られることがわかった。
論文 参考訳（メタデータ） (2024-05-08T00:18:56Z) - A Computational Model for the Assessment of Mutual Intelligibility Among
Closely Related Languages [1.5773159234875098]
密接に関連する言語は、ある言語の話者が積極的に学習することなく他の言語の話者を理解することができる言語類似性を示す。
相互の知性は程度によって異なり、典型的には精神言語実験でテストされる。
本稿では,人間による言語学習の認知過程を近似するために,線形識別学習システムを用いたコンピュータ支援手法を提案する。
論文 参考訳（メタデータ） (2024-02-05T11:32:13Z) - Self Generated Wargame AI: Double Layer Agent Task Planning Based on
Large Language Model [0.6562256987706128]
本稿では,大規模言語モデルを知的意思決定の分野に革新的に応用する。
自然言語の相互作用による2層エージェントタスク計画、課題、決定命令の実行を提案する。
大規模言語モデルの知的意思決定能力は、一般的に使われている強化学習AIやルールAIよりもはるかに強いことが判明した。
論文 参考訳（メタデータ） (2023-12-02T09:45:45Z) - Commonsense Knowledge Transfer for Pre-trained Language Models [83.01121484432801]
ニューラルコモンセンス知識モデルに格納されたコモンセンス知識を汎用的な事前学習言語モデルに転送するフレームワークであるコモンセンス知識伝達を導入する。
まず、一般的なテキストを利用して、ニューラルコモンセンス知識モデルからコモンセンス知識を抽出するクエリを形成する。
次に、コモンセンスマスクの埋め込みとコモンセンスの関係予測という2つの自己教師対象で言語モデルを洗練する。
論文 参考訳（メタデータ） (2023-06-04T15:44:51Z) - Lila: A Unified Benchmark for Mathematical Reasoning [59.97570380432861]
LILAは、23の多様なタスクと4次元からなる統一的な数学的推論ベンチマークである。
我々は,Pythonプログラムの形式でタスク命令とソリューションを収集することにより,20のデータセットベンチマークを拡張してベンチマークを構築した。
LILAで訓練された汎用数学的推論モデルであるBHASKARAを紹介する。
論文 参考訳（メタデータ） (2022-10-31T17:41:26Z) - Context-Aware Language Modeling for Goal-Oriented Dialogue Systems [84.65707332816353]
我々は、部分的に観察されたマルコフ決定過程としてゴール指向対話を定式化する。
目的を意識して言語モデルを微調整する,シンプルで効果的な手法を考案する。
本研究では,AirDialogue を用いた実践的なフライト予約タスクについて評価する。
論文 参考訳（メタデータ） (2022-04-18T17:23:11Z) - Towards Zero-shot Language Modeling [90.80124496312274]
人間の言語学習に誘導的に偏りを持つニューラルモデルを構築した。
類型的に多様な訓練言語のサンプルからこの分布を推測する。
我々は、保留言語に対する遠隔監視として、追加の言語固有の側情報を利用する。
論文 参考訳（メタデータ） (2021-08-06T23:49:18Z) - Exploring Software Naturalness through Neural Language Models [56.1315223210742]
ソフトウェア自然性仮説(Software Naturalness hypothesis)は、自然言語処理で使用されるのと同じ手法でプログラミング言語を理解することができると主張している。
この仮説は,事前学習されたトランスフォーマーベース言語モデルを用いて,コード解析タスクを実行することによって検討する。
論文 参考訳（メタデータ） (2020-06-22T21:56:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。