論文の概要: DimonGen: Diversified Generative Commonsense Reasoning for Explaining
Concept Relationships
- arxiv url: http://arxiv.org/abs/2212.10545v2
- Date: Tue, 16 May 2023 06:32:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-17 19:18:36.511853
- Title: DimonGen: Diversified Generative Commonsense Reasoning for Explaining
Concept Relationships
- Title(参考訳): DimonGen: 概念関係を説明するための多様な生成コモンセンス推論
- Authors: Chenzhengyi Liu and Jie Huang and Kerui Zhu and Kevin Chen-Chuan Chang
- Abstract要約: DimonGenは、さまざまな日常シナリオで概念関係を記述する多様な文を生成することを目的としている。
まず、既存のCommonGenデータセットを適用することで、このタスクのベンチマークデータセットを作成します。
次に、ターゲット文を生成するためにMoREEと呼ばれる2段階モデルを提案する。
- 参考スコア(独自算出の注目度): 8.54878522152325
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we propose DimonGen, which aims to generate diverse sentences
describing concept relationships in various everyday scenarios. To support
this, we first create a benchmark dataset for this task by adapting the
existing CommonGen dataset. We then propose a two-stage model called MoREE to
generate the target sentences. MoREE consists of a mixture of retrievers model
that retrieves diverse context sentences related to the given concepts, and a
mixture of generators model that generates diverse sentences based on the
retrieved contexts. We conduct experiments on the DimonGen task and show that
MoREE outperforms strong baselines in terms of both the quality and diversity
of the generated sentences. Our results demonstrate that MoREE is able to
generate diverse sentences that reflect different relationships between
concepts, leading to a comprehensive understanding of concept relationships.
- Abstract(参考訳): 本稿では,様々な日常シナリオにおいて概念関係を記述する多様な文を生成することを目的としたDimonGenを提案する。
これをサポートするために、私たちはまず既存のCommonGenデータセットを適用することで、このタスクのためのベンチマークデータセットを作成します。
次に,目的文を生成するための2段階モデルMoREEを提案する。
モレは、与えられた概念に関連する多様な文脈文を検索するレトリバーモデルと、検索された文脈に基づいて多様な文を生成するジェネレータモデルの混合からなる。
我々は,DimonGenタスクの実験を行い,生成した文の品質と多様性の両面で,MoREEが強いベースラインを上回っていることを示す。
その結果,モレは概念間の関係を反映する多様な文を生成することができ,概念関係の包括的理解に繋がることが示された。
関連論文リスト
- Improving Diversity of Commonsense Generation by Large Language Models via In-Context Learning [28.654890118684957]
生成コモンセンス推論 (Generative Commonsense Reasoning, GCR) は、コモンセンス知識を用いて状況を理解するためのモデルを必要とする。
生成の多様性は、モデルが様々な常識的知識事実を使用する能力を反映しているため、同様に重要である。
そこで本研究では,LLMの世代を多様化し,その品質を保ちながら簡便な手法を提案する。
論文 参考訳(メタデータ) (2024-04-25T17:52:39Z) - Meta-Task Prompting Elicits Embeddings from Large Language Models [54.757445048329735]
本稿では,新しい教師なしテキスト埋め込み手法であるMeta-Task Prompting with Explicit One-Word Limitationを紹介する。
モデル微調整を必要とせずに,大規模言語モデルから高品質な文埋め込みを生成する。
提案法は,多種多様なシナリオにまたがって生成を組み込む汎用的で資源効率のよい手法を提供する。
論文 参考訳(メタデータ) (2024-02-28T16:35:52Z) - Retrofitting Multilingual Sentence Embeddings with Abstract Meaning
Representation [70.58243648754507]
抽象的意味表現(AMR)を用いた既存の多言語文の埋め込みを改善する新しい手法を提案する。
原文入力と比較すると、AMRは文の中核概念と関係を明確かつ曖昧に表す構造的意味表現である。
実験結果から,多言語文をAMRで埋め込むと,意味的類似性と伝達タスクの両方において,最先端の性能が向上することがわかった。
論文 参考訳(メタデータ) (2022-10-18T11:37:36Z) - Dialogue Meaning Representation for Task-Oriented Dialogue Systems [51.91615150842267]
タスク指向対話のための柔軟かつ容易に拡張可能な表現である対話意味表現(DMR)を提案する。
我々の表現は、合成意味論とタスク固有の概念のためのリッチな意味論を表現するために、継承階層を持つノードとエッジのセットを含んでいる。
異なる機械学習ベースの対話モデルを評価するための2つの評価タスクを提案し、さらにグラフベースのコア参照解決タスクのための新しいコア参照解決モデルGNNCorefを提案する。
論文 参考訳(メタデータ) (2022-04-23T04:17:55Z) - ConRPG: Paraphrase Generation using Contexts as Regularizer [31.967883219986362]
パラフレーズ生成の長年の問題として、信頼できる監視信号を得る方法がある。
本稿では,同じ文脈で同じ意味を持つ2つの文を生成する確率が同じであるという仮定に基づいて,パラフレーズ生成のための教師なしパラダイムを提案する。
本稿では、文脈言語モデルに基づくパラフレーズ候補生成、スコアリング関数を用いた候補フィルタリング、選択した候補に基づくパラフレーズモデルトレーニングからなるパイプラインシステムを提案する。
論文 参考訳(メタデータ) (2021-09-01T12:57:30Z) - DYPLOC: Dynamic Planning of Content Using Mixed Language Models for Text
Generation [10.477090501569284]
本稿では,少なくとも2つの課題に直面する長文意見テキスト生成の課題について検討する。
既存のニューラルジェネレーションモデルはコヒーレンスに欠けており、効率的なコンテンツプランニングが必要である。
DYPLOCは、混合言語モデルの新しい設計に基づいて出力を生成しながら、コンテンツの動的計画を行う生成フレームワークである。
論文 参考訳(メタデータ) (2021-06-01T20:56:10Z) - Sentence-Permuted Paragraph Generation [35.57376276716488]
既存の生成モデルは同質な文脈から類似した内容を生成する。
提案手法は,複数節のコンテンツの多様性を改善するために文順を並べ替えることである。
PermGenは階層的な位置埋め込みを使用し、トレーニング、デコード、候補ランキングの新しい手順を設計する。
論文 参考訳(メタデータ) (2021-04-15T04:17:03Z) - Keyphrase Extraction with Dynamic Graph Convolutional Networks and
Diversified Inference [50.768682650658384]
キーワード抽出(KE)は、ある文書でカバーされている概念やトピックを正確に表現するフレーズの集合を要約することを目的としている。
最近のシークエンス・ツー・シークエンス(Seq2Seq)ベースの生成フレームワークはKEタスクで広く使われ、様々なベンチマークで競合性能を得た。
本稿では,この2つの問題を同時に解くために,動的グラフ畳み込みネットワーク(DGCN)を採用することを提案する。
論文 参考訳(メタデータ) (2020-10-24T08:11:23Z) - Linguistic Structure Guided Context Modeling for Referring Image
Segmentation [61.701577239317785]
本稿では,マルチモーダルコンテキストを相互モーダル相互作用によりモデル化する「ガザ・プロパゲート・ディストリビュート」方式を提案する。
我々のLSCMモジュールは依存パーシングツリーワードグラフ(DPT-WG)を構築し、文の有効なマルチモーダルコンテキストを含むようにすべての単語を誘導する。
論文 参考訳(メタデータ) (2020-10-01T16:03:51Z) - Composed Variational Natural Language Generation for Few-shot Intents [118.37774762596123]
現実的な不均衡シナリオにおいて、数ショットのインテントに対するトレーニング例を生成します。
生成した発話の質を評価するために、一般化された複数ショット意図検出タスクについて実験を行った。
提案モデルでは,2つの実世界の意図検出データセットに対して,最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2020-09-21T17:48:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。