論文の概要: LEATHER: A Framework for Learning to Generate Human-like Text in
Dialogue
- arxiv url: http://arxiv.org/abs/2210.07777v1
- Date: Fri, 14 Oct 2022 13:05:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 15:13:29.647166
- Title: LEATHER: A Framework for Learning to Generate Human-like Text in
Dialogue
- Title(参考訳): leather: 対話における人間ライクなテキスト生成のための学習フレームワーク
- Authors: Anthony Sicilia and Malihe Alikhani
- Abstract要約: 本稿では,対話でテキストを生成するための新しい理論フレームワークを提案する。
既存の学習理論と比較して,本フレームワークはテキスト生成に固有の多面的目標の分析を可能にする。
- 参考スコア(独自算出の注目度): 15.102346715690755
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Algorithms for text-generation in dialogue can be misguided. For example, in
task-oriented settings, reinforcement learning that optimizes only task-success
can lead to abysmal lexical diversity. We hypothesize this is due to poor
theoretical understanding of the objectives in text-generation and their
relation to the learning process (i.e., model training). To this end, we
propose a new theoretical framework for learning to generate text in dialogue.
Compared to existing theories of learning, our framework allows for analysis of
the multi-faceted goals inherent to text-generation. We use our framework to
develop theoretical guarantees for learners that adapt to unseen data. As an
example, we apply our theory to study data-shift within a cooperative learning
algorithm proposed for the GuessWhat?! visual dialogue game. From this insight,
we propose a new algorithm, and empirically, we demonstrate our proposal
improves both task-success and human-likeness of the generated text. Finally,
we show statistics from our theory are empirically predictive of multiple
qualities of the generated dialogue, suggesting our theory is useful for
model-selection when human evaluations are not available.
- Abstract(参考訳): 対話におけるテキスト生成のアルゴリズムは誤解されることがある。
例えば、タスク指向の設定では、タスク・サクセスのみを最適化する強化学習は、アビスマル語彙の多様性をもたらす。
これは、テキスト生成の目的と学習過程(すなわちモデルトレーニング)との関係についての理論的理解が乏しいためである。
そこで本研究では,対話文を生成するための理論的枠組みを提案する。
既存の学習理論と比較して,本フレームワークはテキスト生成に固有の多面目標の分析を可能にする。
我々は,未知のデータに適応する学習者の理論的保証を開発するために,我々のフレームワークを利用する。
一例として,提案する協調学習アルゴリズムにおけるデータシフトの研究に本理論を適用した。
ビジュアル対話ゲーム。
この知見から,新しいアルゴリズムを提案し,経験的に,生成したテキストのタスク成功とヒューマンライクネスを改善できることを実証する。
最後に,本理論の統計は生成した対話の多質性を実証的に予測し,人間評価が得られない場合のモデル選択に有用であることを示す。
関連論文リスト
- Learning to Generate Equitable Text in Dialogue from Biased Training
Data [15.102346715690755]
対話システムの意思決定プロセスと生成された応答は、ユーザのエンゲージメント、満足度、タスク達成に不可欠である。
我々はこの問題を計算学習の理論を用いて研究する。
論文 参考訳(メタデータ) (2023-07-10T01:44:13Z) - Opportunities and Challenges in Neural Dialog Tutoring [54.07241332881601]
言語学習のための2つの対話学習データセットを用いて、様々な生成言語モデルを厳密に分析する。
現在のアプローチでは、制約のある学習シナリオでチューリングをモデル化できますが、制約の少ないシナリオではパフォーマンスが悪くなります。
人的品質評価では, モデルと接地木アノテーションの両方が, 同等のチュータリングの点で低い性能を示した。
論文 参考訳(メタデータ) (2023-01-24T11:00:17Z) - An Inclusive Notion of Text [69.36678873492373]
テキストの概念の明確さは再現可能で一般化可能なNLPにとって不可欠である,と我々は主張する。
言語的および非言語的要素の2層分類を導入し,NLPモデリングに使用することができる。
論文 参考訳(メタデータ) (2022-11-10T14:26:43Z) - MOCHA: A Multi-Task Training Approach for Coherent Text Generation from
Cognitive Perspective [22.69509556890676]
本稿では,文章の認知理論に基づくコヒーレントテキスト生成のための新しいマルチタスク学習戦略を提案する。
我々は,物語生成,ニュース記事作成,議論生成という3つのオープンエンド世代タスクに対して,我々のモデルを広範囲に評価する。
論文 参考訳(メタデータ) (2022-10-26T11:55:41Z) - Modeling Non-Cooperative Dialogue: Theoretical and Empirical Insights [11.462075538526703]
視覚対話タスクの完了時に非協調的インターロケータを識別するエージェントの能力について検討する。
本研究では,非協調的インターロケータを同定する理論モデルの開発に学習理論のツールを使用し,この理論を適用して異なるコミュニケーション戦略を解析する。
論文 参考訳(メタデータ) (2022-07-15T02:08:41Z) - Revise and Resubmit: An Intertextual Model of Text-based Collaboration
in Peer Review [52.359007622096684]
ピアレビューは、ほとんどの科学分野における出版プロセスの重要な要素である。
既存のNLP研究は個々のテキストの分析に重点を置いている。
編集補助は、しばしばテキストのペア間の相互作用をモデル化する必要がある。
論文 参考訳(メタデータ) (2022-04-22T16:39:38Z) - An Attention-Based Model for Predicting Contextual Informativeness and
Curriculum Learning Applications [11.775048147405725]
文の指導的側面に着目し,文脈的情報度を推定するモデルを構築した。
対象単語に対する読者の理解に最も寄与する可能性のある文中の重要な文脈要素を,我々のモデルがいかに認識するかを示す。
我々は,人間と機械の学習者の両方に言語学習をサポートするアプリケーションに対して,新たな可能性を開くと信じている。
論文 参考訳(メタデータ) (2022-04-21T05:17:49Z) - Deep Reinforcement Learning with Stacked Hierarchical Attention for
Text-based Games [64.11746320061965]
自然言語の文脈におけるインタラクティブなシミュレーションであるテキストベースゲームの強化学習について検討する。
エージェントの動作が解釈可能な推論手順によって生成され、支援されるように、意思決定のための知識グラフを用いた明示的な推論を行うことを目指している。
提案手法を多数の人為的ベンチマークゲームで広範囲に評価し,本手法が既存のテキストベースエージェントよりも優れていることを示す実験結果を得た。
論文 参考訳(メタデータ) (2020-10-22T12:40:22Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z) - Emergence of Pragmatics from Referential Game between Theory of Mind
Agents [64.25696237463397]
エージェントが手書きのルールを指定せずに「行間を読む」能力を自発的に学習するアルゴリズムを提案する。
協調型マルチエージェント教育状況における心の理論(ToM)を統合し,適応型強化学習(RL)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-01-21T19:37:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。