論文の概要: Generative Cooperative Networks for Natural Language Generation

• arxiv url: http://arxiv.org/abs/2201.12320v1
• Date: Fri, 28 Jan 2022 18:36:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-01-31 14:36:51.321513
• Title: Generative Cooperative Networks for Natural Language Generation
• Title（参考訳）: 自然言語生成のための生成協調ネットワーク
• Authors: Sylvain Lamprier and Thomas Scialom and Antoine Chaffin and Vincent Claveau and Ewa Kijak and Jacopo Staiano and Benjamin Piwowarski
• Abstract要約: 本稿では,リアルテキストのサンプルを出力する生成ポリシーとともに,識別器アーキテクチャを協調的に使用する生成協調ネットワークについて紹介する。 我々は,提案手法の収束を理論的に保証し,2つの主要なNLGタスクにおいて,最先端の成果を実証的に達成するための様々な効率的な復号化手法について検討する。
• 参考スコア（独自算出の注目度）: 25.090455367573988
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative Adversarial Networks (GANs) have known a tremendous success for many continuous generation tasks, especially in the field of image generation. However, for discrete outputs such as language, optimizing GANs remains an open problem with many instabilities, as no gradient can be properly back-propagated from the discriminator output to the generator parameters. An alternative is to learn the generator network via reinforcement learning, using the discriminator signal as a reward, but such a technique suffers from moving rewards and vanishing gradient problems. Finally, it often falls short compared to direct maximum-likelihood approaches. In this paper, we introduce Generative Cooperative Networks, in which the discriminator architecture is cooperatively used along with the generation policy to output samples of realistic texts for the task at hand. We give theoretical guarantees of convergence for our approach, and study various efficient decoding schemes to empirically achieve state-of-the-art results in two main NLG tasks.
• Abstract（参考訳）: GAN(Generative Adversarial Networks)は、特に画像生成の分野で、多くの連続生成タスクにおいて大きな成功を収めている。 しかし、言語のような離散出力の場合、ガンの最適化は多くの不安定性を持つ未解決問題であり、判別器出力からジェネレータパラメータへの勾配を適切にバックプロパゲーションできない。 言い換えると、ジェネレータネットワークを強化学習を通じて学習し、識別器信号を報酬として利用するが、そのような技術は報酬の移動と勾配問題に悩まされる。 最後に、直接の最大様相のアプローチに比べれば、しばしば短くなる。 本稿では,識別器アーキテクチャを協調的に使用する生成協調ネットワークと,手元のタスクに対して現実的なテキストのサンプルを出力する生成ポリシーを提案する。 提案手法ではコンバージェンスを理論的に保証し、2つの主要なnlgタスクにおける最先端の成果を実証的に達成するために,様々な効率的な復号手法を検討する。

関連論文リスト

• DiffSG: A Generative Solver for Network Optimization with Diffusion Model [75.27274046562806]
  拡散生成モデルはより広い範囲の解を考えることができ、学習パラメータによるより強力な一般化を示す。 拡散生成モデルの本質的な分布学習を利用して高品質な解を学習する新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-08-13T07:56:21Z)
• Intelligent Hybrid Resource Allocation in MEC-assisted RAN Slicing Network [72.2456220035229]
  我々は,協調型MEC支援RANスライシングシステムにおける異種サービス要求に対するSSRの最大化を目指す。 最適ハイブリッドRAポリシーをインテリジェントに学習するためのRGRLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-05-02T01:36:13Z)
• GE-AdvGAN: Improving the transferability of adversarial samples by gradient editing-based adversarial generative model [69.71629949747884]
  GAN(Generative Adversarial Networks)のような逆生成モデルは、様々な種類のデータを生成するために広く応用されている。 本研究では, GE-AdvGAN という新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:43:16Z)
• Prompt Optimization via Adversarial In-Context Learning [51.18075178593142]
  adv-ICLは、ジェネレータとディスクリミネータの間の2プレイヤーゲームとして実装される。 ジェネレータは、判別器を騙すのに十分な出力を生成する。 本稿では,Adv-ICLが最先端のプロンプト最適化技術を大幅に改善することを示す。
  論文  参考訳（メタデータ） (2023-12-05T09:44:45Z)
• A Bayesian Non-parametric Approach to Generative Models: Integrating Variational Autoencoder and Generative Adversarial Networks using Wasserstein and Maximum Mean Discrepancy [2.966338139852619]
  GAN(Generative Adversarial Network)とVAE(VAE)は、最も顕著で広く研究されている生成モデルである。 ベイズ的非パラメトリック(BNP)アプローチを用いて、GANとVAEを融合する。 本稿では,GANの識別能力とVAEの再構成能力とを融合させることにより,多種多様な生成タスクにおいて優れた性能を実現する。
  論文  参考訳（メタデータ） (2023-08-27T08:58:31Z)
• DuDGAN: Improving Class-Conditional GANs via Dual-Diffusion [2.458437232470188]
  GAN(Generative Adversarial Network)を用いたクラス条件画像生成について,様々な手法を用いて検討した。 本稿では,DuDGANと呼ばれる2次元拡散型ノイズ注入法を取り入れたGANを用いたクラス条件画像生成手法を提案する。 提案手法は,画像生成のための現状条件付きGANモデルよりも性能的に優れている。
  論文  参考訳（メタデータ） (2023-05-24T07:59:44Z)
• To Beam Or Not To Beam: That is a Question of Cooperation for Language GANs [31.040350519448342]
  言語GANは、強化学習手法を通じて、差別者ネットワークが提供する報酬から最適化される必要がある。 この協調原理に基づいて構築されたSelfGANフレームワークは,Teacher Forcingより優れ,2つの課題に対する最先端の成果が得られることを示す。
  論文  参考訳（メタデータ） (2021-06-11T13:04:42Z)
• MineGAN++: Mining Generative Models for Efficient Knowledge Transfer to Limited Data Domains [77.46963293257912]
  本稿では,特定の対象領域に最も有益である知識をマイニングした生成モデルのための新しい知識伝達手法を提案する。 これは、各事前訓練されたGANの生成分布のどの部分が対象領域に最も近いサンプルを出力しているかを識別するマイカネットワークを用いて行われる。 提案手法はMineGANと呼ばれ,ターゲット画像が少ない領域に効果的に知識を伝達し,既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-04-28T13:10:56Z)
• Generative Adversarial Networks (GANs): An Overview of Theoretical Model, Evaluation Metrics, and Recent Developments [9.023847175654602]
  GAN(Generative Adversarial Network)は,大規模データ分散のサンプルを作成する上で有効な手法である。 GANはラベル付きトレーニングデータを広く使用せずにディープ表現を学習する適切な方法を提供する。 GANでは、ジェネレータと識別器のネットワークを同時にトレーニングする競合プロセスを通じて生成モデルを推定する。
  論文  参考訳（メタデータ） (2020-05-27T05:56:53Z)
• Autoencoding Generative Adversarial Networks [0.0]
  本稿では,所定の潜在空間と与えられたサンプル空間とのマッピングを学習する4ネットワークモデルを提案する。 AEGAN技術は、トレーニング安定化、モード崩壊防止、実際のサンプル間の直接反転など、一般的なGANトレーニングにいくつかの改善を提供する。
  論文  参考訳（メタデータ） (2020-04-11T19:51:04Z)
• When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
  GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である 本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。 ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
  論文  参考訳（メタデータ） (2020-02-24T11:35:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。