論文の概要: Conditional Hybrid GAN for Sequence Generation
- arxiv url: http://arxiv.org/abs/2009.08616v1
- Date: Fri, 18 Sep 2020 03:52:55 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-17 02:58:52.684824
- Title: Conditional Hybrid GAN for Sequence Generation
- Title(参考訳): シーケンス生成のための条件付きハイブリッドGAN
- Authors: Yi Yu, Abhishek Srivastava, Rajiv Ratn Shah
- Abstract要約: 本稿では,この問題を解決するための条件付きハイブリッドGAN(C-Hybrid-GAN)を提案する。
我々はGumbel-Softmax法を利用して離散値列の分布を近似する。
提案したC-Hybrid-GANは、文脈条件付き離散値シーケンス生成において既存の手法よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 56.67961004064029
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conditional sequence generation aims to instruct the generation procedure by
conditioning the model with additional context information, which is a
self-supervised learning issue (a form of unsupervised learning with
supervision information from data itself). Unfortunately, the current
state-of-the-art generative models have limitations in sequence generation with
multiple attributes. In this paper, we propose a novel conditional hybrid GAN
(C-Hybrid-GAN) to solve this issue. Discrete sequence with triplet attributes
are separately generated when conditioned on the same context. Most
importantly, relational reasoning technique is exploited to model not only the
dependency inside each sequence of the attribute during the training of the
generator but also the consistency among the sequences of attributes during the
training of the discriminator. To avoid the non-differentiability problem in
GANs encountered during discrete data generation, we exploit the Gumbel-Softmax
technique to approximate the distribution of discrete-valued sequences.Through
evaluating the task of generating melody (associated with note, duration, and
rest) from lyrics, we demonstrate that the proposed C-Hybrid-GAN outperforms
the existing methods in context-conditioned discrete-valued sequence
generation.
- Abstract(参考訳): 条件付きシーケンス生成は、自己教師付き学習問題(データ自身からの監督情報を含む教師なし学習の形式)である追加の文脈情報を用いてモデルを条件付けして生成手順を指示することを目的としている。
残念ながら、現在の最先端生成モデルは、複数の属性によるシーケンス生成に制限がある。
本稿では,この問題を解決するための条件付きハイブリッドGAN(C-Hybrid-GAN)を提案する。
三重項属性を持つ離散列は、同じ文脈で条件付けされたときに別々に生成される。
最も重要なことは、関係推論技術は、ジェネレータのトレーニング中に属性の各シーケンス内の依存性だけでなく、識別器のトレーニング中に属性のシーケンス間の一貫性をモデル化するために利用される。
離散データ生成時に発生するGANの非微分可能性問題を回避するために,Gumbel-Softmax手法を用いて,歌詞からメロディ(音符,持続時間,静止時間に関連する)を生成するタスクを評価することにより,提案したC-Hybrid-GANが,文脈条件付き離散値列生成において既存の手法より優れていることを示す。
関連論文リスト
- Generating Multi-Modal and Multi-Attribute Single-Cell Counts with CFGen [76.02070962797794]
マルチモーダル単細胞数に対するフローベース条件生成モデルであるセルフロー・フォー・ジェネレーションを提案する。
本研究は, 新規な生成タスクを考慮に入れた上で, 重要な生物学的データ特性の回復性の向上を示唆するものである。
論文 参考訳(メタデータ) (2024-07-16T14:05:03Z) - A New Paradigm for Generative Adversarial Networks based on Randomized
Decision Rules [8.36840154574354]
Generative Adversarial Network (GAN)は、最近、生成モデルをトレーニングするための新しい機械学習手法として文献で紹介されている。
非パラメトリッククラスタリングや非パラメトリック条件独立テストのような統計学に多くの応用がある。
本稿では,GANがこの問題に苦しむ理由を特定し,それに対応するために,ランダム化決定規則に基づく新しいGANの定式化を提案する。
論文 参考訳(メタデータ) (2023-06-23T17:50:34Z) - SequenceMatch: Imitation Learning for Autoregressive Sequence Modelling with Backtracking [60.109453252858806]
MLE(Maxum-likelihood)の目的は、高品質なシーケンスを自動回帰的に生成する下流のユースケースと一致しない。
我々は、模倣学習(IL)問題としてシーケンス生成を定式化する。
これにより、自己回帰モデルによって生成されるシーケンスの分布とデータセットからのシーケンスとの差異を最小化できる。
得られた手法であるSequenceMatchは、敵の訓練やアーキテクチャの変更なしに実装できる。
論文 参考訳(メタデータ) (2023-06-08T17:59:58Z) - Instructed Diffuser with Temporal Condition Guidance for Offline
Reinforcement Learning [71.24316734338501]
テンポラリ・コンポラブル・ディフューザ(TCD)を用いた実効時間条件拡散モデルを提案する。
TCDは、相互作用シーケンスから時間情報を抽出し、時間条件で生成を明示的にガイドする。
提案手法は,従来のSOTAベースラインと比較して最高の性能を達成または一致させる。
論文 参考訳(メタデータ) (2023-06-08T02:12:26Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Seq-HyGAN: Sequence Classification via Hypergraph Attention Network [0.0]
シークエンス分類は、健康におけるゲノム分類やビジネスにおける異常検出など、さまざまな領域における幅広い実世界の応用を有する。
シーケンスデータに明示的な機能がないため、機械学習モデルでは難しい。
本稿では,新しいハイパーグラフ注意ネットワークモデル,Seq-HyGANを提案する。
論文 参考訳(メタデータ) (2023-03-04T11:53:33Z) - Mutual Exclusivity Training and Primitive Augmentation to Induce
Compositionality [84.94877848357896]
最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。
本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。
広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
論文 参考訳(メタデータ) (2022-11-28T17:36:41Z) - Information-theoretic stochastic contrastive conditional GAN:
InfoSCC-GAN [6.201770337181472]
本稿では,探索可能な潜伏空間を有するコントラスト条件生成対向ネットワーク(Info SCC-GAN)を提案する。
インフォメーションSCC-GANは、入力データと潜時空間表現の間の相互情報の情報理論的定式化に基づいて導出される。
実験により、Info SCC-GANはAFHQとCelebAデータセットの画像生成において、"vanilla" EigenGANよりも優れていることが示された。
論文 参考訳(メタデータ) (2021-12-17T17:56:30Z) - Symbolic Music Generation with Diffusion Models [4.817429789586127]
本論文では,前訓練された可変オートエンコーダの連続潜空間における離散領域をパラメータ化することにより,連続データに対する拡散モデルを訓練する手法を提案する。
同じ連続埋め込み上で動作する自己回帰型言語モデルと比較して,強い無条件生成とポストホック条件付インフィル結果を示す。
論文 参考訳(メタデータ) (2021-03-30T05:48:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。