論文の概要: Goal-directed Generation of Discrete Structures with Conditional Generative Models

• arxiv url: http://arxiv.org/abs/2010.02311v2
• Date: Fri, 23 Oct 2020 11:15:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-10 20:58:33.291711
• Title: Goal-directed Generation of Discrete Structures with Conditional Generative Models
• Title（参考訳）: 条件付き生成モデルによる離散構造のゴール指向生成
• Authors: Amina Mollaysa, Brooks Paige, Alexandros Kalousis
• Abstract要約: 本稿では,強化学習目標を直接最適化し,期待される報酬を最大化するための新しいアプローチを提案する。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。
• 参考スコア（独自算出の注目度）: 85.51463588099556
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite recent advances, goal-directed generation of structured discrete data remains challenging. For problems such as program synthesis (generating source code) and materials design (generating molecules), finding examples which satisfy desired constraints or exhibit desired properties is difficult. In practice, expensive heuristic search or reinforcement learning algorithms are often employed. In this paper we investigate the use of conditional generative models which directly attack this inverse problem, by modeling the distribution of discrete structures given properties of interest. Unfortunately, maximum likelihood training of such models often fails with the samples from the generative model inadequately respecting the input properties. To address this, we introduce a novel approach to directly optimize a reinforcement learning objective, maximizing an expected reward. We avoid high-variance score-function estimators that would otherwise be required by sampling from an approximation to the normalized rewards, allowing simple Monte Carlo estimation of model gradients. We test our methodology on two tasks: generating molecules with user-defined properties and identifying short python expressions which evaluate to a given target value. In both cases, we find improvements over maximum likelihood estimation and other baselines.
• Abstract（参考訳）: 近年の進歩にもかかわらず、構造化離散データのゴール指向生成は依然として困難である。 プログラム合成(ソースコード生成)や材料設計(生成分子)などの問題では、望ましい制約を満たすものや望ましい特性を示すものを見つけるのは困難である。 実際には、高価なヒューリスティック検索や強化学習アルゴリズムがよく用いられる。 本稿では,この逆問題に直接対処する条件生成モデルの利用について,興味のある性質を持つ離散構造の分布をモデル化して検討する。 残念ながら、そのようなモデルの最大限の訓練は、入力特性を不十分に尊重する生成モデルからのサンプルで失敗することが多い。 そこで本研究では,強化学習目標を直接最適化し,期待する報酬を最大化する新しい手法を提案する。 近似値から正規化報酬へのサンプリングによって必要となる高分散スコア関数推定器は避け、モデル勾配の単純なモンテカルロ推定を可能にする。 提案手法は、ユーザ定義プロパティを持つ分子の生成と、所定の目標値を評価する短いピソン表現の同定という2つのタスクで検証する。 どちらの場合も、最大推定値や他のベースラインよりも改善されている。

関連論文リスト

• Supervised Score-Based Modeling by Gradient Boosting [49.556736252628745]
  本稿では,スコアマッチングを組み合わせた勾配向上アルゴリズムとして,SSM(Supervised Score-based Model)を提案する。 推測時間と予測精度のバランスをとるため,SSMの学習とサンプリングに関する理論的解析を行った。 我々のモデルは、精度と推測時間の両方で既存のモデルより優れています。
  論文  参考訳（メタデータ） (2024-11-02T07:06:53Z)
• Towards Learning Stochastic Population Models by Gradient Descent [0.0]
  パラメータと構造を同時に推定することで,最適化手法に大きな課題が生じることを示す。 モデルの正確な推定を実証するが、擬似的、解釈可能なモデルの推論を強制することは、難易度を劇的に高める。
  論文  参考訳（メタデータ） (2024-04-10T14:38:58Z)
• Private Gradient Estimation is Useful for Generative Modeling [25.777591229903596]
  そこで本研究では,サンプルをハミルトン力学で生成し,よく訓練されたネットワークから推定したプライベートデータセットの勾配を推定する手法を提案する。 我々のモデルは256x256の解像度でデータを生成することができる。
  論文  参考訳（メタデータ） (2023-05-18T02:51:17Z)
• ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
  チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。 我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
  論文  参考訳（メタデータ） (2023-04-07T15:17:48Z)
• Training Discrete Deep Generative Models via Gapped Straight-Through Estimator [72.71398034617607]
  再サンプリングのオーバーヘッドを伴わずに分散を低減するため, GST (Gapped Straight-Through) 推定器を提案する。 この推定子は、Straight-Through Gumbel-Softmaxの本質的な性質に着想を得たものである。 実験により,提案したGST推定器は,2つの離散的な深部生成モデリングタスクの強いベースラインと比較して,優れた性能を享受できることが示された。
  論文  参考訳（メタデータ） (2022-06-15T01:46:05Z)
• Score-Based Generative Models for Molecule Generation [0.8808021343665321]
  我々は、ZINCデータセットから150万のサンプルを表現したTransformerベースのスコア関数をトレーニングする。 私たちは、Mosesベンチマークフレームワークを使用して、一連のメトリクスで生成されたサンプルを評価します。
  論文  参考訳（メタデータ） (2022-03-07T13:46:02Z)
• Evaluating State-of-the-Art Classification Models Against Bayes Optimality [106.50867011164584]
  正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。 われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
  論文  参考訳（メタデータ） (2021-06-07T06:21:20Z)
• Anomaly Detection of Time Series with Smoothness-Inducing Sequential Variational Auto-Encoder [59.69303945834122]
  Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。 我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。 合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
  論文  参考訳（メタデータ） (2021-02-02T06:15:15Z)
• Maximum Entropy Model Rollouts: Fast Model Based Policy Optimization without Compounding Errors [10.906666680425754]
  我々は、最大エントロピーモデルロールアウト(MEMR)と呼ばれるダイナスタイルモデルに基づく強化学習アルゴリズムを提案する。 複雑なエラーをなくすために、我々はモデルを使って単一ステップのロールアウトを生成する。
  論文  参考訳（メタデータ） (2020-06-08T21:38:15Z)
• Improving Molecular Design by Stochastic Iterative Target Augmentation [38.44457632751997]
  分子設計における生成モデルは、豊かにパラメータ化され、データハングリーなニューラルモデルである。 分子標的を反復的に生成するための驚くほど効果的な自己学習手法を提案する。 我々の手法は、条件分子設計におけるこれまでの最先端技術よりも10%以上の絶対ゲインを達成している。
  論文  参考訳（メタデータ） (2020-02-11T22:40:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。