論文の概要: Conservative objective models are a special kind of contrastive divergence-based energy model

• arxiv url: http://arxiv.org/abs/2304.03866v1
• Date: Fri, 7 Apr 2023 23:37:50 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-11 19:20:59.362571
• Title: Conservative objective models are a special kind of contrastive divergence-based energy model
• Title（参考訳）: 保守的客観モデルは、対照的な分散に基づくエネルギーモデルの一種である
• Authors: Christopher Beckham, Christopher Pal
• Abstract要約: オフラインモデルに基づく最適化のためのCOMは、特別な種類の差分に基づくエネルギーモデルであることを示す。 モデルが分離された場合、非条件確率と条件確率が別々にモデル化された場合、より良いサンプルが得られることを示す。
• 参考スコア（独自算出の注目度）: 5.02384186664815
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In this work we theoretically show that conservative objective models (COMs) for offline model-based optimisation (MBO) are a special kind of contrastive divergence-based energy model, one where the energy function represents both the unconditional probability of the input and the conditional probability of the reward variable. While the initial formulation only samples modes from its learned distribution, we propose a simple fix that replaces its gradient ascent sampler with a Langevin MCMC sampler. This gives rise to a special probabilistic model where the probability of sampling an input is proportional to its predicted reward. Lastly, we show that better samples can be obtained if the model is decoupled so that the unconditional and conditional probabilities are modelled separately.
• Abstract（参考訳）: この研究において、オフラインモデルに基づく最適化(MBO)のための保守的客観モデル(COM)は、エネルギー関数が入力の非条件確率と報酬変数の条件確率の両方を表す特別な種類の差分型エネルギーモデルであることを示す。 初期定式化は学習した分布からのみモードをサンプリングするが,勾配上昇サンプリングをLangevin MCMCサンプルに置き換える簡単な修正を提案する。 これは、入力をサンプリングする確率が予測された報酬に比例する特別な確率モデルをもたらす。 最後に,非条件確率と条件確率が別々にモデル化されるようにモデルが分離された場合,より良いサンプルが得られることを示す。

関連論文リスト

• Fine-Tuning of Continuous-Time Diffusion Models as Entropy-Regularized Control [54.132297393662654]
  拡散モデルは、自然画像やタンパク質のような複雑なデータ分布を捉えるのに優れている。 拡散モデルはトレーニングデータセットの分布を表現するために訓練されるが、私たちはしばしば、生成された画像の美的品質など他の特性にもっと関心を持っている。 本稿では,本フレームワークが真に報酬の高い多種多様なサンプルを効率よく生成できることを示す理論的,実証的な証拠を示す。
  論文  参考訳（メタデータ） (2024-02-23T08:54:42Z)
• MCMC-Correction of Score-Based Diffusion Models for Model Composition [2.682859657520006]
  拡散モデルは、スコアまたはエネルギー関数のどちらかの観点からパラメータ化することができる。 本稿では,エネルギーモデルにインスパイアされたスコアパラメータ化と受理確率の計算を提案する。
  論文  参考訳（メタデータ） (2023-07-26T07:50:41Z)
• User-defined Event Sampling and Uncertainty Quantification in Diffusion Models for Physical Dynamical Systems [49.75149094527068]
  拡散モデルを用いて予測を行い,カオス力学系に対する不確かさの定量化が可能であることを示す。 本研究では,雑音レベルが低下するにつれて真の分布に収束する条件付きスコア関数の確率的近似法を開発する。 推論時に非線形ユーザ定義イベントを条件付きでサンプリングすることができ、分布の尾部からサンプリングした場合でもデータ統計と一致させることができる。
  論文  参考訳（メタデータ） (2023-06-13T03:42:03Z)
• Energy-Based Test Sample Adaptation for Domain Generalization [81.04943285281072]
  そこで本研究では,ドメインの試験時間におけるエネルギーに基づくサンプル適応を提案する。 対象試料をソース分布に適応させるため,エネルギー最小化により反復的に試料を更新する。 画像とマイクロブログスレッドの分類のための6つのベンチマーク実験により,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2023-02-22T08:55:09Z)
• Efficient Propagation of Uncertainty via Reordering Monte Carlo Samples [0.7087237546722617]
  不確実性伝播は、入力変数の不確実性に基づいてモデル出力の不確実性を決定する技術である。 本研究は,全ての試料が平均的に有用であるにもかかわらず,他の試料よりも有用であるとする仮説を考察する。 本稿では、MCサンプルを適応的に並べ替える手法を導入し、UPプロセスの計算コストの削減をもたらす方法を示す。
  論文  参考訳（メタデータ） (2023-02-09T21:28:15Z)
• Bi-Noising Diffusion: Towards Conditional Diffusion Models with Generative Restoration Priors [64.24948495708337]
  本研究では,事前訓練した非条件拡散モデルを用いて,予測サンプルをトレーニングデータ多様体に導入する手法を提案する。 我々は,超解像,着色,乱流除去,画像劣化作業におけるアプローチの有効性を実証するための総合的な実験を行った。
  論文  参考訳（メタデータ） (2022-12-14T17:26:35Z)
• Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
  まず確率分布をモデル化し,そのモデルからサンプリングする。 これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
  論文  参考訳（メタデータ） (2021-10-20T12:25:22Z)
• Selecting Diverse Models for Scientific Insight [0.12891210250935145]
  異なるペナルティ設定が、異なるモデルにおける係数の縮小またはスパーシティを促進するかを示す。 変分を強制するペナルティフォームの選択は、鋼合金組成から積層欠陥エネルギーを予測するために適用される。
  論文  参考訳（メタデータ） (2020-06-16T14:06:55Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。