論文の概要: Learning Stationary Markov Processes with Contrastive Adjustment
- arxiv url: http://arxiv.org/abs/2303.05497v1
- Date: Thu, 9 Mar 2023 18:50:15 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-10 13:39:09.233701
- Title: Learning Stationary Markov Processes with Contrastive Adjustment
- Title(参考訳): コントラスト調整による定常マルコフ過程の学習
- Authors: Ludvig Bergenstr{\aa}hle, Jens Lagergren, Joakim Lundeberg
- Abstract要約: 本稿では,マルコフ遷移カーネルの学習のための新しい最適化アルゴリズムであるエンファンコントラスト適応アルゴリズムを提案する。
コントラスト調整は特定の遷移分布の族に限らず、連続状態空間と離散状態空間の両方でデータをモデル化するのに使うことができる。
コントラスト調整は人-コンピュータ設計プロセスにおいて非常に有用であることを示す。
- 参考スコア(独自算出の注目度): 2.76240219662896
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce a new optimization algorithm, termed \emph{contrastive
adjustment}, for learning Markov transition kernels whose stationary
distribution matches the data distribution. Contrastive adjustment is not
restricted to a particular family of transition distributions and can be used
to model data in both continuous and discrete state spaces. Inspired by recent
work on noise-annealed sampling, we propose a particular transition operator,
the \emph{noise kernel}, that can trade mixing speed for sample fidelity. We
show that contrastive adjustment is highly valuable in human-computer design
processes, as the stationarity of the learned Markov chain enables local
exploration of the data manifold and makes it possible to iteratively refine
outputs by human feedback. We compare the performance of noise kernels trained
with contrastive adjustment to current state-of-the-art generative models and
demonstrate promising results on a variety of image synthesis tasks.
- Abstract(参考訳): 定常分布がデータ分布と一致するマルコフ遷移核を学習するための新しい最適化アルゴリズムである \emph{contrastive adjustment} を導入する。
コントラスト調整は特定の遷移分布の族に限らず、連続状態空間と離散状態空間の両方でデータをモデル化するのに使うことができる。
ノイズアンネールサンプリングに関する最近の研究に触発されて、サンプル忠実度と混合速度を交換できる特定の遷移演算子である \emph{noise kernel} を提案する。
学習されたマルコフ連鎖の定常性はデータ多様体の局所的な探索を可能にし、人間のフィードバックによって出力を反復的に洗練することができる。
コントラスト調整で訓練したノイズカーネルの性能を,現在の最先端生成モデルと比較し,様々な画像合成タスクにおける有望な結果を示す。
関連論文リスト
- Label-Noise Robust Diffusion Models [18.82847557713331]
条件拡散モデルは、様々な生成タスクにおいて顕著な性能を示した。
訓練には、条件付き入力でしばしばノイズを含む大規模なデータセット、すなわちノイズラベルが必要である。
本稿では,雑音ラベル付き条件付き拡散モデルの学習のための遷移対応重み付きDenoising Score Matchingを提案する。
論文 参考訳(メタデータ) (2024-02-27T14:00:34Z) - ALERT-Transformer: Bridging Asynchronous and Synchronous Machine
Learning for Real-Time Event-based Spatio-Temporal Data [9.291620200143903]
非同期センシングと同期処理を組み合わせたハイブリッドパイプラインを提案する。
競争相手よりもレイテンシの低い最先端のパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2024-02-02T13:17:19Z) - Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level
Stability and High-Level Behavior [51.60683890503293]
生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。
任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
論文 参考訳(メタデータ) (2023-07-27T04:27:26Z) - Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Latent Class-Conditional Noise Model [54.56899309997246]
本稿では,ベイズ的枠組みの下での雑音遷移をパラメータ化するためのLatent Class-Conditional Noise Model (LCCN)を提案する。
次に、Gibs sampler を用いて遅延真のラベルを効率的に推測できる LCCN の動的ラベル回帰法を導出する。
提案手法は,サンプルのミニバッチから事前の任意チューニングを回避するため,ノイズ遷移の安定な更新を保護している。
論文 参考訳(メタデータ) (2023-02-19T15:24:37Z) - Learning Sampling Distributions for Model Predictive Control [36.82905770866734]
モデル予測制御(MPC)に対するサンプリングに基づくアプローチは、MPCに対する現代のアプローチの基盤となっている。
我々は、学習された分布を最大限に活用できるように、潜在空間における全ての操作を実行することを提案する。
具体的には、学習問題を双方向の最適化として捉え、バックプロパゲーションスルータイムでコントローラをトレーニングする方法を示す。
論文 参考訳(メタデータ) (2022-12-05T20:35:36Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - Markup-to-Image Diffusion Models with Scheduled Sampling [111.30188533324954]
画像生成の最近の進歩に基づき,画像にマークアップを描画するためのデータ駆動型アプローチを提案する。
このアプローチは拡散モデルに基づいており、デノナイジング操作のシーケンスを用いてデータの分布をパラメータ化する。
数式(La)、テーブルレイアウト(HTML)、シート音楽(LilyPond)、分子画像(SMILES)の4つのマークアップデータセットの実験を行った。
論文 参考訳(メタデータ) (2022-10-11T04:56:12Z) - Contrastive learning of strong-mixing continuous-time stochastic
processes [53.82893653745542]
コントラスト学習(Contrastive Learning)は、ラベルのないデータから構築された分類タスクを解決するためにモデルを訓練する自己指導型の手法のファミリーである。
拡散の場合,小~中距離間隔の遷移カーネルを適切に構築したコントラスト学習タスクを用いて推定できることが示される。
論文 参考訳(メタデータ) (2021-03-03T23:06:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。