論文の概要: Value Gradient Sampler: Sampling as Sequential Decision Making

• arxiv url: http://arxiv.org/abs/2502.13280v1
• Date: Tue, 18 Feb 2025 21:02:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-20 13:59:30.175273
• Title: Value Gradient Sampler: Sampling as Sequential Decision Making
• Title（参考訳）: Value Gradient Sampler: シーケンシャル決定のためのサンプリング
• Authors: Sangwoong Yoon, Himchan Hwang, Hyeokju Jeong, Dong Kyu Shin, Che-Sang Park, Sehee Kwon, Frank Chongwoo Park,
• Abstract要約: 本稿では,サンプリングを離散時間逐次意思決定として解釈したトレーニング可能なサンプリング手法を提案する。 VGSは、ある非正規化密度(すなわちエネルギー)からランダムな粒子の漂流と拡散によってサンプルを生成する。 産業用異常検出アプリケーションにおけるエネルギーベースモデルの正確なトレーニングにおけるVGSの有効性を実証する。
• 参考スコア（独自算出の注目度）: 4.479786827403191
• License:
• Abstract: We propose the Value Gradient Sampler (VGS), a trainable sampler based on the interpretation of sampling as discrete-time sequential decision-making. VGS generates samples from a given unnormalized density (i.e., energy) by drifting and diffusing randomly initialized particles. In VGS, finding the optimal drift is equivalent to solving an optimal control problem where the cost is the upper bound of the KL divergence between the target density and the samples. We employ value-based dynamic programming to solve this optimal control problem, which gives the gradient of the value function as the optimal drift vector. The connection to sequential decision making allows VGS to leverage extensively studied techniques in reinforcement learning, making VGS a fast, adaptive, and accurate sampler that achieves competitive results in various sampling benchmarks. Furthermore, VGS can replace MCMC in contrastive divergence training of energy-based models. We demonstrate the effectiveness of VGS in training accurate energy-based models in industrial anomaly detection applications.
• Abstract（参考訳）: 本稿では,サンプリングを離散時間逐次決定決定として解釈したトレーニング可能なサンプルであるバリューグラディエントサンプリング(VGS)を提案する。 VGSは、ランダムに初期化された粒子を漂流して拡散させることにより、与えられた非正規化密度(すなわちエネルギー)からサンプルを生成する。 VGSでは、最適ドリフトの発見は、目標密度と試料とのKL分岐の上限である最適制御問題の解決と等価である。 我々はこの最適制御問題を解くために値に基づく動的計画法を用いており、これは値関数の勾配を最適ドリフトベクトルとして与える。 逐次決定への接続により、VGSは強化学習において広範囲に研究された技術を活用することができ、VGSを高速で適応的で正確なサンプリングを行い、様々なサンプリングベンチマークで競合する結果が得られる。 さらに、VGSはエネルギーベースモデルの対照的な分散訓練においてMCMCを置き換えることができる。 産業用異常検出アプリケーションにおけるエネルギーベースモデルの正確なトレーニングにおけるVGSの有効性を実証する。

関連論文リスト

• DC-Solver: Improving Predictor-Corrector Diffusion Sampler via Dynamic Compensation [68.55191764622525]
  拡散モデル(DPM)は、視覚合成において顕著な性能を示すが、サンプリング中に複数の評価を必要とするため、計算コストが高い。 最近の予測器合成・拡散サンプリング装置は,要求される評価回数を大幅に削減したが,本質的には誤調整の問題に悩まされている。 我々はDC-CPRrと呼ばれる新しい高速DPMサンプリング装置を導入する。
  論文  参考訳（メタデータ） (2024-09-05T17:59:46Z)
• Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
  本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。 物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。 PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
  論文  参考訳（メタデータ） (2024-07-10T17:39:50Z)
• Score-based Generative Models with Adaptive Momentum [40.84399531998246]
  変換過程を高速化する適応運動量サンプリング法を提案する。 提案手法は,2倍から5倍の速度で,より忠実な画像/グラフを小さなサンプリングステップで作成できることを示す。
  論文  参考訳（メタデータ） (2024-05-22T15:20:27Z)
• Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
  反復Denoising Energy Matching (iDEM) iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。 提案手法は,全測定値の最先端性能を達成し,2～5倍の速さでトレーニングを行う。
  論文  参考訳（メタデータ） (2024-02-09T01:11:23Z)
• GE-AdvGAN: Improving the transferability of adversarial samples by gradient editing-based adversarial generative model [69.71629949747884]
  GAN(Generative Adversarial Networks)のような逆生成モデルは、様々な種類のデータを生成するために広く応用されている。 本研究では, GE-AdvGAN という新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:43:16Z)
• Sampling in Unit Time with Kernel Fisher-Rao Flow [0.0]
  非正規化対象密度からサンプリングするための平均場ODEと対応する相互作用粒子系(IPS)を導入する。 IPSは勾配のない閉形式であり、参照密度からサンプリングし、(正規化されていない)ターゲット-参照密度比を計算する能力のみを必要とする。
  論文  参考訳（メタデータ） (2024-01-08T13:43:56Z)
• Conditional Sampling of Variational Autoencoders via Iterated Approximate Ancestral Sampling [7.357511266926065]
  変分オートエンコーダ(VAE)の条件付きサンプリングは、データ計算の欠如など、様々なアプリケーションで必要とされるが、計算上は難解である。 基本的条件付きサンプリングはMetropolis-within-Gibbs (MWG)である
  論文  参考訳（メタデータ） (2023-08-17T16:08:18Z)
• EARL: An Elliptical Distribution aided Adaptive Rotation Label Assignment for Oriented Object Detection in Remote Sensing Images [22.963695067213084]
  アダプティブ・ローテーション・ラベル・アサインメント (EARL) は、アンカーフリー検出器において、高品質な正のサンプルを適応的に選択するために提案される。 本稿では,ターゲットの規模に応じて多レベル特徴写像の中から適応的にサンプルを選択するために,適応型スケールサンプリング(ADS)戦略を提案する。 さらに, 動的楕円分布支援サンプリング (DED) 戦略を提案し, 試料分布をより柔軟にし, ターゲットの形状や配向に適合させる。
  論文  参考訳（メタデータ） (2023-01-14T08:32:16Z)
• NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
  2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。 NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。 我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
  論文  参考訳（メタデータ） (2022-09-29T16:54:53Z)
• Robust Optimal Transport with Applications in Generative Modeling and Domain Adaptation [120.69747175899421]
  ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。 本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。 提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
  論文  参考訳（メタデータ） (2020-10-12T17:13:40Z)
• Bandit Samplers for Training Graph Neural Networks [63.17765191700203]
  グラフ畳み込みネットワーク(GCN)の訓練を高速化するために, ばらつきを低減したサンプリングアルゴリズムが提案されている。 これらのサンプリングアルゴリズムは、グラフ注意ネットワーク(GAT)のような固定重みよりも学習重量を含む、より一般的なグラフニューラルネットワーク(GNN)には適用できない。
  論文  参考訳（メタデータ） (2020-06-10T12:48:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。