論文の概要: Acquisition Function-Guided Generation for Bayesian Optimization over Discrete Spaces
- arxiv url: http://arxiv.org/abs/2610.22763v1
- Date: Fri, 16 Oct 2026 00:07:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.718474
- Title: Acquisition Function-Guided Generation for Bayesian Optimization over Discrete Spaces
- Title(参考訳): 離散空間上のベイズ最適化のための獲得関数誘導生成
- Abstract要約: 本研究では、事前学習された生成モデルとデータ空間内で直接定義された代理要素を組み合わせる。
提案手法は, 獲得関数に傾いた分布の下で, 生成モデルから候補を抽出する。
これにより, カテゴリー拡散モデルと自己回帰正規化フローをインスタンス化する, 強調獲得関数誘導生成(AFGG)が導かれる。
- 参考スコア(独自算出の注目度): 4.639244867003978
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bayesian optimization (BO) over discrete spaces is challenging due to missing gradients and the sparsity of valid solutions. Latent-space BO sidesteps both issues by fitting a surrogate in the latent space of a generative model, which however substantially complicates the direct incorporation of domain knowledge that is naturally expressed in the original discrete space. In this work, we instead combine a pretrained generative model with a surrogate defined directly in data space, where inductive biases such as domain-specific kernels can be readily incorporated. Rather than maximizing the acquisition function over the discrete design space, our method samples candidates from the generative model under a distribution tilted by the acquisition function. To recover useful gradients for sampling, we embed this tilted distribution into a diffusion bridge that yields a smooth, posterior-averaged acquisition function. This leads to \emph{acquisition function guided generation} (AFGG), which we instantiate with a categorical diffusion model and an autoregressive normalizing flow. Across a broad suite of molecular benchmarks, the diffusion model variant performs on par with leading BO methods, while the flow model variant outperforms state-of-the-art methods in most cases and remains highly competitive otherwise. Our implementation is available at https://anonymous.4open.science/r/afgg.
- Abstract(参考訳): 離散空間上のベイズ最適化(BO)は、勾配の欠如と有効解の空間性のために困難である。
ラテント空間 BO は、生成モデルの潜在空間にサロゲートを組み込むことによって、両方の問題をサイドステップするが、しかしながら、元の離散空間で自然に表現されるドメイン知識の直接的な組み入れは、かなり複雑である。
本研究では、事前学習された生成モデルとデータ空間内で直接定義されたサロゲートを組み合わせ、ドメイン固有のカーネルなどの帰納バイアスを容易に組み込むことができる。
離散設計空間上での獲得関数の最大化よりも, 獲得関数に傾いた分布の下で, 生成モデルから候補を抽出する。
サンプリングに有用な勾配を復元するため, 傾斜分布を拡散ブリッジに埋め込んで, 平滑な後方平均取得関数を得る。
これは、カテゴリー拡散モデルと自己回帰正規化フローでインスタンス化する 'emph{acquisition function guided generation} (AFGG) につながる。
分子ベンチマークの広い範囲で、拡散モデル変種は主要なBO法と同等に機能し、フローモデル変種はほとんどの場合最先端の手法より優れ、競争力が高い。
私たちの実装はhttps://anonymous.4open.science/r/afgg.comで公開されています。
関連論文リスト
- G2D2: Gradient-Guided Discrete Diffusion for Inverse Problem Solving [83.56510119503267]
本稿では,従来の離散拡散に基づく生成モデルを活用することによって,線形逆問題に対処する新しい手法を提案する。
我々は、従来の離散拡散モデルの欠点を吸収状態で緩和するために、星型ノイズプロセスを用いる。
論文 参考訳(メタデータ) (2024-10-09T06:18:25Z) - Derivative-Free Guidance in Continuous and Discrete Diffusion Models with Soft Value-Based Decoding [84.3224556294803]
拡散モデルは、画像、分子、DNA、RNA、タンパク質配列の自然なデザイン空間を捉えるのに優れている。
これらの設計空間の自然性を保ちながら、下流の報酬関数を最適化することを目指している。
提案アルゴリズムは,中間雑音状態が将来高い報酬をもたらすことの先駆けとして,ソフトバリュー関数を統合する。
論文 参考訳(メタデータ) (2024-08-15T16:47:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。