論文の概要: Support-Proximity Augmented Diffusion Estimation for Offline Black-Box Optimization
- arxiv url: http://arxiv.org/abs/2605.11246v1
- Date: Mon, 11 May 2026 21:09:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.43288
- Title: Support-Proximity Augmented Diffusion Estimation for Offline Black-Box Optimization
- Title(参考訳): オフラインブラックボックス最適化のためのサポートプロクシミティ拡張拡散推定
- Authors: Yonghan Yang, Ye Yuan, Zipeng Sun, Linfeng Du, Bowei He, Haolun Wu, Can Chen, Xue Liu,
- Abstract要約: 本研究では,SPADE(Support-Proximity Augmented Diffusion Estimation)を提案する。
本研究では,SPADE が Design-Bench タスクと LLM データ混合最適化ベンチマークを用いて,最先端の性能を実現することを示す。
- 参考スコア(独自算出の注目度): 17.43522044331905
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Offline black-box optimization aims to discover novel designs with high property scores using only a static dataset, a task fundamentally challenged by the out-of-distribution (OOD) extrapolation problem. Existing approaches typically bifurcate into inverse methods, which struggle with the ill-posed nature of mapping scores to designs, and forward methods, which often lack the distributional expressivity to quantify uncertainty effectively. In this work, we propose SPADE (Support-Proximity Augmented Diffusion Estimation), a novel framework that reimagines forward surrogate modeling through the lens of conditional generative modeling. SPADE models the forward likelihood p(y|x) using a diffusion model, but with two critical enhancements to tailor it for optimization: (1) a Calibrated Diffusion Estimation module that enforces global consistency in statistical moments and pairwise rankings, and (2) a Support-Proximity Regularization mechanism that implicitly internalizes the data manifold constraint p(x) via kNN-based density estimation. Theoretically, we prove that our regularization is first-order equivalent to maximizing a Bayesian posterior with a valid design prior. Empirically, SPADE achieves state-of-the-art performance across Design-Bench tasks and an LLM data mixture optimization benchmark.
- Abstract(参考訳): オフラインのブラックボックス最適化は、静的データセットのみを用いて高い特性スコアを持つ新規な設計を発見することを目的としており、これはアウト・オブ・ディストリビューション(OOD)の外挿問題によって根本的な課題である。
既存のアプローチは、設計へのマッピングスコアの不正な性質に苦しむ逆法と、不確実性を効果的に定量化する分布表現性に欠けるフォワード法に、典型的に分岐する。
本研究では,SPADE(Support-Proximity Augmented Diffusion Estimation)を提案する。
SPADE は拡散モデルを用いて前方可能性 p(y|x) をモデル化するが、最適化のために最適化するために2つの重要な拡張を加えている: 1) 統計モーメントのグローバルな一貫性とペアのランク付けを強制するキャリブレーション拡散推定モジュール、(2) kNN ベースの密度推定によりデータ多様体制約 p(x) を暗黙的に内部化するサポート・プロクシミティ正規化機構。
理論的には、我々の正則化はベイズ後部をより有効な設計で最大化することと同値であることが証明される。
実証的には、SPADEはDesign-BenchタスクとLLMデータ混合最適化ベンチマークで最先端のパフォーマンスを実現している。
関連論文リスト
- High-dimensional reliability-based design optimization using stochastic emulators [0.0]
本稿では,シミュレータ視点に基づく新しいRBDOフレームワークを提案する。
この定式化の下で、所定の設計に条件付けされたシステム応答は、その出力分布を直接モデル化する。
提案手法は,特に高次元設定において,かなりの計算ゲインが得られる。
論文 参考訳(メタデータ) (2026-04-07T12:01:50Z) - LFPO: Likelihood-Free Policy Optimization for Masked Diffusion Models [48.68246945083386]
Likelihood-Free Policy Optimization (LFPO) は、ベクトル場フローの概念を離散トークン空間にマッピングするネイティブフレームワークである。
LFPOは幾何速度補正としてアライメントを定式化し、対照的な更新によって直接対流を最適化する。
実験によると、LFPOはコードと推論ベンチマークの最先端のベースラインを上回るだけでなく、拡散ステップの削減によって推論を約20%加速する。
論文 参考訳(メタデータ) (2026-03-02T07:42:55Z) - Benchmarking Generative AI Against Bayesian Optimization for Constrained Multi-Objective Inverse Design [0.15293427903448018]
本稿では,制約付き多目的回帰タスクを解くための生成可能な言語モデル(LLM)の性能について検討する。
最高の性能のLDM(Math-7B)は1.21の世代距離(GD)を達成した。
この知見は, 樹脂, レオロジー, 化学特性の定式化設計の最適化に, 直接工業的応用が期待できる。
論文 参考訳(メタデータ) (2025-10-29T10:37:09Z) - Divergence Minimization Preference Optimization for Diffusion Model Alignment [66.31417479052774]
Divergence Minimization Preference Optimization (DMPO) は、逆KL分散を最小化して拡散モデルを整列する原理的手法である。
DMPOは、異なるベースモデルとテストセットで既存のテクニックを一貫して上回り、適合させることができる。
論文 参考訳(メタデータ) (2025-07-10T07:57:30Z) - Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - Distributionally Robust Optimization as a Scalable Framework to Characterize Extreme Value Distributions [22.765095010254118]
本研究の目的は分散ロバストな最適化 (DRO) 推定器の開発であり、特に多次元極値理論 (EVT) の統計量についてである。
点過程の空間における半パラメトリックな最大安定制約によって予測されるDRO推定器について検討した。
両手法は, 合成データを用いて検証し, 所定の特性を回復し, 提案手法の有効性を検証する。
論文 参考訳(メタデータ) (2024-07-31T19:45:27Z) - Diffusion Model for Data-Driven Black-Box Optimization [54.25693582870226]
我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。
本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。
提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
論文 参考訳(メタデータ) (2024-03-20T00:41:12Z) - Pseudo-Bayesian Optimization [7.556071491014536]
ブラックボックス最適化の収束を保証するために最小限の要件を課す公理的枠組みについて検討する。
我々は、単純な局所回帰と、不確実性を定量化するために適切な「ランダム化事前」構造を用いることが、収束を保証するだけでなく、常に最先端のベンチマークよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-10-15T07:55:28Z) - Protein Design with Guided Discrete Diffusion [67.06148688398677]
タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。
離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。
NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
論文 参考訳(メタデータ) (2023-05-31T16:31:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。