論文の概要: D-IMPL: A Diffusion-based Solver for Parameterized BBOs

• arxiv url: http://arxiv.org/abs/2609.22752v1
• Date: Sat, 19 Sep 2026 04:23:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:00.533805
• Title: D-IMPL: A Diffusion-based Solver for Parameterized BBOs
• Title（参考訳）: D-IMPL:パラメータ化BBOのための拡散型解法
• Abstract要約: パラメータ化ブラックボックス最適化のための実用的な生成モデルに基づく解法を提案する。 我々は、$O(log(1/)$ iterations)において、$$$-approximate Minimization Policyを効果的に学習できることを示す。
• 参考スコア（独自算出の注目度）: 8.019863766515293
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models have demonstrated strong power in generative modeling tasks across multiple domains, exhibiting a remarkable capability of learning complex distributions from samples. In this paper, we leverage such capability to design an efficient universal diffusion-based solver for parameterized black-box optimizations (BBO), where the optimizer has only black-box access to queries of the objective function at the learning stage, yet is able to reduce the additional computational cost at the inference stage for each BBO instance while also capturing the potential multi-modal landscape of non-convex objectives. To cast our formulation as a compatible generative modeling task, we introduce the notion of minimization policy as a new solution concept, which defines a sampling distribution over the solutions that should concentrate around the minimizer set for each BBO instance. We then propose Diffusion-based Iterative Minimization Policy Learning (D-IMPL), a practical generative-model-based solver for solving parameterized BBOs that employs diffusion models to learn a minimization policy, whose density is proportional to the exponential of the negated objective values, thereby amortizing the computational costs across different BBO instances. Furthermore, we demonstrate the performance of our D-IMPL algorithm by establishing a sample complexity guarantee showing that a $δ$-approximate minimization policy can be effectively learned within $O(\log(1/δ))$ iterations, and by extensive empirical evaluations over a range of constrained and unconstrained BBO tasks.
• Abstract（参考訳）: 拡散モデルは、複数の領域にわたる生成モデリングタスクにおいて強力な力を示し、サンプルから複雑な分布を学習する顕著な能力を示している。 本稿では,パラメータ化ブラックボックス最適化 (BBO) において,パラメータ化ブラックボックス最適化 (パラメータ化ブラックボックス最適化) のための効率的な普遍的拡散に基づく解法を設計する上で,学習段階では対象関数のクエリにブラックボックスアクセスしか持たないが,BBOインスタンス毎の推論段階における計算コストを低減できると同時に,非凸目的の潜在的マルチモーダルランドスケープを捉えることができる。 そこで本論文では,BBOインスタンス毎の最小値集合に集束すべき解に対するサンプリング分布を定義する,新たなソリューション概念として,最小化ポリシーの概念を導入する。 次に、拡散モデルを用いて最小化ポリシーを学習し、その密度が負の目的値の指数に比例し、異なるBBOインスタンスにまたがる計算コストを減少させるパラメータ化BBOの実用的な生成モデルに基づく解法である拡散型反復最小化政策学習(D-IMPL)を提案する。 さらに,D-IMPLアルゴリズムの性能を,$δ$-approximate minimization Policyが$O(\log(1/δ))$ iterations内で効果的に学習できること,および制約付きおよび制約なしのBBOタスクに対して広範な経験的評価を行うことによって検証した。

関連論文リスト

• Boundary-Guided Policy Optimization for Memory-efficient RL of Diffusion Large Language Models [53.339700196282905]
  大きな言語モデル(dLLM)に強化学習を適用する上で重要な課題は、その可能性関数の抽出性である。 本稿では,ELBOに基づく目的の特別に構築された下界を最大化するメモリ効率のRLアルゴリズムを提案する。 実験によると、BGPOは数学の問題解決、コード生成、計画タスクにおいて、dLLMの以前のRLアルゴリズムよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2025-10-13T17:47:50Z)
• Go With the Flow: Fast Diffusion for Gaussian Mixture Models [13.836464287004505]
  シュロディンガーブリッジ (Schrodinger Bridges, SBs) は、有限時間で操る拡散過程であり、与えられた初期分布を、適切なコスト関数を最小化する。 そこで本研究では,低次元の問題を解決するための一組の実行可能なポリシーの解析的パラメトリゼーションを提案する。 本稿では,オートエンコーダの空間における画像から潜時変換,マルチマージ運動量SBを用いた細胞動態の学習など,低次元問題におけるこのアプローチの可能性を示す。
  論文  参考訳（メタデータ） (2024-12-12T08:40:22Z)
• On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
  本研究では,(マルチモーダル)自己教師型表現学習のデータ予測タスクにおいて,連続領域における識別確率モデルについて検討する。 我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。 MISが要求する条件付き確率密度の和を近似する新しい非パラメトリック手法を提案する。
  論文  参考訳（メタデータ） (2024-10-11T18:02:46Z)
• Expensive Multi-Objective Bayesian Optimization Based on Diffusion Models [17.19004913553654]
  多目的ベイズ最適化(MOBO)は、様々な高価な多目的最適化問題(EMOP)において有望な性能を示した。 高価なMOBOのための合成拡散モデルに基づくパレートセット学習アルゴリズム,すなわちCDM-PSLを提案する。 提案アルゴリズムは,様々な最先端MOBOアルゴリズムと比較して優れた性能が得られる。
  論文  参考訳（メタデータ） (2024-05-14T14:55:57Z)
• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• Learning Sampling Distributions for Model Predictive Control [36.82905770866734]
  モデル予測制御(MPC)に対するサンプリングに基づくアプローチは、MPCに対する現代のアプローチの基盤となっている。 我々は、学習された分布を最大限に活用できるように、潜在空間における全ての操作を実行することを提案する。 具体的には、学習問題を双方向の最適化として捉え、バックプロパゲーションスルータイムでコントローラをトレーニングする方法を示す。
  論文  参考訳（メタデータ） (2022-12-05T20:35:36Z)
• Multi-Task Learning on Networks [0.0]
  マルチタスク学習コンテキストで発生する多目的最適化問題は、特定の特徴を持ち、アドホックな方法を必要とする。 この論文では、入力空間の解は、関数評価に含まれる知識をカプセル化した確率分布として表現される。 確率分布のこの空間では、ワッサーシュタイン距離によって与えられる計量が与えられ、モデルが目的関数に直接依存しないような新しいアルゴリズムMOEA/WSTを設計することができる。
  論文  参考訳（メタデータ） (2021-12-07T09:13:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。