論文の概要: Diffusion Model for Data-Driven Black-Box Optimization

• arxiv url: http://arxiv.org/abs/2403.13219v1
• Date: Wed, 20 Mar 2024 00:41:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-21 18:27:31.906850
• Title: Diffusion Model for Data-Driven Black-Box Optimization
• Title（参考訳）: データ駆動型ブラックボックス最適化のための拡散モデル
• Authors: Zihao Li, Hui Yuan, Kaixuan Huang, Chengzhuo Ni, Yinyu Ye, Minshuo Chen, Mengdi Wang,
• Abstract要約: 我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。 本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。 提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
• 参考スコア（独自算出の注目度）: 54.25693582870226
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative AI has redefined artificial intelligence, enabling the creation of innovative content and customized solutions that drive business practices into a new era of efficiency and creativity. In this paper, we focus on diffusion models, a powerful generative AI technology, and investigate their potential for black-box optimization over complex structured variables. Consider the practical scenario where one wants to optimize some structured design in a high-dimensional space, based on massive unlabeled data (representing design variables) and a small labeled dataset. We study two practical types of labels: 1) noisy measurements of a real-valued reward function and 2) human preference based on pairwise comparisons. The goal is to generate new designs that are near-optimal and preserve the designed latent structures. Our proposed method reformulates the design optimization problem into a conditional sampling problem, which allows us to leverage the power of diffusion models for modeling complex distributions. In particular, we propose a reward-directed conditional diffusion model, to be trained on the mixed data, for sampling a near-optimal solution conditioned on high predicted rewards. Theoretically, we establish sub-optimality error bounds for the generated designs. The sub-optimality gap nearly matches the optimal guarantee in off-policy bandits, demonstrating the efficiency of reward-directed diffusion models for black-box optimization. Moreover, when the data admits a low-dimensional latent subspace structure, our model efficiently generates high-fidelity designs that closely respect the latent structure. We provide empirical experiments validating our model in decision-making and content-creation tasks.
• Abstract（参考訳）: ジェネレーティブAIは、人工知能を再定義し、革新的なコンテンツの作成と、ビジネスプラクティスを新たな効率性と創造性の時代へと導くカスタマイズされたソリューションを可能にした。 本稿では、拡散モデル、強力な生成AI技術に着目し、複雑な構造化変数に対するブラックボックス最適化の可能性について検討する。 巨大なラベルのないデータ(設計変数を表す)と小さなラベル付きデータセットに基づいて、高次元空間で構造化された設計を最適化したいという現実的なシナリオを考える。 我々は2つの実用的なラベルについて研究する。 1)実価値報酬関数の雑音測定と評価 2) 対比較に基づく人間の嗜好 目標は、ほぼ最適である新しいデザインを作成し、設計された潜在構造を保存することである。 提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,複雑な分布をモデル化するために拡散モデルのパワーを利用する。 特に、予測された報酬に基づいて最適に近い解をサンプリングするために、混合データに基づいて訓練される報酬指向条件拡散モデルを提案する。 理論的には、生成した設計に対する準最適誤差境界を確立する。 準最適性ギャップは、ブラックボックス最適化のための報酬指向拡散モデルの効率を実証し、政治外の盗賊の最適保証とほぼ一致した。 さらに,データに低次元の潜在部分空間構造が認められると,その潜在構造を密接に尊重する高忠実度設計を効率的に生成する。 意思決定タスクとコンテンツ作成タスクにおけるモデルを検証する実証実験を行った。

関連論文リスト

• Diff-BBO: Diffusion-Based Inverse Modeling for Black-Box Optimization [20.45482366024264]
  Black-box Optimization (BBO) は、ブラックボックスのオラクルをサンプル効率よく反復的にクエリすることで、目的関数を最適化することを目的としている。 対象空間を条件付き拡散モデルで設計空間にマッピングする最近の逆モデリング手法は、データ多様体を学習する際の印象的な能力を実証している。 オンラインBBO問題に対する拡散モデルを利用した逆アプローチであるDiff-BBOを提案する。
  論文  参考訳（メタデータ） (2024-06-30T06:58:31Z)
• Bridging Model-Based Optimization and Generative Modeling via Conservative Fine-Tuning of Diffusion Models [54.132297393662654]
  本稿では,RLによる報酬モデルの最適化により,最先端拡散モデルを微調整するハイブリッド手法を提案する。 我々は、報酬モデルの補間能力を活用し、オフラインデータにおいて最良の設計を上回るアプローチの能力を実証する。
  論文  参考訳（メタデータ） (2024-05-30T03:57:29Z)
• Implicitly Guided Design with PropEn: Match your Data to Follow the Gradient [52.2669490431145]
  PropEnは'matching'にインスパイアされている。 一致したデータセットによるトレーニングは、データ分布内に留まりながら、興味のある性質の勾配を近似することを示す。
  論文  参考訳（メタデータ） (2024-05-28T11:30:19Z)
• Compositional Generative Inverse Design [69.22782875567547]
  入力変数を設計して目的関数を最適化する逆設計は重要な問題である。 拡散モデルにより得られた学習エネルギー関数を最適化することにより、そのような逆例を避けることができることを示す。 N-body 相互作用タスクと2次元多面体設計タスクにおいて,実験時に学習した拡散モデルを構成することにより,初期状態と境界形状を設計できることを示す。
  論文  参考訳（メタデータ） (2024-01-24T01:33:39Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• Aligning Optimization Trajectories with Diffusion Models for Constrained Design Generation [17.164961143132473]
  本稿では,拡散モデルのサンプリング軌跡と従来の物理法に基づく最適化軌跡との整合性を示す学習フレームワークを提案する。 提案手法では,高コストプリプロセッシングや外部サロゲートモデル,ラベル付きデータの追加を必要とせずに,実用的で高性能な設計を2段階で生成することができる。 この結果から, TAは分布内構成における最先端の深層生成モデルより優れ, 推論計算コストを半減することがわかった。
  論文  参考訳（メタデータ） (2023-05-29T09:16:07Z)
• Conservative Objective Models for Effective Offline Model-Based Optimization [78.19085445065845]
  計算設計の問題は、合成生物学からコンピュータアーキテクチャまで、様々な場面で発生している。 本研究では,分布外入力に対する接地的目標の実際の値を低くする目的関数のモデルを学習する手法を提案する。 COMは、様々なMBO問題に対して、既存のメソッドの実装と性能の面では単純である。
  論文  参考訳（メタデータ） (2021-07-14T17:55:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。