論文の概要: Diff-BBO: Diffusion-Based Inverse Modeling for Black-Box Optimization

• arxiv url: http://arxiv.org/abs/2407.00610v1
• Date: Sun, 30 Jun 2024 06:58:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-04 02:26:49.429155
• Title: Diff-BBO: Diffusion-Based Inverse Modeling for Black-Box Optimization
• Title（参考訳）: Diff-BBO:ブラックボックス最適化のための拡散に基づく逆モデリング
• Authors: Dongxia Wu, Nikki Lijing Kuang, Ruijia Niu, Yi-An Ma, Rose Yu,
• Abstract要約: Black-box Optimization (BBO) は、ブラックボックスのオラクルを反復的にクエリすることで目的関数を最適化することを目的としている。 拡散モデルは高次元データ多様体の学習能力を示す。 オンラインBBO問題に対する拡散モデルを利用した最初の逆アプローチであるDiff-BBOを提案する。
• 参考スコア（独自算出の注目度）: 20.45482366024264
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Black-box optimization (BBO) aims to optimize an objective function by iteratively querying a black-box oracle. This process demands sample-efficient optimization due to the high computational cost of function evaluations. While prior studies focus on forward approaches to learn surrogates for the unknown objective function, they struggle with high-dimensional inputs where valid inputs form a small subspace (e.g., valid protein sequences), which is common in real-world tasks. Recently, diffusion models have demonstrated impressive capability in learning the high-dimensional data manifold. They have shown promising performance in black-box optimization tasks but only in offline settings. In this work, we propose diffusion-based inverse modeling for black-box optimization (Diff-BBO), the first inverse approach leveraging diffusion models for online BBO problem. Diff-BBO distinguishes itself from forward approaches through the design of acquisition function. Instead of proposing candidates in the design space, Diff-BBO employs a novel acquisition function Uncertainty-aware Exploration (UaE) to propose objective function values, which leverages the uncertainty of a conditional diffusion model to generate samples in the design space. Theoretically, we prove that using UaE leads to optimal optimization outcomes. Empirically, we redesign experiments on the Design-Bench benchmark for online settings and show that Diff-BBO achieves state-of-the-art performance.
• Abstract（参考訳）: Black-box Optimization (BBO) は、ブラックボックスのオラクルを反復的にクエリすることで目的関数を最適化することを目的としている。 このプロセスは、関数評価の計算コストが高いため、サンプル効率の最適化を必要とする。 先行研究では、未知の目的関数のサロゲートを学習するための前方アプローチに焦点が当てられていたが、実世界のタスクに共通する小さな部分空間(例えば、有効なタンパク質配列)を形成するような高次元入力に苦慮していた。 近年,拡散モデルにより高次元データ多様体の学習能力が向上している。 彼らはブラックボックス最適化タスクで有望なパフォーマンスを示したが、オフライン設定でのみであった。 本研究では,オンラインBBO問題に対する拡散モデルを利用した最初の逆モデルであるブラックボックス最適化(Diff-BBO)の拡散に基づく逆モデリングを提案する。 Diff-BBOは、獲得関数の設計を通じて前方アプローチと区別する。 Diff-BBOは、設計分野の候補を提案する代わりに、目的関数値の提案のために、新しい取得機能である不確実性対応探索(UaE)を採用し、条件拡散モデルの不確実性を利用して設計分野のサンプルを生成する。 理論的には、UaEの使用が最適な最適化結果をもたらすことが証明される。 経験的に、オンライン設定のためのDesign-Benchベンチマークの実験を再設計し、Diff-BBOが最先端のパフォーマンスを達成することを示す。

関連論文リスト

• Test-time Alignment of Diffusion Models without Reward Over-optimization [8.981605934618349]
  拡散モデルは生成的タスクにおいて優れているが、特定の目的とそれらを整合させることは依然として困難である。 そこで本研究では,SMC(Sequential Monte Carlo)をベースとした学習自由なテスト時間手法を提案する。 単一逆最適化、多目的シナリオ、オンラインブラックボックス最適化において、その効果を実証する。
  論文  参考訳（メタデータ） (2025-01-10T09:10:30Z)
• Optimizing Diffusion Models for Joint Trajectory Prediction and Controllable Generation [49.49868273653921]
  拡散モデルは、自律運転における共同軌道予測と制御可能な生成を約束する。 最適ガウス拡散(OGD)と推定クリーンマニフォールド(ECM)誘導を導入する。 提案手法は生成過程の合理化を図り,計算オーバーヘッドを低減した実用的な応用を実現する。
  論文  参考訳（メタデータ） (2024-08-01T17:59:59Z)
• Variational Schrödinger Diffusion Models [14.480273869571468]
  Schr"odinger Bridge (SB) は拡散モデルにおける輸送計画の最適化手法として登場した。 我々は変分推論を利用してSBの前方スコア関数(変分スコア)を線形化する。 本稿では,多変量拡散過程と変分スコアを適応的に最適化して効率的な輸送を行う,変分Schr"odinger拡散モデル(VSDM)を提案する。
  論文  参考訳（メタデータ） (2024-05-08T04:01:40Z)
• Diffusion Model for Data-Driven Black-Box Optimization [54.25693582870226]
  我々は、強力な生成AI技術である拡散モデルに注目し、ブラックボックス最適化の可能性について検討する。 本研究では,1)実数値報酬関数のノイズ測定と,2)対比較に基づく人間の嗜好の2種類のラベルについて検討する。 提案手法は,設計最適化問題を条件付きサンプリング問題に再構成し,拡散モデルのパワーを有効活用する。
  論文  参考訳（メタデータ） (2024-03-20T00:41:12Z)
• Predictive Modeling through Hyper-Bayesian Optimization [60.586813904500595]
  本稿では,モデル選択とBOを統合する新しい手法を提案する。 このアルゴリズムは、モデル空間のBOと関数空間のBOの間を行き来する。 サンプル効率の改善に加えて、ブラックボックス機能に関する情報も出力する。
  論文  参考訳（メタデータ） (2023-08-01T04:46:58Z)
• Protein Design with Guided Discrete Diffusion [67.06148688398677]
  タンパク質設計における一般的なアプローチは、生成モデルと条件付きサンプリングのための識別モデルを組み合わせることである。 離散拡散モデルのためのガイダンス手法であるdiffusioN Optimized Smpling (NOS)を提案する。 NOSは、構造に基づく手法の重要な制限を回避し、シーケンス空間で直接設計を行うことができる。
  論文  参考訳（メタデータ） (2023-05-31T16:31:24Z)
• CamoDiffusion: Camouflaged Object Detection via Conditional Diffusion Models [72.93652777646233]
  カモフラーゲ型物体検出(COD)は、カモフラーゲ型物体とその周囲の類似性が高いため、コンピュータビジョンにおいて難しい課題である。 本研究では,CODを拡散モデルを利用した条件付きマスク生成タスクとして扱う新しいパラダイムを提案する。 カモ拡散(CamoDiffusion)と呼ばれる本手法では,拡散モデルのデノナイズプロセスを用いてマスクの雑音を反復的に低減する。
  論文  参考訳（メタデータ） (2023-05-29T07:49:44Z)
• Flexible Amortized Variational Inference in qBOLD MRI [56.4324135502282]
  データから酸素抽出率(OEF)と脱酸素血液量(DBV)をより明瞭に決定する。 既存の推論手法では、DBVを過大評価しながら非常にノイズの多い、過小評価されたEFマップが得られる傾向にある。 本研究は, OEFとDBVの可算分布を推定できる確率論的機械学習手法について述べる。
  論文  参考訳（メタデータ） (2022-03-11T10:47:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。