論文の概要: Learning Surrogates for Offline Black-Box Optimization via Gradient Matching

• arxiv url: http://arxiv.org/abs/2503.01883v1
• Date: Wed, 26 Feb 2025 22:35:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-05 18:50:38.223232
• Title: Learning Surrogates for Offline Black-Box Optimization via Gradient Matching
• Title（参考訳）: 勾配マッチングによるオフラインブラックボックス最適化のための学習サロゲート
• Authors: Minh Hoang, Azza Fadhel, Aryan Deshwal, Janardhan Rao Doppa, Trong Nghia Hoang,
• Abstract要約: 本稿では,オフラインデータに基づく潜伏勾配場とサロゲートがいかによく一致しているかに基づいて,最適化品質を明示的に境界付けることによって,オフラインブラックボックス最適化を理解するための理論的枠組みを提案する。 そこで本研究では,オフライン最適化のための効果的なサロゲートモデル作成のためのブラックボックス勾配マッチングアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 29.831762991506242
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Offline design optimization problem arises in numerous science and engineering applications including material and chemical design, where expensive online experimentation necessitates the use of in silico surrogate functions to predict and maximize the target objective over candidate designs. Although these surrogates can be learned from offline data, their predictions are often inaccurate outside the offline data regime. This challenge raises a fundamental question about the impact of imperfect surrogate model on the performance gap between its optima and the true optima, and to what extent the performance loss can be mitigated. Although prior work developed methods to improve the robustness of surrogate models and their associated optimization processes, a provably quantifiable relationship between an imperfect surrogate and the corresponding performance gap, as well as whether prior methods directly address it, remain elusive. To shed light on this important question, we present a theoretical framework to understand offline black-box optimization, by explicitly bounding the optimization quality based on how well the surrogate matches the latent gradient field that underlines the offline data. Inspired by our theoretical analysis, we propose a principled black-box gradient matching algorithm to create effective surrogate models for offline optimization, improving over prior approaches on various real-world benchmarks.
• Abstract（参考訳）: オフライン設計の最適化問題は、材料や化学設計を含む多くの科学や工学の応用において発生し、高価なオンライン実験では、候補設計よりもターゲット目標を予測し最大化するために、シリコサロゲート関数を使う必要がある。 これらのサロゲートはオフラインデータから学ぶことができるが、その予測はオフラインデータ体制の外で不正確であることが多い。 この課題は、不完全な代理モデルが最適値と真の最適値の間の性能ギャップに与える影響、そしてパフォーマンス損失をどの程度軽減できるか、という根本的な疑問を提起する。 先行研究は、サロゲートモデルとその関連する最適化プロセスの堅牢性を改善する方法を開発したが、不完全なサロゲートとそれに対応する性能ギャップの関係は証明可能な定量化が可能である。 この重要な問題に目を向けるために、サロゲートがオフラインデータを基盤とする遅延勾配場とどのようにうまくマッチするかに基づいて、最適化品質を明示的に境界付けることによって、オフラインブラックボックス最適化を理解するための理論的枠組みを提案する。 理論解析から着想を得たブラックボックス勾配マッチングアルゴリズムを提案し、オフライン最適化のための効果的な代理モデルを作成し、様々な実世界のベンチマークに対する事前アプローチよりも改善する。

関連論文リスト

• Preference-Guided Diffusion for Multi-Objective Offline Optimization [64.08326521234228]
  オフライン多目的最適化のための優先誘導拡散モデルを提案する。 我々の指導は、ある設計が他の設計を支配する確率を予測するために訓練された選好モデルである。 本結果は,多種多様な高品質な解を生成する上での分類器誘導拡散モデルの有効性を浮き彫りにした。
  論文  参考訳（メタデータ） (2025-03-21T16:49:38Z)
• Offline Model-Based Optimization: Comprehensive Review [61.91350077539443]
  オフライン最適化は、オフラインデータセットのみを使用してブラックボックス機能の最適化を目標とする、科学とエンジニアリングの基本的な課題である。 モデルベース最適化の最近の進歩は、オフライン固有の代理モデルと生成モデルを開発するために、ディープニューラルネットワークの一般化能力を活用している。 科学的な発見を加速させる効果が増大しているにもかかわらず、この分野は包括的なレビューを欠いている。
  論文  参考訳（メタデータ） (2025-03-21T16:35:02Z)
• Incorporating Surrogate Gradient Norm to Improve Offline Optimization Techniques [8.750390242872138]
  オフライン最適化のためのモデルに依存しない手法を開発した。 オフラインデータセットにおけるサロゲートシャープネスの低減は、目に見えないデータに対する一般化シャープネスを確実に減少させることを示す。 我々の分析は、既存の理論を、(目に見えないデータ上の)一般化予測損失と損失シャープネスの境界から、トレーニングデータに対する経験的推定で最悪の一般化サロゲートシャープネスの境界まで拡張する。
  論文  参考訳（メタデータ） (2025-03-06T09:24:23Z)
• Boosting Offline Optimizers with Surrogate Sensitivity [8.750390242872138]
  オフライン最適化は、オンライン実験が高価すぎる多くの材料工学領域において重要であり、ブラックボックス関数のシリコサロゲートに置き換えられる必要がある。 このようなサロゲートはオフラインデータから学ぶことができるが、その予測はオフラインデータ体制以外では信頼性がないかもしれない。 1)サロゲートモデルの感度をどうやって調節するか、(2)そのようなサロゲートで表現されたオフラインインフォームがより良いパフォーマンスをもたらすかどうか。
  論文  参考訳（メタデータ） (2025-03-06T07:50:32Z)
• Locality-aware Surrogates for Gradient-based Black-box Optimization [5.541187309945154]
  モデルベースブラックボックス最適化のための局所性を考慮した代理モデルを提案する。 まず、勾配アライメントと勾配経路積分方程式損失の最小化との理論的関係を確立する。 我々はGradPIE損失を最小限に抑えるスケーラブルなトレーニングアルゴリズムを開発し、オフラインとオンライン両方の学習を可能にした。
  論文  参考訳（メタデータ） (2025-01-31T14:28:47Z)
• Offline Model-Based Optimization via Policy-Guided Gradient Search [30.87992788876113]
  オフライン強化学習問題として再構成することで、オフライン最適化のための新しい学習-探索-勾配の視点を導入する。 提案手法は,オフラインデータから生成されたサロゲートモデルに対して,適切なポリシーを明示的に学習する。
  論文  参考訳（メタデータ） (2024-05-08T18:27:37Z)
• End-to-End Learning for Fair Multiobjective Optimization Under Uncertainty [55.04219793298687]
  機械学習における予測-Then-Forecast(PtO)パラダイムは、下流の意思決定品質を最大化することを目的としている。 本稿では,PtO法を拡張して,OWA(Nondifferentiable Ordered Weighted Averaging)の目的を最適化する。 この結果から,不確実性の下でのOWA関数の最適化とパラメトリック予測を効果的に統合できることが示唆された。
  論文  参考訳（メタデータ） (2024-02-12T16:33:35Z)
• Generative Adversarial Model-Based Optimization via Source Critic Regularization [25.19579059511105]
  本稿ではアダプティブ・ソース・批評家正規化(aSCR)を用いた生成逆モデルに基づく最適化を提案する。 ASCRは、サロゲート関数が信頼できる設計空間の領域に最適化軌道を制約する。 本稿では,aSCRを標準的なベイズ最適化に活用することにより,オフライン生成設計タスクのスイートにおいて,既存の手法よりも優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-02-09T16:43:57Z)
• Functional Graphical Models: Structure Enables Offline Data-Driven Optimization [111.28605744661638]
  構造がサンプル効率のよいデータ駆動最適化を実現する方法を示す。 また、FGM構造自体を推定するデータ駆動最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-01-08T22:33:14Z)
• From Function to Distribution Modeling: A PAC-Generative Approach to Offline Optimization [30.689032197123755]
  本稿では、オフラインデータ例の集合を除いて目的関数が不明なオフライン最適化の問題について考察する。 未知の目的関数を学習して最適化するのではなく、より直感的で直接的な視点で、最適化は生成モデルからサンプリングするプロセスと考えることができる。
  論文  参考訳（メタデータ） (2024-01-04T01:32:50Z)
• Data-Driven Offline Decision-Making via Invariant Representation Learning [97.49309949598505]
  オフラインのデータ駆動意思決定は、アクティブなインタラクションなしで最適化された決定を合成する。 オフラインデータからトレーニングされたモデルへの入力に関して最適化する場合、誤って良いように見えるアウト・オブ・ディストリビューション(OOD)インプットを生成するのは簡単です。 本稿では、オフラインデータ駆動意思決定をドメイン適応として定式化し、最適化された決定値の正確な予測を行うことを目標とする。
  論文  参考訳（メタデータ） (2022-11-21T11:01:37Z)
• DEBOSH: Deep Bayesian Shape Optimization [48.80431740983095]
  形状最適化に適した不確実性に基づく新しい手法を提案する。 効果的なBOを可能にし、その結果の形状の質を最先端のアプローチを超えて向上させる。
  論文  参考訳（メタデータ） (2021-09-28T11:01:42Z)
• Enhanced data efficiency using deep neural networks and Gaussian processes for aerodynamic design optimization [0.0]
  随伴型最適化法は空気力学的形状設計において魅力的である。 複数の最適化問題が解決されている場合、それらは違法に高価になる可能性がある。 本稿では,高コストな随伴解法に取って代わる機械学習を実現するサロゲートベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-08-15T15:09:21Z)
• Automatically Learning Compact Quality-aware Surrogates for Optimization Problems [55.94450542785096]
  未知パラメータで最適化問題を解くには、未知パラメータの値を予測し、これらの値を用いて問題を解くための予測モデルを学ぶ必要がある。 最近の研究によると、複雑なトレーニングモデルパイプラインのレイヤーとして最適化の問題を含めると、観測されていない意思決定の繰り返しを予測することになる。 我々は,大規模最適化問題の低次元サロゲートモデルを学習することにより,解の質を向上させることができることを示す。
  論文  参考訳（メタデータ） (2020-06-18T19:11:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。