論文の概要: Rethinking Learnability in Offline Data-driven Optimization
- arxiv url: http://arxiv.org/abs/2609.01493v1
- Date: Tue, 01 Sep 2026 16:22:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-02 16:31:36.832846
- Title: Rethinking Learnability in Offline Data-driven Optimization
- Title(参考訳): オフラインデータ駆動最適化における学習可能性の再考
- Authors: Chao Qian, Chen-Guang Wang, Rong-Xi Tan, Ke Xue,
- Abstract要約: BlackBox-Architecture (BBO)は幅広い応用を見出したが、進化的アルゴリズムとベイズ最適化は、現実のBBO問題がますます複雑化するにつれて効率の課題に直面している。
データ駆動最適化は、データから学習することでBBOアルゴリズムの効率を改善する。
多くのオフライン最適化手法が提案されているが、根本的な疑問は未解決のままである。
- 参考スコア(独自算出の注目度): 20.146021332129703
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Black-Box Optimization (BBO) has found broad applications, but evolutionary algorithms and Bayesian optimization face efficiency challenges as real-world BBO problems grow increasingly complex. Data-driven optimization improves the efficiency of BBO algorithms by learning from data. Offline data-driven optimization seeks high-quality solutions using only a fixed set of previous evaluations, attracting substantial attention because it requires no additional online evaluations. Many offline optimization methods have been proposed, but a fundamental question remains unanswered: what learnability is sufficient for offline optimization? Prior theoretical studies show that Probably Approximately Correct (PAC) learnability is insufficient, as the optimal region may remain poorly learned even when most regions are well learned. In this paper, we propose algorithm-dependent learnability, which requires accuracy only on the optimizer's trajectory. We prove that its value-query form is sufficient for representative discrete settings, including greedy and local search for submodular maximization, while its first-order analogue is sufficient for projected gradient descent on convex minimization. Motivated by this notion, we formalize a trajectory-learning framework comprising trajectory construction, trajectory modeling, and candidate generation, and analyze existing trajectory-based methods under it. We further propose Uncertainty-aware Gradient-guided Trajectory Learning (UGTL), which constructs locally coherent improvement trajectories reflecting plausible search paths, models them with conditional diffusion, and selects a diverse candidate set. On five Design-Bench tasks, UGTL achieves the best aggregate mean rank, $3.1/25$, among 25 methods. Controlled trajectory analyses and cross-architecture replacements confirm that our trajectory construction plays a significant role in the improvement.
- Abstract(参考訳): Black-Box Optimization (BBO) は幅広い応用を見出したが、進化的アルゴリズムとベイズ最適化は、現実のBBO問題がますます複雑化するにつれて効率の課題に直面している。
データ駆動最適化は、データから学習することでBBOアルゴリズムの効率を改善する。
オフラインデータ駆動最適化は、事前評価の固定セットのみを使用して高品質なソリューションを求めており、追加のオンライン評価を必要としないため、かなりの注目を集めている。
多くのオフライン最適化手法が提案されているが、根本的な疑問は未解決のままである。
従来の理論的研究では、ほとんどの領域が十分に学習されている場合でも、最適領域は学習が不十分なままであるため、ほぼ正当性(PAC)の学習が不十分であることが示されている。
本稿では,アルゴリズムに依存した学習可能性を提案する。
我々は,その値クエリー形式が,重み付けや部分モジュラー最大化の局所探索を含む離散的な設定に十分であることを示す一方,第一次アナログは凸最小化の勾配降下に十分であることを示す。
この概念により、軌道構築、軌道モデリング、および候補生成を含む軌道学習フレームワークを定式化し、その下にある既存の軌道ベース手法を解析する。
さらに, 探索経路を反映した局所的コヒーレントな改善軌道を構築し, 条件付き拡散でモデル化し, 多様な候補集合を選択する不確実性を考慮したグラディエント誘導軌道学習(UGTL)を提案する。
5つのDesign-Benchタスクにおいて、UGTLは25のメソッドの中で最高の集計平均ランク($3.1/25$)を達成している。
制御された軌道解析とクロスアーキテクチャーの置換により,我々の軌道構築が改善に重要な役割を担っていることが確認された。
関連論文リスト
- Evolution of Optimization Methods: Algorithms, Scenarios, and Evaluations [98.44542103979735]
勾配勾配降下法(SGD)とアダム(Adam)による1次勾配勾配降下法は、現代の訓練パイプラインの基礎となる。
大規模モデルトレーニング、厳格なプライバシ要件、分散学習パラダイムは、プライバシ保護とメモリ効率に関する従来のアプローチにおける重要な制限を明らかにする。
深層学習最適化アルゴリズムの進化軌道を振り返って分析し、様々なモデルアーキテクチャやトレーニングシナリオの主流を包括的に評価する。
我々は、重要な新興トレンドと基本設計のトレードオフを抽出し、将来の研究の有望な方向性を示唆する。
論文 参考訳(メタデータ) (2026-04-14T17:01:36Z) - Black-Box Optimization From Small Offline Datasets via Meta Learning with Synthetic Tasks [13.72315847318598]
本稿では,OptBiasを用いたSurrogate Learningを提案する。
OptBiasは、ガウス過程から生成された合成タスクのトレーニングによって再利用可能な最適化バイアスを学び、ターゲットタスクの小さなデータ上の代理モデルを微調整する。
さまざまな継続的および離散的なオフライン最適化ベンチマークを通じて、OpsBiasは、小さなデータレシエーションにおける最先端のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-04-14T06:00:30Z) - On the Learnability of Offline Model-Based Optimization: A Ranking Perspective [28.667834180549686]
オフラインモデルベース最適化(MBO)は、過去の評価の固定データセットのみを使用して、高性能な設計を発見することを目指している。
既存のほとんどの手法は回帰を通じて代理モデルを学ぶことに依存しており、良い予測精度が良い最適化性能をもたらすと暗黙的に仮定している。
オフライン最適化は基本的に、正確な値予測よりも高品質な設計をランク付けする問題であると主張する。
論文 参考訳(メタデータ) (2026-03-04T12:45:41Z) - Optimizers Qualitatively Alter Solutions And We Should Leverage This [62.662640460717476]
ディープニューラルネットワーク(DNN)は、SGDのようなローカル情報のみを使用する場合、損失のグローバルな最小限に収束することを保証できない。
コミュニティは、既存のメソッドのバイアスを理解すること、また、ソリューションの特定の特性を誘発する明示的な意図で、新しいDNNを構築することを目的としている。
論文 参考訳(メタデータ) (2025-07-16T13:33:31Z) - GDSG: Graph Diffusion-based Solution Generator for Optimization Problems in MEC Networks [109.17835015018532]
グラフ拡散型ソリューション生成(GDSG)法を提案する。
このアプローチは、おそらく最適な解に収束しながら、最適以下のデータセットを扱うように設計されている。
グラフニューラルネットワーク(GNN)を用いたマルチタスク拡散モデルとしてGDSGを構築し,高品質な解の分布を求める。
論文 参考訳(メタデータ) (2024-12-11T11:13:43Z) - Functional Graphical Models: Structure Enables Offline Data-Driven Optimization [111.28605744661638]
構造がサンプル効率のよいデータ駆動最適化を実現する方法を示す。
また、FGM構造自体を推定するデータ駆動最適化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-01-08T22:33:14Z) - From Function to Distribution Modeling: A PAC-Generative Approach to
Offline Optimization [30.689032197123755]
本稿では、オフラインデータ例の集合を除いて目的関数が不明なオフライン最適化の問題について考察する。
未知の目的関数を学習して最適化するのではなく、より直感的で直接的な視点で、最適化は生成モデルからサンプリングするプロセスと考えることができる。
論文 参考訳(メタデータ) (2024-01-04T01:32:50Z) - Enhanced data efficiency using deep neural networks and Gaussian
processes for aerodynamic design optimization [0.0]
随伴型最適化法は空気力学的形状設計において魅力的である。
複数の最適化問題が解決されている場合、それらは違法に高価になる可能性がある。
本稿では,高コストな随伴解法に取って代わる機械学習を実現するサロゲートベースのフレームワークを提案する。
論文 参考訳(メタデータ) (2020-08-15T15:09:21Z) - Self-Directed Online Machine Learning for Topology Optimization [58.920693413667216]
自己指向型オンライン学習最適化は、ディープニューラルネットワーク(DNN)と有限要素法(FEM)計算を統合している。
本アルゴリズムは, コンプライアンスの最小化, 流体構造最適化, 伝熱促進, トラス最適化の4種類の問題によって検証された。
その結果, 直接使用法と比較して計算時間を2~5桁削減し, 実験で検証した全ての最先端アルゴリズムより優れていた。
論文 参考訳(メタデータ) (2020-02-04T20:00:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。