論文の概要: Neural Global Optimization via Iterative Refinement from Noisy Samples

• arxiv url: http://arxiv.org/abs/2604.03614v1
• Date: Sat, 04 Apr 2026 07:02:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.674517
• Title: Neural Global Optimization via Iterative Refinement from Noisy Samples
• Title（参考訳）: 雑音サンプルからの反復リファインメントによるニューラルグローバル最適化
• Authors: Qusay Muzaffar, David Levin, Michael Werman,
• Abstract要約: 我々は,反復的精錬によってグローバルなミニマを発見できる新しいニューラルアプローチを提案する。 探索により得られた地上の真理大域最小値を用いてランダムに生成された関数を訓練した。 このモデルでは、テストケースの72%で、エラーが10%未満の世界的なミニマを見つけることに成功した。
• 参考スコア（独自算出の注目度）: 1.8242874713398711
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Global optimization of black-box functions from noisy samples is a fundamental challenge in machine learning and scientific computing. Traditional methods such as Bayesian Optimization often converge to local minima on multi-modal functions, while gradient-free methods require many function evaluations. We present a novel neural approach that learns to find global minima through iterative refinement. Our model takes noisy function samples and their fitted spline representation as input, then iteratively refines an initial guess toward the true global minimum. Trained on randomly generated functions with ground truth global minima obtained via exhaustive search, our method achieves a mean error of 8.05 percent on challenging multi-modal test functions, compared to 36.24 percent for the spline initialization, a 28.18 percent improvement. The model successfully finds global minima in 72 percent of test cases with error below 10 percent, demonstrating learned optimization principles rather than mere curve fitting. Our architecture combines encoding of multiple modalities including function values, derivatives, and spline coefficients with iterative position updates, enabling robust global optimization without requiring derivative information or multiple restarts.
• Abstract（参考訳）: ノイズの多いサンプルからブラックボックス関数をグローバルに最適化することは、機械学習と科学計算における根本的な課題である。 ベイズ最適化のような伝統的な手法は、多モード函数上の局所ミニマに収束することが多いが、勾配のない方法は多くの関数評価を必要とする。 我々は,反復的精錬によってグローバルなミニマを発見できる新しいニューラルアプローチを提案する。 我々のモデルはノイズ関数のサンプルとそれらのスプライン表現を入力とし、その後、真の大域最小値に対する初期推定を反復的に洗練する。 提案手法は,大域的大域的最小値を持つランダムに生成した関数を網羅探索により学習し,各関数の平均誤差を8.05パーセント,スプライン初期化の36.24%,28.18%とした。 このモデルは、エラーが10%未満のテストケースの72%で、グローバルなミニマをうまく見つけ、単なる曲線フィッティングではなく、学習された最適化の原則を示します。 本アーキテクチャでは,関数値,微分係数,スプライン係数などの多重モードの符号化と反復的な位置更新を組み合わせ,微分情報や複数再起動を必要とせず,ロバストな大域的最適化を実現する。

関連論文リスト

• Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
  凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。 このような問題は医学、物理学、機械学習で発生する。 両種類の雑音下で提案アルゴリズムの収束保証を行う。
  論文  参考訳（メタデータ） (2024-11-21T10:26:17Z)
• Super Gradient Descent: Global Optimization requires Global Gradient [0.0]
  本稿では,閉区間上で定義される任意のk-Lipschitz関数に対して,大域最小値への収束を保証する新しい最適化手法を提案する。 従来の最適化アルゴリズムの限界に対処するアプローチは、しばしばローカルなミニマに閉じ込められる。
  論文  参考訳（メタデータ） (2024-10-25T17:28:39Z)
• Convex Relaxations of ReLU Neural Networks Approximate Global Optima in Polynomial Time [45.72323731094864]
  本稿では,2層ReLULUネットワーク間における重み減衰と凸緩和の最適性ギャップについて検討する。 私たちの研究は、なぜローカルメソッドがうまく機能するのかを理解することに新たな光を当てています。
  論文  参考訳（メタデータ） (2024-02-06T01:29:35Z)
• A framework for bilevel optimization that enables stochastic and global variance reduction algorithms [21.67411847762289]
  双レベル最適化は、他の関数のarg最小値を含む値関数を最小化する問題である。 本稿では, 内部問題の解, 線形系の解, 主変数を同時に発展させる新しい枠組みを提案する。 我々のフレームワークにおけるSAGAアルゴリズムの適応であるSABAが$O(frac1T)$収束率を持つことを示す。
  論文  参考訳（メタデータ） (2022-01-31T18:17:25Z)
• Local policy search with Bayesian optimization [73.0364959221845]
  強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。 局所探索のための政策勾配は、しばしばランダムな摂動から得られる。 目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-06-22T16:07:02Z)
• Combining resampling and reweighting for faithful stochastic optimization [1.52292571922932]
  損失関数が複数の項の和であるとき、一般的な方法は勾配降下である。 損失関数における複数の項のリプシッツ定数の差は、異なる最小値における異なる分散への勾配降下を引き起こすことを示す。
  論文  参考訳（メタデータ） (2021-05-31T04:21:25Z)
• Why Do Local Methods Solve Nonconvex Problems? [54.284687261929115]
  非使用最適化は、現代の機械学習においてユビキタスである。 機械学習問題の場合、厳格に定式化します。 我々はこの現象の統一的な説明を仮定する。
  論文  参考訳（メタデータ） (2021-03-24T19:34:11Z)
• Finding Global Minima via Kernel Approximations [90.42048080064849]
  関数評価のみに基づく滑らかな関数のグローバル最小化を考える。 本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
  論文  参考訳（メタデータ） (2020-12-22T12:59:30Z)
• Cross-Entropy Method Variants for Optimization [0.0]
  クロスエントロピー法(CE法)はその単純さと有効性から最適化の一般的な方法である。 ある目的関数は評価に計算的に高価である可能性があり、CE-methodは局所的なミニマで立ち往生する可能性がある。 これらの問題に対処するために, CE-method の新たな変種を導入する。
  論文  参考訳（メタデータ） (2020-09-18T19:51:30Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。