論文の概要: Path Integral Optimiser: Global Optimisation via Neural Schrödinger-Föllmer Diffusion

• arxiv url: http://arxiv.org/abs/2506.06815v1
• Date: Sat, 07 Jun 2025 14:46:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-10 16:33:10.492155
• Title: Path Integral Optimiser: Global Optimisation via Neural Schrödinger-Föllmer Diffusion
• Title（参考訳）: 経路積分オプティマイザ:ニューラルシュレーディンガー-フェルマー拡散による大域的最適化
• Authors: Max McGuinness, Eirik Fladmark, Francisco Vargas,
• Abstract要約: 我々は,大域的最適化のための神経拡散過程の早期研究について述べる。 ボルツマン分布を用いて最適化をシュリンガー橋サンプリング問題の解法として定式化することができる。 このオプティマイザの理論的バウンダリ、おもちゃのタスクに関する結果、モデルを動機づける理論の要約を提供する。
• 参考スコア（独自算出の注目度）: 1.8195082751200438
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present an early investigation into the use of neural diffusion processes for global optimisation, focusing on Zhang et al.'s Path Integral Sampler. One can use the Boltzmann distribution to formulate optimization as solving a Schr\"odinger bridge sampling problem, then apply Girsanov's theorem with a simple (single-point) prior to frame it in stochastic control terms, and compute the solution's integral terms via a neural approximation (a Fourier MLP). We provide theoretical bounds for this optimiser, results on toy optimisation tasks, and a summary of the stochastic theory motivating the model. Ultimately, we found the optimiser to display promising per-step performance at optimisation tasks between 2 and 1,247 dimensions, but struggle to explore higher-dimensional spaces when faced with a 15.9k parameter model, indicating a need for work on adaptation in such environments.
• Abstract（参考訳）: 本稿では,ZhangらのPath Integral Samplerに着目し,大域的最適化のための神経拡散プロセスの活用について検討する。 ボルツマン分布を用いてシュリンガー橋サンプリング問題の解法として最適化を定式化し、確率的制御項でフレーム化する前に単純(単点)でジルサノフの定理を適用し、ニューラル近似(フーリエ MLP)を用いて解の積分項を計算することができる。 このオプティマイザの理論的バウンダリ、おもちゃのオプティマイゼーションタスクの結果、およびモデルを動機付ける確率論の要約を提供する。 最終的に,2次元から1,247次元の最適化タスクにおいて,ステップごとの有望な性能を示すオプティマイザが得られたが,15.9kパラメータモデルに直面すると,高次元空間の探索に苦慮し,このような環境への適応の必要性が示唆された。

関連論文リスト

• Proximal Oracles for Optimization and Sampling [18.77973093341588]
  非滑らかな目的関数による凸最適化と非滑らかなポテンシャルによる対数凹型サンプリングについて検討する。 非滑らか性による課題を克服するため、アルゴリズムは最適化とサンプリングに2つの強力な近位フレームワークを用いる。
  論文  参考訳（メタデータ） (2024-04-02T18:52:28Z)
• Stein Boltzmann Sampling: A Variational Approach for Global Optimization [6.584366906288068]
  本稿では,Stein Boltzmann Sampling (SBS) と呼ばれる連続ソボレフ関数を大域的に最適化するフローベース手法を提案する。 ベンチマーク関数の最先端手法との詳細な比較は、SBSとその変種が競争力が高いことを示している。
  論文  参考訳（メタデータ） (2024-02-07T09:28:35Z)
• Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration [2.984929040246293]
  ガウス過程シュロゲートモデルの精度を高めるために、ランダムな探索ステップに依存する新しいノイズフリーベイズ最適化戦略。 新しいアルゴリズムは、古典的なGP-UCBの実装の容易さを維持しているが、さらなる探索がそれらの収束を促進する。
  論文  参考訳（メタデータ） (2024-01-30T14:16:06Z)
• Sample Complexity for Quadratic Bandits: Hessian Dependent Bounds and Optimal Algorithms [64.10576998630981]
  最適なヘッセン依存型サンプルの複雑さを, 初めて厳密に評価した。 ヘシアン非依存のアルゴリズムは、すべてのヘシアンインスタンスに対して最適なサンプル複雑さを普遍的に達成する。 本アルゴリズムにより得られたサンプルの最適複雑さは,重み付き雑音分布においても有効である。
  論文  参考訳（メタデータ） (2023-06-21T17:03:22Z)
• Distributed Sketching for Randomized Optimization: Exact Characterization, Concentration and Lower Bounds [54.51566432934556]
  我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。 ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
  論文  参考訳（メタデータ） (2022-03-18T05:49:13Z)
• High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
  アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。 非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。 そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
  論文  参考訳（メタデータ） (2021-06-10T17:54:21Z)
• Stochastic Learning Approach to Binary Optimization for Optimal Design of Experiments [0.0]
  本稿では,偏微分方程式などの数学モデルによるベイズ逆問題に対する最適実験設計 (OED) のための二項最適化への新しいアプローチを提案する。 OEDユーティリティ関数、すなわち正規化された最適性勾配はベルヌーイ分布に対する期待の形で目的関数にキャストされる。 この目的を確率的最適化ルーチンを用いて最適な観測方針を求めることで解決する。
  論文  参考訳（メタデータ） (2021-01-15T03:54:12Z)
• Convergence of adaptive algorithms for weakly convex constrained optimization [59.36386973876765]
  モローエンベロープの勾配のノルムに対して$mathcaltilde O(t-1/4)$収束率を証明する。 我々の分析では、最小バッチサイズが1ドル、定数が1位と2位のモーメントパラメータが1ドル、そしておそらくスムーズな最適化ドメインで機能する。
  論文  参考訳（メタデータ） (2020-06-11T17:43:19Z)
• Distributed Averaging Methods for Randomized Second Order Optimization [54.51566432934556]
  我々はヘッセン語の形成が計算的に困難であり、通信がボトルネックとなる分散最適化問題を考察する。 我々は、ヘッセンのサンプリングとスケッチを用いたランダム化二階最適化のための非バイアスパラメータ平均化手法を開発した。 また、不均一なコンピューティングシステムのための非バイアス分散最適化フレームワークを導入するために、二階平均化手法のフレームワークを拡張した。
  論文  参考訳（メタデータ） (2020-02-16T09:01:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。