論文の概要: \chisao{}: A GPU-Native Parallel Optimizer for Multimodal Black-Box Functions via Convergence-Anticonvergence Oscillation
- arxiv url: http://arxiv.org/abs/2606.26164v1
- Date: Wed, 24 Jun 2026 06:33:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.018039
- Title: \chisao{}: A GPU-Native Parallel Optimizer for Multimodal Black-Box Functions via Convergence-Anticonvergence Oscillation
- Title(参考訳): \chisao{}: Convergence-Anticonvergence Oscillationによるマルチモーダルブラックボックス関数に対するGPU-Native Parallel Optimizer
- Abstract要約: Chisaoはサンプルバッチ全体を同時に実行し、意図的な収束対収束サイクルを活用する。
Chisaoは textbf100% モードのリカバリを実現しており、CPUベースラインはすべて$d geq 8$で崩壊する。
このアルゴリズムは、PyPI上のスタンドアロンのPythonパッケージとして利用できる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Finding all modes of a multimodal black-box function is a fundamental challenge in optimization, Bayesian inference, and scientific computing. Existing approaches -- basin-hopping, CMA-ES, multistart gradient descent -- operate sequentially and cannot exploit the massive parallelism of modern GPU hardware. We introduce \chisao{} (\textbf{C}onvergence-\textbf{H}alt-\textbf{I}nvert-\textbf{S}tick-\textbf{A}nd-\textbf{O}scillate), a GPU-native population optimizer that runs an entire sample batch simultaneously and exploits a deliberate convergence-anticonvergence oscillation cycle to escape local traps while freezing confirmed modes. The structural move is asymmetric: samples that reach true peaks are frozen (``stuck'') and preserved, while the rest keep exploring via momentum-based anti-convergence and stochastically smoothed gradients. Adaptive reseeding via two complementary strategies (Repulse Monkey and Golden Rooster) maintains population diversity throughout. On all 42 functions of the Simon Fraser University optimization benchmark suite across dimensions $d \in \{2, 4, 8, 16, 32, 64\}$, \chisao{} achieves \textbf{100\%} mode recovery where all CPU baselines collapse at $d \geq 8$ on the hardest multimodal functions, at up to \textbf{$34\times$} speedup over basin-hopping on functions where all methods succeed (Michalewicz $d=64$) and up to \textbf{$39\times$} on unimodal functions (Rotated Hyper-Ellipsoid $d=64$, pure GPU dividend). All benchmarks evaluate the objective by value alone -- gradients come from finite differences -- so the reported speedups are a derivative-free worst case. Under substantial likelihood noise ($σ_{\mathrm{noise}}$ up to 1.0), mode detection remains 100\% reliable. The algorithm is available as a standalone open-source Python package on PyPI.
- Abstract(参考訳): マルチモーダルブラックボックス関数のすべてのモードを見つけることは、最適化、ベイズ推論、科学計算における根本的な課題である。
既存のアプローチ – 盆地ホッピング,CMA-ES,マルチスタート勾配降下 – は順次動作し,現代的なGPUハードウェアの大規模な並列性を活用できない。
サンプルバッチ全体を同時に実行するGPUネイティブな集団オプティマイザである\chisao{} (\textbf{C}onvergence-\textbf{H}alt-\textbf{I}nvert-\textbf{S}tick-\textbf{A}nd-\textbf{O}scillate)を導入し、確認モードを凍結しながら、意図的に収束反収束振動サイクルを利用してローカルトラップから逃れる。
構造的な移動は非対称であり、真のピークに達するサンプルは凍って保存され、残りは運動量に基づく反収束と確率論的に滑らかな勾配を通して探索される。
Repulse MonkeyとGolden Roosterの2つの補完戦略による適応的な再観光は、全人口の多様性を維持している。
サイモンフレーザー大学の最適化ベンチマークスイートの42の関数すべてに対して、$d \in \{2, 4, 8, 16, 32, 64\}$, \chisao{} は \textbf{100\%} モードのリカバリを達成し、すべてのCPUベースラインが$d \geq 8$ のハードなマルチモーダル関数上で、最大で \textbf{$34\times$} まで、すべてのメソッドが成功する関数上での盆地ホッピングのスピードアップ(Michalewicz $d=64$)、そして、unimodal関数上での \textbf{$39\times$} が達成される(Rotated Hyper-Ellipsoid $d=64$, pure GPU dividend)。
すべてのベンチマークは、値だけで目的を評価する -- 勾配は有限差によるもの -- なので、報告されたスピードアップはデリバティブフリーの最悪のケースである。
かなり確実なノイズ(σ_{\mathrm{noise}}$ up to 1.0)の下では、モード検出は100%信頼性が保たれている。
このアルゴリズムは、PyPI上のスタンドアロンのPythonパッケージとして利用できる。
関連論文リスト
- Decentralized Stochastic Nonconvex Optimization under the Relaxed Smoothness [21.090579632247707]
分散正規化勾配勾配(DNS)という新しいアルゴリズムを提案する。
DNSは各ローカルエージェントで$bold$ilonポイントを達成することができる。
以上より, $mathcal O(m-1(L_fsigma2Delta_fepsilon-4 + sigma2epsilon-2 + L_f-1)$ per agent。
論文 参考訳(メタデータ) (2025-09-10T16:17:19Z) - Two-Timescale Gradient Descent Ascent Algorithms for Nonconvex Minimax Optimization [77.3396841985172]
我々は、構造化された非極小最適化問題の解法として、2時間勾配上昇(TTGDA)を統一的に解析する。
我々の貢献はTTGDAアルゴリズムを設計することであり、設定を超えて効果的です。
論文 参考訳(メタデータ) (2024-08-21T20:14:54Z) - Beyond Uniform Smoothness: A Stopped Analysis of Adaptive SGD [38.221784575853796]
この研究は、勾配を用いて潜在的に一定の滑らかさを持つ非アトー関数の1次定常点を求める問題を考える。
我々は、ノイズに一様境界を仮定することなく$mathcalO(fracmathrmpolylog(T)sigmatT)$収束率を証明できる技術を開発した。
論文 参考訳(メタデータ) (2023-02-13T18:13:36Z) - ReSQueing Parallel and Private Stochastic Convex Optimization [59.53297063174519]
本稿では,BFG凸最適化(SCO: Reweighted Query (ReSQue) 推定ツールを提案する。
我々はSCOの並列およびプライベート設定における最先端の複雑さを実現するアルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-01-01T18:51:29Z) - Asynchronous Stochastic Optimization Robust to Arbitrary Delays [54.61797739710608]
遅延勾配の最適化を考えると、ステップt$毎に、アルゴリズムは古い計算を使って更新する - d_t$ for arbitrary delay $d_t gradient。
本実験は,遅延分布が歪んだり重くなったりした場合のアルゴリズムの有効性とロバスト性を示す。
論文 参考訳(メタデータ) (2021-06-22T15:50:45Z) - Finding Global Minima via Kernel Approximations [90.42048080064849]
関数評価のみに基づく滑らかな関数のグローバル最小化を考える。
本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
論文 参考訳(メタデータ) (2020-12-22T12:59:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。