論文の概要: \chisao{}: A GPU-Native Parallel Optimizer for Multimodal Black-Box Functions via Convergence-Anticonvergence Oscillation
- arxiv url: http://arxiv.org/abs/2606.26164v1
- Date: Wed, 24 Jun 2026 06:33:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 18:46:32.018039
- Title: \chisao{}: A GPU-Native Parallel Optimizer for Multimodal Black-Box Functions via Convergence-Anticonvergence Oscillation
- Title（参考訳）: \chisao{}: Convergence-Anticonvergence Oscillationによるマルチモーダルブラックボックス関数に対するGPU-Native Parallel Optimizer
- Abstract要約: Chisaoはサンプルバッチ全体を同時に実行し、意図的な収束対収束サイクルを活用する。
Chisaoは textbf100% モードのリカバリを実現しており、CPUベースラインはすべて$d geq 8$で崩壊する。
このアルゴリズムは、PyPI上のスタンドアロンのPythonパッケージとして利用できる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Finding all modes of a multimodal black-box function is a fundamental challenge in optimization, Bayesian inference, and scientific computing. Existing approaches -- basin-hopping, CMA-ES, multistart gradient descent -- operate sequentially and cannot exploit the massive parallelism of modern GPU hardware. We introduce \chisao{} (\textbf{C}onvergence-\textbf{H}alt-\textbf{I}nvert-\textbf{S}tick-\textbf{A}nd-\textbf{O}scillate), a GPU-native population optimizer that runs an entire sample batch simultaneously and exploits a deliberate convergence-anticonvergence oscillation cycle to escape local traps while freezing confirmed modes. The structural move is asymmetric: samples that reach true peaks are frozen (``stuck'') and preserved, while the rest keep exploring via momentum-based anti-convergence and stochastically smoothed gradients. Adaptive reseeding via two complementary strategies (Repulse Monkey and Golden Rooster) maintains population diversity throughout. On all 42 functions of the Simon Fraser University optimization benchmark suite across dimensions $d \in \{2, 4, 8, 16, 32, 64\}$, \chisao{} achieves \textbf{100\%} mode recovery where all CPU baselines collapse at $d \geq 8$ on the hardest multimodal functions, at up to \textbf{$34\times$} speedup over basin-hopping on functions where all methods succeed (Michalewicz $d=64$) and up to \textbf{$39\times$} on unimodal functions (Rotated Hyper-Ellipsoid $d=64$, pure GPU dividend). All benchmarks evaluate the objective by value alone -- gradients come from finite differences -- so the reported speedups are a derivative-free worst case. Under substantial likelihood noise ($σ_{\mathrm{noise}}$ up to 1.0), mode detection remains 100\% reliable. The algorithm is available as a standalone open-source Python package on PyPI.
- Abstract（参考訳）: マルチモーダルブラックボックス関数のすべてのモードを見つけることは、最適化、ベイズ推論、科学計算における根本的な課題である。
既存のアプローチ – 盆地ホッピング,CMA-ES,マルチスタート勾配降下 – は順次動作し,現代的なGPUハードウェアの大規模な並列性を活用できない。
サンプルバッチ全体を同時に実行するGPUネイティブな集団オプティマイザである\chisao{} (\textbf{C}onvergence-\textbf{H}alt-\textbf{I}nvert-\textbf{S}tick-\textbf{A}nd-\textbf{O}scillate)を導入し、確認モードを凍結しながら、意図的に収束反収束振動サイクルを利用してローカルトラップから逃れる。
構造的な移動は非対称であり、真のピークに達するサンプルは凍って保存され、残りは運動量に基づく反収束と確率論的に滑らかな勾配を通して探索される。
Repulse MonkeyとGolden Roosterの2つの補完戦略による適応的な再観光は、全人口の多様性を維持している。
サイモンフレーザー大学の最適化ベンチマークスイートの42の関数すべてに対して、$d \in \{2, 4, 8, 16, 32, 64\}$, \chisao{} は \textbf{100\%} モードのリカバリを達成し、すべてのCPUベースラインが$d \geq 8$ のハードなマルチモーダル関数上で、最大で \textbf{$34\times$} まで、すべてのメソッドが成功する関数上での盆地ホッピングのスピードアップ(Michalewicz $d=64$)、そして、unimodal関数上での \textbf{$39\times$} が達成される(Rotated Hyper-Ellipsoid $d=64$, pure GPU dividend)。
すべてのベンチマークは、値だけで目的を評価する -- 勾配は有限差によるもの -- なので、報告されたスピードアップはデリバティブフリーの最悪のケースである。
かなり確実なノイズ(σ_{\mathrm{noise}}$ up to 1.0)の下では、モード検出は100%信頼性が保たれている。
このアルゴリズムは、PyPI上のスタンドアロンのPythonパッケージとして利用できる。
関連論文リスト
- Solving Finite-sum Coupled Compositional Optimization via Multi-block-Single-probe Estimator [41.84305838914204]
そこで,新しいMSVR推定器は,複雑さを$mathcalO(1)$ブロックに効率的にトレースすることを示した。
また、外関数勾配が勾配であるときの$m$への依存も改善する。
マルチタスク深度AUCに関する実証研究は,提案した線形推定器の優れた性能を示す。
論文 参考訳（メタデータ） (2026-09-14T15:21:32Z) - Variance-Reduced Conditional Gradient Methods under Markovian Sampling for Nonconvex Composite Optimization [0.0]
我々は,1つのエルゴード連鎖に対する非制約モンテカルロ最適化を新たに提案する。
特に、一般化されたCarlo-Wolfevious gradient $MC-ALFCFCを用いてプロジェクションフリー設定に対処する。
本手法は,期待されるサンプルの複雑さを$widetildeO(_mathrmmix2G_+_mathrmmix5G_2)varepsilon-3+_mathrmmix5varepsilon-2で実現することを示す。
論文 参考訳（メタデータ） (2026-07-28T14:37:47Z) - Decentralized Stochastic Nonconvex Optimization under the Relaxed Smoothness [21.090579632247707]
分散正規化勾配勾配(DNS)という新しいアルゴリズムを提案する。
DNSは各ローカルエージェントで$bold$ilonポイントを達成することができる。
以上より, $mathcal O(m-1(L_fsigma2Delta_fepsilon-4 + sigma2epsilon-2 + L_f-1)$ per agent。
論文 参考訳（メタデータ） (2025-09-10T16:17:19Z) - Two-Timescale Gradient Descent Ascent Algorithms for Nonconvex Minimax Optimization [77.3396841985172]
我々は、構造化された非極小最適化問題の解法として、2時間勾配上昇(TTGDA)を統一的に解析する。
我々の貢献はTTGDAアルゴリズムを設計することであり、設定を超えて効果的です。
論文 参考訳（メタデータ） (2024-08-21T20:14:54Z) - Beyond Uniform Smoothness: A Stopped Analysis of Adaptive SGD [38.221784575853796]
この研究は、勾配を用いて潜在的に一定の滑らかさを持つ非アトー関数の1次定常点を求める問題を考える。
我々は、ノイズに一様境界を仮定することなく$mathcalO(fracmathrmpolylog(T)sigmatT)$収束率を証明できる技術を開発した。
論文 参考訳（メタデータ） (2023-02-13T18:13:36Z) - ReSQueing Parallel and Private Stochastic Convex Optimization [59.53297063174519]
本稿では,BFG凸最適化(SCO: Reweighted Query (ReSQue) 推定ツールを提案する。
我々はSCOの並列およびプライベート設定における最先端の複雑さを実現するアルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-01-01T18:51:29Z) - Sharper Convergence Guarantees for Asynchronous SGD for Distributed and
Federated Learning [77.22019100456595]
通信周波数の異なる分散計算作業者のトレーニングアルゴリズムを示す。
本研究では,より厳密な収束率を$mathcalO!!(sigma2-2_avg!)とする。
また,不均一性の項は,作業者の平均遅延によっても影響されることを示した。
論文 参考訳（メタデータ） (2022-06-16T17:10:57Z) - Continuous Submodular Maximization: Boosting via Non-oblivious Function [12.755674710719616]
本稿では、オフラインおよびオンライン設定の両方において制約付きおよび連続的なサブモジュールイテレーションを再考する。
係数回帰最適化方程式を用いて、問題$max_boldsymbolxinmathCf(boldsymbolx)$に対して最適な補助関数$F$を導出する。
オンライン環境では、勾配フィードバックアルゴリズムの強化を提案し、$sqrtD$($D$は勾配フィードバックが$(fracgamma2)$に対する遅延の総和である)を後悔する。
論文 参考訳（メタデータ） (2022-01-03T15:10:17Z) - Asynchronous Stochastic Optimization Robust to Arbitrary Delays [54.61797739710608]
遅延勾配の最適化を考えると、ステップt$毎に、アルゴリズムは古い計算を使って更新する - d_t$ for arbitrary delay $d_t gradient。
本実験は,遅延分布が歪んだり重くなったりした場合のアルゴリズムの有効性とロバスト性を示す。
論文 参考訳（メタデータ） (2021-06-22T15:50:45Z) - Finding Global Minima via Kernel Approximations [90.42048080064849]
関数評価のみに基づく滑らかな関数のグローバル最小化を考える。
本稿では,近似関数を共同でモデル化し,大域的最小値を求める手法を検討する。
論文 参考訳（メタデータ） (2020-12-22T12:59:30Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳（メタデータ） (2020-05-29T07:20:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。