論文の概要: The Convergence Indicator: Improved and completely characterized
parameter bounds for actual convergence of Particle Swarm Optimization
- arxiv url: http://arxiv.org/abs/2006.03944v1
- Date: Sat, 6 Jun 2020 19:08:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 21:41:33.133549
- Title: The Convergence Indicator: Improved and completely characterized
parameter bounds for actual convergence of Particle Swarm Optimization
- Title(参考訳): Convergence Indicator: Particle Swarm Optimizationの実際の収束のための改良および完全に特徴づけられたパラメータ境界
- Authors: Bernd Bassimir, Alexander Ra{\ss}, Rolf Wanka
- Abstract要約: 我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。
この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
- 参考スコア(独自算出の注目度): 68.8204255655161
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Particle Swarm Optimization (PSO) is a meta-heuristic for continuous
black-box optimization problems. In this paper we focus on the convergence of
the particle swarm, i.e., the exploitation phase of the algorithm. We introduce
a new convergence indicator that can be used to calculate whether the particles
will finally converge to a single point or diverge. Using this convergence
indicator we provide the actual bounds completely characterizing parameter
regions that lead to a converging swarm. Our bounds extend the parameter
regions where convergence is guaranteed compared to bounds induced by
converging variance which are usually used in the literature. To evaluate our
criterion we describe a numerical approximation using cubic spline
interpolation. Finally we provide experiments showing that our concept,
formulas and the resulting convergence bounds represent the actual behavior of
PSO.
- Abstract(参考訳): particle swarm optimization (pso) は連続ブラックボックス最適化問題に対するメタヒューリスティックである。
本稿では,粒子群,すなわちアルゴリズムの活用段階の収束に着目する。
我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。
この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
我々の境界は、収束が保証されるパラメータ領域を、通常文献で用いられる収束分散によって引き起こされる境界と比較して拡張する。
本稿では,立方体スプライン補間による数値近似について述べる。
最後に、我々の概念、公式および結果の収束境界がPSOの実際の挙動を表すことを示す実験を提供する。
関連論文リスト
- Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。
また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
論文 参考訳(メタデータ) (2023-04-27T06:27:37Z) - Non-asymptotic convergence bounds for Sinkhorn iterates and their
gradients: a coupling approach [10.568851068989972]
本稿では,アルゴリズムの効率的な解法を実現するために,元のOT問題であるエントロピックOT問題の緩和に焦点をあてる。
この定式化はSchr"odinger Bridge問題としても知られ、特に最適制御(SOC)と結びつき、人気のあるシンクホーンアルゴリズムで解くことができる。
論文 参考訳(メタデータ) (2023-04-13T13:58:25Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - A lower confidence sequence for the changing mean of non-negative right
heavy-tailed observations with bounded mean [9.289846887298854]
信頼シーケンスは、時間パラメトリックカバレッジ保証付き予測可能なパラメータシーケンスに対する適応されたセット列を生成する。
この研究は、スラックが0に収束するランニング平均条件付き期待値に対して、漸近的でない低CSを構成する。
論文 参考訳(メタデータ) (2022-10-20T09:50:05Z) - High Probability Convergence for Accelerated Stochastic Mirror Descent [29.189409618561964]
領域の直径に対して最適解への初期距離に依存する境界による高確率収束を示す。
アルゴリズムは標準設定に類似したステップサイズを使用し、リプシッツ関数、滑らかな関数、およびそれらの線形結合に普遍的である。
論文 参考訳(メタデータ) (2022-10-03T01:50:53Z) - On the Convergence of AdaGrad(Norm) on $\R^{d}$: Beyond Convexity,
Non-Asymptotic Rate and Acceleration [33.247600151322466]
我々は、滑らかな凸関数の標準設定において、AdaGradとその変種についてより深く理解する。
まず、制約のない問題に対して、バニラ AdaGrad の収束率を明示的に拘束する新しい手法を示す。
第二に、平均的な反復ではなく、最後の反復の収束を示すことのできる AdaGrad の変種を提案する。
論文 参考訳(メタデータ) (2022-09-29T14:44:40Z) - Minibatch vs Local SGD with Shuffling: Tight Convergence Bounds and
Beyond [63.59034509960994]
シャッフルに基づく変種(ミニバッチと局所ランダムリシャッフル)について検討する。
ポリアック・ロジャシエヴィチ条件を満たす滑らかな函数に対して、これらのシャッフル型不変量(英語版)(shuffling-based variants)がそれらの置換式よりも早く収束することを示す収束境界を得る。
我々は, 同期シャッフル法と呼ばれるアルゴリズムの修正を提案し, ほぼ均一な条件下では, 下界よりも収束速度が速くなった。
論文 参考訳(メタデータ) (2021-10-20T02:25:25Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Proximal Gradient Descent-Ascent: Variable Convergence under K{\L}
Geometry [49.65455534654459]
有限降下指数パラメータ (GDA) はミニマックス最適化問題の解法として広く応用されている。
本稿では、KL-L型幾何学の収束を研究することにより、そのようなギャップを埋める。
論文 参考訳(メタデータ) (2021-02-09T05:35:53Z) - Convergence of Gradient Algorithms for Nonconvex $C^{1+\alpha}$ Cost
Functions [2.538209532048867]
勾配が収束する副生成物を示し、収束率に明示的な上限を与える。
これにより、ドオブマルティンの超ガレ収束定理によるほぼ確実な収束を証明できる。
論文 参考訳(メタデータ) (2020-12-01T16:48:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。