論文の概要: Efficient Fireworks Algorithm Equipped with an Explosion Mechanism based on Student's T-distribution

• arxiv url: http://arxiv.org/abs/2506.08484v1
• Date: Tue, 10 Jun 2025 06:14:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-11 15:11:41.662774
• Title: Efficient Fireworks Algorithm Equipped with an Explosion Mechanism based on Student's T-distribution
• Title（参考訳）: 学生のT分布に基づく爆発機構を備えた効率的な花火アルゴリズム
• Authors: Cen Shipeng, Tan Ying,
• Abstract要約: 多くの実世界の問題は最適化問題に変換でき、凸問題と非分布問題に分類できる。 多くの非分配問題に関連するアルゴリズムは、うまく機能するだけでなく、さらなる最適化技術が必要である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many real-world problems can be transformed into optimization problems, which can be classified into convex and non-convex. Although convex problems are almost completely studied in theory, many related algorithms to many non-convex problems do not work well and we need more optimization techniques. As a swarm intelligence optimization algorithm, the Fireworks Algorithm(FWA) has been widely studied and applied to many real-world scenarios, even including large language model fine-tuning. But the current fireworks algorithm still has a number of problems. Firstly, as a heuristic algorithm, its performance on convex problems cannot match the SOTA results, and can even be said to be unsatisfactory; secondly, the sampling methods (explosion) of most FWA variants are still uniform sampling, which is actually inefficient in high dimensional cases. This work of ours proposes a new student's t-distribution based FWA(TFWA) with a solid theoretical foundation, which fully utilizes the advantage that student's t-distribution can adjust the parameters (degrees of freedom) and thus adjust the exploitation capability. We have fully experimented on mainstream benchmarks CEC2013 and CEC2017, which proves that TFWA not only becomes the strongest variant of the fireworks algorithm, but also achieves results comparable to SOTA on the test set, and its performance is far superior to that of the SOTA algorithm in some scenarios with a large number of extreme points.
• Abstract（参考訳）: 多くの実世界の問題は最適化問題に変換することができ、凸と非凸に分類することができる。 凸問題は理論上はほとんど完全に研究されているが、多くの非凸問題に関連する多くのアルゴリズムはうまく機能せず、さらなる最適化技術が必要である。 Swarmインテリジェンス最適化アルゴリズムとして、ファイアワークスアルゴリズム(FWA)は、大規模な言語モデルの微調整を含む多くの実世界のシナリオに広く研究され、適用されてきた。 しかし、現在の花火のアルゴリズムには、まだ多くの問題がある。 第一に、ヒューリスティックなアルゴリズムとして、凸問題におけるその性能はSOTAの結果と一致せず、しかも満足できないとも言える。第二に、ほとんどのFWA変種におけるサンプリング法(露光)は、まだ一様サンプリングであり、これは高次元の場合では非効率である。 本研究は, 生徒のt分布がパラメータ(自由度)を調節し, 利用能力を調節できるという利点を十分に生かした, 理論基礎を持つ新しい学生のt分布に基づくFWA(TFWA)を提案する。 CEC2013 と CEC2017 では,TFWA が花火アルゴリズムの最も強力な変種となるだけでなく,試験セットにおける SOTA に匹敵する結果が得られること,また,その性能が極端点の多いいくつかのシナリオにおいて SOTA アルゴリズムよりもはるかに優れていることを証明した。

関連論文リスト

• Can Decentralized Stochastic Minimax Optimization Algorithms Converge Linearly for Finite-Sum Nonconvex-Nonconcave Problems? [56.62372517641597]
  分散化されたミニマックス最適化は、幅広い機械学習に応用されているため、ここ数年で活発に研究されている。 本稿では,非コンカブ問題に対する2つの新しい分散化ミニマックス最適化アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-04-24T02:19:39Z)
• Sarah Frank-Wolfe: Methods for Constrained Optimization with Best Rates and Practical Features [65.64276393443346]
  Frank-Wolfe (FW) 法は、構造化制約による最適化問題の解法として一般的な手法である。 有限サム勾配の最小化のためのアルゴリズムの2つの新しい変種を示す。
  論文  参考訳（メタデータ） (2023-04-23T20:05:09Z)
• A Lite Fireworks Algorithm for Optimization [0.913755431537592]
  本稿では,Fireworks Algorithmの簡易版を提案する。 花火アルゴリズムの爆発演算子を再設計することで、アルゴリズムパラメータの数を削減できる。 局所的な採掘能力と地球規模の探査能力のバランスをとるために、歴史的な最適情報を用いて適応的な爆発半径を構築する。
  論文  参考訳（メタデータ） (2023-01-07T07:12:17Z)
• A Single-Loop Gradient Descent and Perturbed Ascent Algorithm for Nonconvex Functional Constrained Optimization [35.003192679045675]
  制約のない不等式問題は、マルチクラスネイマンオラクルのような多くの機械学習問題をモデル化するために用いられる。 このような緩やかな規則性の条件下では、値損失の交互化と制約違反の低減のバランスをとることは困難である。 本稿では,新しい不等式制約問題アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-07-12T16:30:34Z)
• Duck swarm algorithm: theory, numerical optimization, and applications [6.244015536594532]
  本研究では,Duck Swarm Algorithm (DSA) という,群知能に基づく最適化アルゴリズムを提案する。 2つのルールは、提案されたDSAの探索と利用段階に対応するアヒルの餌の発見と採餌からモデル化される。 その結果, DSAは収束速度と探索・探索のバランスの観点から, 高性能な最適化手法であることがわかった。
  論文  参考訳（メタデータ） (2021-12-27T04:53:36Z)
• Optimization-Based GenQSGD for Federated Edge Learning [12.371264770814097]
  我々は、連合学習(FL)のための一般化された並列最小バッチ収束降下(SGD)アルゴリズムを提案する。 我々は,時間収束誤差の下でのエネルギーコストを最小限に抑えるために,アルゴリズムパラメータを最適化する。 その結果,既存のFLアルゴリズムよりも有意な利得が得られた。
  論文  参考訳（メタデータ） (2021-10-25T14:25:11Z)
• An Accelerated Variance-Reduced Conditional Gradient Sliding Algorithm for First-order and Zeroth-order Optimization [111.24899593052851]
  条件勾配アルゴリズム(Frank-Wolfeアルゴリズムとも呼ばれる)は、最近、機械学習コミュニティで人気を取り戻している。 ARCSは、ゼロ階最適化において凸問題を解く最初のゼロ階条件勾配スライディング型アルゴリズムである。 1次最適化では、ARCSの収束結果は、勾配クエリのオラクルの数で、従来のアルゴリズムよりも大幅に優れていた。
  論文  参考訳（メタデータ） (2021-09-18T07:08:11Z)
• Minimax Optimization with Smooth Algorithmic Adversaries [59.47122537182611]
  対戦相手が展開するスムーズなアルゴリズムに対して,Min-playerの新しいアルゴリズムを提案する。 本アルゴリズムは,制限周期のない単調進行を保証し,適切な勾配上昇数を求める。
  論文  参考訳（メタデータ） (2021-06-02T22:03:36Z)
• Adaptivity of Stochastic Gradient Methods for Nonconvex Optimization [71.03797261151605]
  適応性は現代最適化理論において重要であるが、研究されていない性質である。 提案アルゴリズムは,PL目標に対して既存のアルゴリズムよりも優れた性能を保ちながら,PL目標に対して最適な収束性を実現することを実証した。
  論文  参考訳（メタデータ） (2020-02-13T05:42:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。