論文の概要: Particle swarm optimization with state-based adaptive velocity limit
strategy
- arxiv url: http://arxiv.org/abs/2308.00936v1
- Date: Wed, 2 Aug 2023 04:33:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-03 14:00:31.282726
- Title: Particle swarm optimization with state-based adaptive velocity limit
strategy
- Title（参考訳）: 状態適応速度制限戦略を用いた粒子群最適化
- Authors: Xinze Li, Kezhi Mao, Fanfan Lin, Xin Zhang
- Abstract要約: 速度制限 (VL) は粒子群最適化 (PSO) の多くの変種で広く採用されており、粒子が溶液空間外を探索することを防いでいる。
この問題に対処するために、状態ベース適応速度制限戦略(PSO-SAVL)を用いた新しいPSO変種を提案する。
- 参考スコア（独自算出の注目度）: 7.713831667058407
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Velocity limit (VL) has been widely adopted in many variants of particle
swarm optimization (PSO) to prevent particles from searching outside the
solution space. Several adaptive VL strategies have been introduced with which
the performance of PSO can be improved. However, the existing adaptive VL
strategies simply adjust their VL based on iterations, leading to
unsatisfactory optimization results because of the incompatibility between VL
and the current searching state of particles. To deal with this problem, a
novel PSO variant with state-based adaptive velocity limit strategy (PSO-SAVL)
is proposed. In the proposed PSO-SAVL, VL is adaptively adjusted based on the
evolutionary state estimation (ESE) in which a high value of VL is set for
global searching state and a low value of VL is set for local searching state.
Besides that, limit handling strategies have been modified and adopted to
improve the capability of avoiding local optima. The good performance of
PSO-SAVL has been experimentally validated on a wide range of benchmark
functions with 50 dimensions. The satisfactory scalability of PSO-SAVL in
high-dimension and large-scale problems is also verified. Besides, the merits
of the strategies in PSO-SAVL are verified in experiments. Sensitivity analysis
for the relevant hyper-parameters in state-based adaptive VL strategy is
conducted, and insights in how to select these hyper-parameters are also
discussed.
- Abstract（参考訳）: 速度制限 (VL) は粒子群最適化 (PSO) の多くの変種で広く採用されており、粒子が溶液空間外を探索することを防いでいる。
いくつかの適応型VL戦略を導入し、PSOの性能を改善した。
しかしながら、既存の適応VL戦略は、単に繰り返しに基づいてVLを調整するだけで、VLと現在の粒子の探索状態との相容れないため、不満足な最適化結果をもたらす。
この問題に対処するために、状態ベース適応速度制限戦略(PSO-SAVL)を用いた新しいPSO変種を提案する。
提案したPSO-SAVLでは、大域探索状態に対してVLの高値が設定され、局所探索状態に対してVLの低値が設定される進化状態推定(ESE)に基づいて、VLを適応的に調整する。
さらに、ローカルな最適化を避ける能力を改善するために制限処理戦略が修正され、採用されている。
PSO-SAVLの性能は50次元の幅広いベンチマーク関数で実験的に検証されている。
PSO-SAVLの高次元および大規模問題におけるスケーラビリティも検証した。
さらにPSO-SAVLの戦略の利点を実験で検証した。
状態ベース適応型VL戦略における関連するハイパーパラメータの感度分析を行い、これらのハイパーパラメータの選択方法に関する洞察についても述べる。
関連論文リスト
- VLRewardBench: A Challenging Benchmark for Vision-Language Generative Reward Models [66.56298924208319]
視覚言語生成報酬モデル(VL-GenRM)は、マルチモーダルAIシステムの調整と評価において重要な役割を果たす。
現在のアセスメント手法は、従来のタスクからAIアノテートされた好みラベルに依存している。
VL-RewardBenchは、一般的なマルチモーダルクエリ、視覚幻覚検出、複雑な推論タスクにまたがるベンチマークである。
論文 参考訳（メタデータ） (2024-11-26T14:08:34Z) - Direct Preference Optimization Using Sparse Feature-Level Constraints [47.15096507230884]
特徴レベルの制約付き優先度最適化は、安定性を確保しつつアライメントプロセスを簡素化するために設計された新しい手法である。
提案手法は、訓練されたスパースオートエンコーダで活性化されるスパース機能と、逐次KL分散の品質を用いて効率を向上する。
論文 参考訳（メタデータ） (2024-11-12T07:54:13Z) - Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。
過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。
報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
論文 参考訳（メタデータ） (2024-05-26T05:38:50Z) - Floorplanning of VLSI by Mixed-Variable Optimization [42.82770651937298]
本稿では,混合変数のフロアプランニング問題を解くためのメメティックアルゴリズムを提案する。
提案アルゴリズムは、著名なB*木に基づくフロアプランニングアルゴリズムよりも優れている。
論文 参考訳（メタデータ） (2024-01-27T06:34:16Z) - Efficient Federated Learning via Local Adaptive Amended Optimizer with
Linear Speedup [90.26270347459915]
そこで我々は,グローバル・アダプティカル・アダプティカル・アダプティカル・アダプティカル・アダプティカル・アルゴリズムを提案する。
textitLADAは通信ラウンドを大幅に削減し、複数のベースラインよりも高い精度を実現する。
論文 参考訳（メタデータ） (2023-07-30T14:53:21Z) - Near-optimal Policy Identification in Active Reinforcement Learning [84.27592560211909]
AE-LSVI はカーネル化された最小二乗値 RL (LSVI) アルゴリズムの新しい変種であり、楽観主義と悲観主義を組み合わせて活発な探索を行う。
AE-LSVIは初期状態に対するロバスト性が必要な場合、様々な環境で他のアルゴリズムよりも優れていることを示す。
論文 参考訳（メタデータ） (2022-12-19T14:46:57Z) - Fast Adaptive Federated Bilevel Optimization [14.579475552088692]
本稿では,分散二レベル最適化問題の解法として,適応型二レベル最適化アルゴリズム(AdaFBiO)を提案する。
AdaFBiOは、統一適応行列を用いて、様々な適応学習率を柔軟に組み込んで、ULおよびLL問題の変数を更新する。
AdaFBiOアルゴリズムの収束解析フレームワークを提供し、$tildeO(epsilon-3)$の複雑さと$tildeO(epsilon-2)$のコミュニケーション複雑さのサンプルが必要であることを証明した。
論文 参考訳（メタデータ） (2022-11-02T13:55:47Z) - Capacity Optimality of OAMP in Coded Large Unitarily Invariant Systems [9.101719525164803]
本稿では、単位不変感センサ行列、任意の信号分布、前方誤り制御(FEC)符号化を含む単位不変システム(LUIS)について検討する。
最適化符号を用いたOAMPは、最適化されていない符号とよく知られたTurbo linear MMSEアルゴリズムよりも大幅に性能が向上していることを示す。
論文 参考訳（メタデータ） (2022-06-23T13:11:20Z) - Value Function Based Difference-of-Convex Algorithm for Bilevel
Hyperparameter Selection Problems [5.940592509070767]
不確定性(VF-iDCA)を有する逐次収束値に基づく差分関数アルゴリズムを開発する。
実験の結果,提案したVF-iDCAはハイパーパラメータのチューニングに際し,優れた性能を示すことがわかった。
論文 参考訳（メタデータ） (2022-06-13T08:51:10Z) - Value-Function-based Sequential Minimization for Bi-level Optimization [52.39882976848064]
勾配に基づくBi-Level Optimization (BLO)法は、現代の学習課題に広く応用されている。
機能的制約のあるBLOや悲観的なBLOなど、難解なシナリオでBLOを解くことができる勾配ベースの方法はほとんどない。
上記の問題に対処するために,BVFSM(Bi-level Value-Function-based Sequential Minimization)を提案する。
論文 参考訳（メタデータ） (2021-10-11T03:13:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。