論文の概要: Multi-Column RBF Neural Network Using Adaptive and Non-Adaptive Particle Swarm Optimization
- arxiv url: http://arxiv.org/abs/2606.05150v1
- Date: Wed, 03 Jun 2026 17:53:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.946909
- Title: Multi-Column RBF Neural Network Using Adaptive and Non-Adaptive Particle Swarm Optimization
- Title(参考訳): 適応粒子群最適化と非適応粒子群最適化を用いたマルチカラムRBFニューラルネットワーク
- Authors: Ammar Hoori, Yuichi Motai,
- Abstract要約: 降下勾配でトレーニングされた放射基底関数ニューラルネットワーク(RBFN)は、浅いネットワークと深いネットワークの両方で効果的に完全に接続された構造を提供する。
最先端の勾配に基づくトレーニング手法であるErrCorは、最適な隠れユニットを選択して精度を向上させる。
人口ベースアルゴリズムであるPSOは、RBFNパラメータを最適化するためにSwarmエクスペリエンスを使用し、グローバル検索とローカルミニマを提供する。
PSOを用いたマルチカラムRBFNとAPSOを用いたマルチカラムRBFNの2つの新しい手法を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The radial basis function neural network (RBFN) trained with a gradient descending algorithm provides an effective fully connected structure in both shallow and deep networks. The error correction (ErrCor), a state-of-the-art gradient-based training method, selects optimal hidden units to improve accuracy. Alternatively, as a population-based algorithm, the particle swarm optimization algorithm (PSO) uses the swarm experience to optimize RBFN parameters, offering global search and robustness to local minima. Adaptive PSO (APSO) has emerged as an improved variant of PSO. APSO algorithm improves convergence speed by dynamically adjusting swarm parameters during optimization. Both ErrCor and PSO demonstrate improved results and competitive convergence. However, with large datasets, these methods face scalability challenges such as excessive kernel computations and large hidden layer structures. A recent multi-column RBFN approach (MCRN) improves ErrCor performance by deploying small RBFNs in a parallel system. Inspired by MCRN's success, we propose two novel approaches to improve PSO performance: the multi-column RBFN with PSO (MC-PSO) and the multi-column RBFN with APSO (MC-APSO). These methods introduce parallel RBFN structures trained using evolutionary swarm methods. Each RBFN is independently trained on a specific spatial subset of the dataset using either PSO or APSO algorithms. These resulting specialist-trained RBFNs are tailored to their respective subsets. During testing, only selected RBFNs, where the test instance neighbors are located, contribute to the multi-column output. This specialization improves accuracy, while parallelism enhances speed. We evaluate the proposed methods on various benchmark datasets. The MC-PSO and MC-APSO outperform ErrCor, PSO, APSO, and MCRN in terms of accuracy and recall. They also demonstrate faster training and testing times in most experiments.
- Abstract(参考訳): 勾配降下アルゴリズムでトレーニングされた放射基底関数ニューラルネットワーク(RBFN)は、浅いネットワークと深いネットワークの両方において、効果的に完全に接続された構造を提供する。
最先端の勾配に基づくトレーニング手法である誤り訂正(ErrCor)は、最適隠れユニットを選択して精度を向上させる。
あるいは、人口ベースアルゴリズムとして、粒子群最適化アルゴリズム(PSO)は、RBFNパラメータを最適化するためにswarmエクスペリエンスを使用し、局所的なミニマに対してグローバル検索とロバスト性を提供する。
アダプティブPSO (Adaptive PSO) はPSOの改良型として登場した。
APSOアルゴリズムは最適化中にSwarmパラメータを動的に調整することで収束速度を改善する。
ErrCor と PSO はどちらも、結果の改善と競合収束を示した。
しかし、大規模なデータセットでは、これらの手法は過剰なカーネル計算や大きな隠蔽層構造といったスケーラビリティ上の課題に直面している。
最近のマルチカラムRBFNアプローチ(MCRN)は、小さなRBFNを並列システムにデプロイすることで、ErrCorの性能を向上させる。
MCRNの成功に触発されて,PSOを用いたマルチカラムRBFN (MC-PSO) とAPSOを用いたマルチカラムRBFN (MC-APSO) の2つの新しい手法を提案する。
これらの手法は、進化的Swarm法を用いて訓練された並列RBFN構造を導入する。
各RBFNは、PSOアルゴリズムまたはAPSOアルゴリズムを使用して、データセットの特定の空間サブセットに対して独立に訓練される。
これらの専門的な訓練を受けたRBFNはそれぞれのサブセットに合わせて調整される。
テスト中は、テストインスタンスが隣接している選択されたRBFNのみが、マルチカラム出力に寄与する。
この特殊化により精度が向上し、並列性により速度が向上する。
提案手法を様々なベンチマークデータセットで評価する。
MC-PSOとMC-APSOは精度とリコールの点でErrCor、PSO、APSO、MCRNを上回った。
また、ほとんどの実験では、より高速なトレーニングとテストの時間も示しています。
関連論文リスト
- Constrained Hybrid Metaheuristic Algorithm for Probabilistic Neural Networks Learning [0.3686808512438362]
本研究では、確率論的ニューラルネットワーク(PNN)のトレーニングを強化するためのハイブリッドメタヒューリスティックアルゴリズムの可能性について検討する。
勾配に基づくアプローチのような伝統的な学習手法は、しばしば高次元で不確実な環境を最適化するのに苦労する。
本稿では,複数の個体群に基づく最適化手法を組み合わせた制約付きハイブリッドメタヒューリスティック(cHM)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-01-26T19:49:16Z) - LeRF: Learning Resampling Function for Adaptive and Efficient Image Interpolation [64.34935748707673]
最近のディープニューラルネットワーク(DNN)は、学習データ前処理を導入することで、パフォーマンスを著しく向上させた。
本稿では,DNNが学習した構造的前提と局所的連続仮定の両方を活かした学習再サンプリング(Learning Resampling, LeRF)を提案する。
LeRFは空間的に異なる再サンプリング関数を入力画像ピクセルに割り当て、ニューラルネットワークを用いてこれらの再サンプリング関数の形状を予測する。
論文 参考訳(メタデータ) (2024-07-13T16:09:45Z) - Asymmetrically Decentralized Federated Learning [22.21977974314497]
分散フェデレーションラーニング(DFL)が出現し、ピアツーピア(P2P)通信フレームワークでサーバを破棄する。
本稿では,非対称トポロジに基づくPush-Awareプロトコルを用いたDFedSGPSMアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-08T09:46:26Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳(メタデータ) (2023-05-24T17:26:22Z) - Improved Algorithms for Neural Active Learning [74.89097665112621]
非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。
本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
論文 参考訳(メタデータ) (2022-10-02T05:03:38Z) - Reinforcement learning based parameters adaption method for particle
swarm optimization [0.0]
本稿では,PSOの収束性を高めるため,強化学習に基づくオンラインパラメータ適応法(RLAM)を開発した。
CEC 2013の28のベンチマーク関数に関する実験は、他のオンライン適応法やPSOの変種と比較する際に行われる。
以上の結果から,提案したRLAMは効率的かつ有効であり,提案したRLPSOは最先端のPSOよりも優れていることが示唆された。
論文 参考訳(メタデータ) (2022-06-02T02:16:15Z) - Neural Calibration for Scalable Beamforming in FDD Massive MIMO with
Implicit Channel Estimation [10.775558382613077]
チャネル推定とビームフォーミングは、周波数分割二重化(FDD)大規模マルチインプット多重出力(MIMO)システムにおいて重要な役割を果たす。
受信したアップリンクパイロットに応じて,基地局のビームフォーマを直接最適化する深層学習方式を提案する。
エンド・ツー・エンドの設計のスケーラビリティを向上させるために,ニューラルキャリブレーション法を提案する。
論文 参考訳(メタデータ) (2021-08-03T14:26:14Z) - LocalDrop: A Hybrid Regularization for Deep Neural Networks [98.30782118441158]
本稿では,ローカルラデマチャー複雑性を用いたニューラルネットワークの正規化のための新しい手法であるLocalDropを提案する。
フルコネクテッドネットワーク(FCN)と畳み込みニューラルネットワーク(CNN)の両方のための新しい正規化機能は、ローカルラデマチャー複雑さの上限提案に基づいて開発されました。
論文 参考訳(メタデータ) (2021-03-01T03:10:11Z) - PSO-PS: Parameter Synchronization with Particle Swarm Optimization for
Distributed Training of Deep Neural Networks [16.35607080388805]
我々はディープニューラルネットワーク(DNN)の分散トレーニングプロセスにParticle Swarm Optimizationを統合する新しいアルゴリズムを提案する。
提案アルゴリズムでは,粒子によって計算処理を符号化し,DNNの重みとトレーニング損失を粒子特性によってモデル化する。
各同期段階では、重みや勾配を平均化する代わりに、すべての労働者から集められたサブウェイトからPSOによって重みが更新される。
論文 参考訳(メタデータ) (2020-09-06T05:18:32Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。