論文の概要: Colony-Enhanced Recurrent Neural Architecture Search: Collaborative
Ant-Based Optimization
- arxiv url: http://arxiv.org/abs/2401.17480v1
- Date: Tue, 30 Jan 2024 22:27:31 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-01 16:17:37.451994
- Title: Colony-Enhanced Recurrent Neural Architecture Search: Collaborative
Ant-Based Optimization
- Title（参考訳）: Colony-Enhanced Recurrent Neural Architecture Search: Collaborative Ant-Based Optimization
- Authors: Abdelrahman Elsaid
- Abstract要約: 本稿では,協調型Antベースニューラルトポロジーサーチ(CANTS-N)を紹介する。
この革新的なアプローチでは、Antにインスパイアされたエージェントがニューラルネットワーク構造を慎重に構築し、動的環境内で動的に適応する。
CANTS-Nは、ニューラルアーキテクチャサーチ(NAS)とニューラル進化(NE)のランドスケープを再構築する可能性を持っている
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Crafting neural network architectures manually is a formidable challenge
often leading to suboptimal and inefficient structures. The pursuit of the
perfect neural configuration is a complex task, prompting the need for a
metaheuristic approach such as Neural Architecture Search (NAS). Drawing
inspiration from the ingenious mechanisms of nature, this paper introduces
Collaborative Ant-based Neural Topology Search (CANTS-N), pushing the
boundaries of NAS and Neural Evolution (NE). In this innovative approach,
ant-inspired agents meticulously construct neural network structures,
dynamically adapting within a dynamic environment, much like their natural
counterparts. Guided by Particle Swarm Optimization (PSO), CANTS-N's colonies
optimize architecture searches, achieving remarkable improvements in mean
squared error (MSE) over established methods, including BP-free CANTS, BP
CANTS, and ANTS. Scalable, adaptable, and forward-looking, CANTS-N has the
potential to reshape the landscape of NAS and NE. This paper provides detailed
insights into its methodology, results, and far-reaching implications.
- Abstract（参考訳）: ニューラルネットワークアーキテクチャを手作業で開発することは、しばしば最適で非効率な構造に繋がる大きな課題である。
完全なニューラルネットワーク構成の追求は複雑な作業であり、ニューラルアーキテクチャサーチ(NAS)のようなメタヒューリスティックなアプローチの必要性を促す。
本稿では,自然の創発的なメカニズムからインスピレーションを得て,NASとNeural Evolutionの境界を推し進めるCANTS-N(Collaborative Ant-based Neural Topology Search)を紹介する。
この革新的なアプローチでは、Antにインスパイアされたエージェントはニューラルネットワークの構造を慎重に構築し、動的環境内で動的に適応する。
Particle Swarm Optimization (PSO)によって導かれ、CANTS-Nのコロニーはアーキテクチャ探索を最適化し、BPフリーのCANTS、BP CANTS、ANTSといった確立された手法よりも平均二乗誤差(MSE)を著しく改善した。
スケーラブルで適応性があり、前方に見えるCANTS-NはNASとNEの景観を再構築する可能性がある。
本稿では,その方法論,結果,および遠縁な含意に関する詳細な知見を提供する。
関連論文リスト
- SpikingJelly: An open-source machine learning infrastructure platform
for spike-based intelligence [51.6943465041708]
スパイキングニューラルネットワーク(SNN)は、高エネルギー効率のニューロモルフィックチップに脳にインスパイアされたインテリジェンスを実現することを目的としている。
我々は、ニューロモルフィックデータセットの事前処理、深層SNNの構築、パラメータの最適化、およびニューロモルフィックチップへのSNNのデプロイのためのフルスタックツールキットをコントリビュートする。
論文 参考訳（メタデータ） (2023-10-25T13:15:17Z) - Brain-inspired Evolutionary Architectures for Spiking Neural Networks [6.607406750195899]
スパイキングニューラルネットワーク(SNN)の効率的なアーキテクチャ最適化について検討する。
本稿では,脳にインスパイアされた局所モジュール構造とグローバルモジュール接続を取り入れたSNNアーキテクチャを進化させる。
本稿では,高性能,効率,消費電力の少ないSNNを用いた,数ショット性能予測器に基づく効率的な多目的進化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-09-11T06:39:11Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳（メタデータ） (2023-05-26T02:52:12Z) - Backpropagation-Free 4D Continuous Ant-Based Neural Topology Search [51.18089545051242]
この研究は、潜在的な神経シナプス重みを表す探索空間に4次元を加えることでCANTSを拡張する。
本研究では,BP-Free CANTSアルゴリズムがCANTSおよびANTSと比較して高い競合性能を示すことを示す。
論文 参考訳（メタデータ） (2023-05-11T10:49:07Z) - Multi-scale Evolutionary Neural Architecture Search for Deep Spiking
Neural Networks [7.271032282434803]
スパイキングニューラルネットワーク(SNN)のためのマルチスケール進化型ニューラルネットワーク探索(MSE-NAS)を提案する。
MSE-NASは脳にインスパイアされた間接的評価機能であるRepresentational Dissimilarity Matrices(RDMs)を介して、個々のニューロンの操作、複数の回路モチーフの自己組織化の統合、およびグローバルなモチーフ間の接続を進化させる
提案アルゴリズムは,静的データセットとニューロモルフィックデータセットのシミュレーションステップを短縮して,最先端(SOTA)性能を実現する。
論文 参考訳（メタデータ） (2023-04-21T05:36:37Z) - Biologically inspired structure learning with reverse knowledge
distillation for spiking neural networks [19.33517163587031]
スパイキングニューラルネットワーク(SNN)は、その生物学的妥当性から感覚情報認識タスクにおいて非常に優れた特徴を持つ。
現在のスパイクベースのモデルの性能は、完全に接続された構造か深すぎる構造かによって制限されている。
本稿では,より合理的なSNNを構築するための進化的構造構築法を提案する。
論文 参考訳（メタデータ） (2023-04-19T08:41:17Z) - A Self-adaptive Neuroevolution Approach to Constructing Deep Neural
Network Architectures Across Different Types [5.429458930060452]
本稿では,様々なタスクに対して,様々な軽量なDeep Neural Network(DNN)アーキテクチャを自動構築する,自己適応型神経進化(SANE)アプローチを提案する。
SANEの重要な設定の1つは、異なるDNNタイプに適応した細胞と臓器によって定義された検索空間である。
SANEは、進化探索とエクスプロイトを自己適応的に調整し、探索効率を向上させることができる。
論文 参考訳（メタデータ） (2022-11-27T07:40:25Z) - HiveNAS: Neural Architecture Search using Artificial Bee Colony
Optimization [0.0]
本研究では,ニューラルネットワーク探索のための人工蜂コロニー最適化の実現可能性を評価する。
提案するフレームワークであるHiveNASは、最先端のSwarm IntelligenceベースのNASフレームワークを短時間で上回ります。
論文 参考訳（メタデータ） (2022-11-18T14:11:47Z) - On the Intrinsic Structures of Spiking Neural Networks [66.57589494713515]
近年、時間依存データやイベント駆動データを扱う大きな可能性から、SNNへの関心が高まっている。
スパイキング計算における本質的な構造の影響を総合的に調査する研究が数多く行われている。
この研究はSNNの本質的な構造を深く掘り下げ、SNNの表現性への影響を解明する。
論文 参考訳（メタデータ） (2022-06-21T09:42:30Z) - Continuous Ant-Based Neural Topology Search [62.200941836913586]
この研究は、アリコロニー最適化に基づく、自然に着想を得たニューラルアーキテクチャサーチ(NAS)アルゴリズムを導入している。
連続アントベースのニューラルトポロジーサーチ(CANTS)は、アリが現実世界でどのように動くかに強く影響を受けている。
論文 参考訳（メタデータ） (2020-11-21T17:49:44Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳（メタデータ） (2020-07-03T01:37:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。