論文の概要: ImmuNetNAS: An Immune-network approach for searching Convolutional Neural Network Architectures

• arxiv url: http://arxiv.org/abs/2002.12704v1
• Date: Fri, 28 Feb 2020 13:32:57 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-28 01:30:09.547770
• Title: ImmuNetNAS: An Immune-network approach for searching Convolutional Neural Network Architectures
• Title（参考訳）: ImmuNetNAS:畳み込みニューラルネットワークアーキテクチャ検索のための免疫ネットワークアプローチ
• Authors: Kefan Chen, Wei Pang
• Abstract要約: ImmuNetNASは、免疫ネットワーク理論に触発された新しいニューラルネットワーク探索(NAS)アプローチである。 ImmuNetNASのコアはオリジナルの免疫ネットワークアルゴリズムに基づいて構築されており、過剰な突然変異と選択によって人口を反復的に更新する。
• 参考スコア（独自算出の注目度）: 9.880887106904517
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this research, we propose ImmuNetNAS, a novel Neural Architecture Search (NAS) approach inspired by the immune network theory. The core of ImmuNetNAS is built on the original immune network algorithm, which iteratively updates the population through hypermutation and selection, and eliminates the self-generation individuals that do not meet the requirements through comparing antibody affinity and inter-specific similarity. In addition, in order to facilitate the mutation operation, we propose a novel two-component based neural structure coding strategy. Furthermore, an improved mutation strategy based on Standard Genetic Algorithm (SGA) was proposed according to this encoding method. Finally, based on the proposed two-component based coding method, a new antibody affinity calculation method was developed to screen suitable neural architectures. Systematic evaluations demonstrate that our system has achieved good performance on both the MNIST and CIFAR-10 datasets. We open-source our code on GitHub in order to share it with other deep learning researchers and practitioners.
• Abstract（参考訳）: 本研究では免疫ネットワーク理論に触発された新しいニューラルネットワーク探索(NAS)手法であるImmuNetNASを提案する。 ImmuNetNASのコアはオリジナルの免疫ネットワークアルゴリズムに基づいて構築されており、過剰変異と選択によって個体群を反復的に更新し、抗体親和性と特異な類似性を比較することで、要求を満たしない自己世代を排除している。 さらに,突然変異操作を容易にするために,新しい2成分系ニューラル構造符号化戦略を提案する。 さらに, 標準遺伝的アルゴリズム(SGA)に基づく改良された突然変異戦略が提案された。 最後に,提案する2成分コーディング法に基づき,適切なニューラルアーキテクチャをスクリーニングする新しい抗体親和性算出法を開発した。 システム評価の結果,本システムはMNISTとCIFAR-10の両方で良好な性能を示した。 私たちはGitHubでコードをオープンソースにして、他のディープラーニング研究者や実践者と共有しています。

関連論文リスト

• Stochastic Gradient Descent for Two-layer Neural Networks [2.0349026069285423]
  本稿では、過パラメータ化された2層ニューラルネットワークに適用した場合の降下(SGD)アルゴリズムの収束率について検討する。 提案手法は,NTKのタンジェントカーネル(NTK)近似と,NTKが生成する再生カーネル空間(RKHS)の収束解析を組み合わせたものである。 我々の研究フレームワークは、カーネルメソッドと最適化プロセスの間の複雑な相互作用を探索し、ニューラルネットワークのダイナミクスと収束特性に光を当てることを可能にする。
  論文  参考訳（メタデータ） (2024-07-10T13:58:57Z)
• Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
  本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。 我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。 本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
  論文  参考訳（メタデータ） (2024-03-18T18:01:01Z)
• Continuous Cartesian Genetic Programming based representation for Multi-Objective Neural Architecture Search [12.545742558041583]
  我々は、より複雑で高効率な畳み込みニューラルネットワーク(CNN)を設計するための新しいアプローチを提案する。 我々のアプローチは、ニューラルネットワーク探索(NAS)のためのカルテシアン遺伝的プログラミング(CGP)に基づく実ベースCNNとブロックチェーンCNNの表現を組み合わせたものである。 それらが考慮する探索空間の粒度が異なる2つの変種が導入された。
  論文  参考訳（メタデータ） (2023-06-05T07:32:47Z)
• Permutation Equivariant Neural Functionals [92.0667671999604]
  この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。 隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。 実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
  論文  参考訳（メタデータ） (2023-02-27T18:52:38Z)
• Deep Convolutional Learning-Aided Detector for Generalized Frequency Division Multiplexing with Index Modulation [0.0]
  提案手法は、まずゼロフォース検出器(ZF)を用いて受信信号を前処理し、その後、畳み込みニューラルネットワーク(CNN)と完全連結ニューラルネットワーク(FCNN)からなるニューラルネットワークを用いる。 FCNN部は2つの完全に接続された層しか使用せず、複雑さとBER(bit error rate)パフォーマンスのトレードオフをもたらすことができる。 提案したディープ畳み込みニューラルネットワークに基づく検出・復調方式は,ZF検出器よりも高いBER性能を示し,複雑性が増大することが実証されている。
  論文  参考訳（メタデータ） (2022-02-06T22:18:42Z)
• Detecting Communities in Complex Networks using an Adaptive Genetic Algorithm and node similarity-based encoding [4.0714739042536845]
  ネットワーク分割を MST と呼ぶ個人として表現するためのノード類似性に基づく新しい符号化手法を提案する。 提案手法を用いて, 類似性に基づく手法とモジュール性最適化に基づく手法を組み合わせて, 複雑なネットワークのコミュニティを見つける。
  論文  参考訳（メタデータ） (2022-01-24T09:06:40Z)
• Learning Autonomy in Management of Wireless Random Networks [102.02142856863563]
  本稿では,任意の数のランダム接続ノードを持つ無線ネットワークにおいて,分散最適化タスクに取り組む機械学習戦略を提案する。 我々は,ネットワークトポロジとは無関係に,前方および後方に計算を行う分散メッセージパスニューラルネットワーク(DMPNN)と呼ばれる,柔軟な深層ニューラルネットワーク形式を開発した。
  論文  参考訳（メタデータ） (2021-06-15T09:03:28Z)
• LocalDrop: A Hybrid Regularization for Deep Neural Networks [98.30782118441158]
  本稿では,ローカルラデマチャー複雑性を用いたニューラルネットワークの正規化のための新しい手法であるLocalDropを提案する。 フルコネクテッドネットワーク(FCN)と畳み込みニューラルネットワーク(CNN)の両方のための新しい正規化機能は、ローカルラデマチャー複雑さの上限提案に基づいて開発されました。
  論文  参考訳（メタデータ） (2021-03-01T03:10:11Z)
• Graph Neural Network Encoding for Community Detection in Attribute Networks [27.099775681534652]
  複雑な属性ネットワークにおけるコミュニティ検出問題に対処するために,グラフニューラルネットワーク符号化法を提案する。 実験により、このアルゴリズムは、よく知られた進化的および非進化的アルゴリズムよりもはるかに優れた性能を示すことが示された。
  論文  参考訳（メタデータ） (2020-06-06T23:41:36Z)
• Binarizing MobileNet via Evolution-based Searching [66.94247681870125]
  そこで本稿では,MobileNet をバイナライズする際の構築と訓練を容易にするための進化的探索手法を提案する。 ワンショットアーキテクチャ検索フレームワークに着想を得て、グループ畳み込みのアイデアを操り、効率的な1ビット畳み込みニューラルネットワーク(CNN)を設計する。 我々の目標は、グループ畳み込みの最良の候補を探索することで、小さなが効率的なバイナリニューラルアーキテクチャを考案することである。
  論文  参考訳（メタデータ） (2020-05-13T13:25:51Z)
• MSE-Optimal Neural Network Initialization via Layer Fusion [68.72356718879428]
  ディープニューラルネットワークは、さまざまな分類と推論タスクに対して最先端のパフォーマンスを達成する。 グラデーションと非進化性の組み合わせは、学習を新しい問題の影響を受けやすいものにする。 確率変数を用いて学習した深層ネットワークの近傍層を融合する手法を提案する。
  論文  参考訳（メタデータ） (2020-01-28T18:25:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。