論文の概要: Epigenetic evolution of deep convolutional models

• arxiv url: http://arxiv.org/abs/2104.05411v1
• Date: Mon, 12 Apr 2021 12:45:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-04 01:52:23.355924
• Title: Epigenetic evolution of deep convolutional models
• Title（参考訳）: 深部畳み込みモデルのエピジェネティック進化
• Authors: Alexander Hadjiivanov and Alan Blair
• Abstract要約: 我々は、より深い畳み込みモデルを進化させるために、これまで提案されていた神経進化の枠組みを構築した。 異なる形状と大きさのカーネルを同一層内に共存させる畳み込み層配置を提案する。 提案したレイアウトにより、畳み込み層内の個々のカーネルのサイズと形状を、対応する新しい突然変異演算子で進化させることができる。
• 参考スコア（独自算出の注目度）: 81.21462458089142
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this study, we build upon a previously proposed neuroevolution framework to evolve deep convolutional models. Specifically, the genome encoding and the crossover operator are extended to make them applicable to layered networks. We also propose a convolutional layer layout which allows kernels of different shapes and sizes to coexist within the same layer, and present an argument as to why this may be beneficial. The proposed layout enables the size and shape of individual kernels within a convolutional layer to be evolved with a corresponding new mutation operator. The proposed framework employs a hybrid optimisation strategy involving structural changes through epigenetic evolution and weight update through backpropagation in a population-based setting. Experiments on several image classification benchmarks demonstrate that the crossover operator is sufficiently robust to produce increasingly performant offspring even when the parents are trained on only a small random subset of the training dataset in each epoch, thus providing direct confirmation that learned features and behaviour can be successfully transferred from parent networks to offspring in the next generation.
• Abstract（参考訳）: 本研究では,先述した神経進化の枠組みを基礎として,深い畳み込みモデルを発展させる。 具体的には、ゲノムエンコーディングとクロスオーバ演算子を拡張して階層化ネットワークに適用する。 また,異なる形状や大きさのカーネルが同一層内に共存することを可能にする畳み込み層レイアウトを提案し,なぜこれが有益になるのかを議論する。 提案するレイアウトにより、畳み込み層内の個々のカーネルのサイズと形状を、対応する新しい突然変異演算子で進化させることができる。 提案手法は,エピジェネティック進化による構造変化と,個体群に基づくバックプロパゲーションによる重み更新を含むハイブリッド最適化戦略を採用している。 いくつかの画像分類ベンチマークの実験では、親が各エポックにおけるトレーニングデータセットの小さなランダムなサブセットだけを訓練された場合でも、クロスオーバーオペレータが十分に堅牢であることを示し、学習した特徴や振舞いが次世代の親ネットワークから子孫にうまく移行できることを直接確認する。

関連論文リスト

• A Guide to Tracking Phylogenies in Parallel and Distributed Agent-based Evolution Models [0.0]
  エージェントベースモデルを用いたサイリコ研究では、シミュレートされたエージェント間の祖先関係の高品質な記録を収集する機会を提供する。 現存する研究は通常、系統を直接追跡し、進化史の正確な系統学的な記録を生み出している。 ポストホック推定は、生物情報学者が生物間の遺伝的類似性を評価することによって植物学を構築する方法に似ている。
  論文  参考訳（メタデータ） (2024-05-16T15:27:51Z)
• DARLEI: Deep Accelerated Reinforcement Learning with Evolutionary Intelligence [77.78795329701367]
  本稿では,進化アルゴリズムと並列化強化学習を組み合わせたフレームワークであるDARLEIを提案する。 我々はDARLEIの性能を様々な条件で特徴付け、進化形態の多様性に影響を与える要因を明らかにした。 今後DARLEIを拡張して、よりリッチな環境における多様な形態素間の相互作用を取り入れていきたいと考えています。
  論文  参考訳（メタデータ） (2023-12-08T16:51:10Z)
• Coevolution of Neural Architectures and Features for Stock Market Forecasting: A Multi-objective Decision Perspective [0.0]
  本稿では、意思決定者によるさらなる選択のために、非支配的ニューラルネットワークモデルの集合を同定するための新しいアプローチを提案する。 ニューラルネットワークの特徴とトポロジを同時に選択するための新しい共進化手法を提案する。 その結果、NASDAQ指数は、近日・近日・近日・近日・近日・近日・遠日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・近日・
  論文  参考訳（メタデータ） (2023-11-23T15:12:30Z)
• PhyloGFN: Phylogenetic inference with generative flow networks [57.104166650526416]
  本稿では,系統学における2つの中核的問題に対処するための生成フローネットワーク(GFlowNets)の枠組みを紹介する。 GFlowNetsは複雑な構造をサンプリングするのに適しているため、木トポロジー上の多重モード後部分布を探索し、サンプリングするのに自然な選択である。 我々は, 実際のベンチマークデータセット上で, 様々な, 高品質な進化仮説を生成できることを実証した。
  論文  参考訳（メタデータ） (2023-10-12T23:46:08Z)
• Sparse Mutation Decompositions: Fine Tuning Deep Neural Networks with Subspace Evolution [0.0]
  進化戦略と呼ばれる、神経進化的手法の一般的なサブクラスは、ネットワークを変異させるために高密度ノイズ摂動に依存している。 低次元部分空間に高密度な突然変異を分解することでこの問題を緩和するアプローチを導入する。 我々は、非常に難しいImageNetデータセット上で、神経進化的微調整とアンサンブルを初めて大規模に探索する。
  論文  参考訳（メタデータ） (2023-02-12T01:27:26Z)
• WLD-Reg: A Data-dependent Within-layer Diversity Regularizer [98.78384185493624]
  ニューラルネットワークは、勾配に基づく最適化と共同で訓練された階層構造に配置された複数の層で構成されている。 我々は、この従来の「中間層」フィードバックを補うために、同じ層内での活性化の多様性を促進するために、追加の「中間層」フィードバックを補うことを提案する。 本稿では,提案手法が複数のタスクにおける最先端ニューラルネットワークモデルの性能を向上させることを実証した広範な実証研究を提案する。
  論文  参考訳（メタデータ） (2023-01-03T20:57:22Z)
• EvoVGM: A Deep Variational Generative Model for Evolutionary Parameter Estimation [0.0]
  本研究では,局所生物学的進化パラメータの真後部を共同で近似した深部変分ベイズ生成モデルを提案する。 本研究では,いくつかの進化シナリオと実際のウイルス配列アライメントをシミュレートした合成配列アライメントにおける手法の一貫性と有効性を示す。
  論文  参考訳（メタデータ） (2022-05-25T20:08:10Z)
• X-volution: On the unification of convolution and self-attention [52.80459687846842]
  本稿では,畳み込み操作と自己注意操作の両方からなるマルチブランチ基本モジュールを提案する。 提案したX-進化は、非常に競争力のある視覚的理解の改善を実現する。
  論文  参考訳（メタデータ） (2021-06-04T04:32:02Z)
• Complexity-based speciation and genotype representation for neuroevolution [81.21462458089142]
  本稿では、進化するネットワークを隠されたニューロンの数に基づいて種に分類する神経進化の種分化原理を提案する。 提案された種分化原理は、種および生態系全体における多様性の促進と保存を目的として設計されたいくつかの技術で採用されている。
  論文  参考訳（メタデータ） (2020-10-11T06:26:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。