論文の概要: Per-Node Activation Function Evolution in Indirectly Encoded Substrates: Solvability, Limits, and Emergent Diversity

• arxiv url: http://arxiv.org/abs/2610.00149v1
• Date: Thu, 10 Sep 2026 13:22:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.383197
• Title: Per-Node Activation Function Evolution in Indirectly Encoded Substrates: Solvability, Limits, and Emergent Diversity
• Title（参考訳）: 間接符号化基板におけるノードごとの活性化関数の進化 : 可解性,限界,創発的多様性
• Abstract要約: 人工ニューラルネットワークは、すべてのノードに一様に単一のアクティベーション関数を適用し、それらが表現できるものを制限することを示す。 我々は18関数パレットからの間接符号化、ノードごとのアクティベーション関数の割り当てにおいて、初めて知識に進化した。
• 参考スコア（独自算出の注目度）: 0.4899818550820576
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Biological neurons achieve computational diversity through specialized types: tonic, bursting, adapting, and fast-spiking cells coexist within the same circuit. Artificial neural networks, by contrast, apply a single activation function uniformly to all nodes, which limits what they can represent. We show that this uniformity creates hard limits for evolutionary search: across sparse evolved substrates, monotonic functions fail to solve parity beyond its smallest instance, XOR, while a single oscillatory unit suffices at all tested scales. The gap is one of search and sparsity, not representation: monotonic networks can represent parity with a modest number of hidden units, and gradient descent recovers that solution. We evolve, to our knowledge for the first time in indirect encoding, per-node activation function assignments from an 18-function palette across more than 4,500 experimental runs spanning Boolean logic, regression, and spatial classification. Testing each of the 18 functions individually on Parity-4 reveals a three-tier solvability structure: oscillatory functions achieve 100%, intermediate functions 6.7-80%, and all 9 monotonic functions 0%. This divide is not universal. Recurrence collapses it, and gradient descent inverts it entirely, showing that the barrier is specific to evolutionary search in sparse substrates. What activation functions a network can use, beyond its topology and weights, determines what evolutionary search can solve. Indirect encoding discovers heterogeneous per-node activation assignments unlikely to be chosen by hand.
• Abstract（参考訳）: 生物学的ニューロンは、トニック、バースト、適応、高速なスポーク細胞を同一回路内で共存させる特殊なタイプによって、計算の多様性を達成する。 対照的に、人工ニューラルネットワークは、すべてのノードに一様に単一のアクティベーション関数を適用し、それらが表現できるものを制限する。 この一様性は進化的探索に厳しい限界を生じさせ、スパース進化した基質をまたいで、単調関数は最小のインスタンスであるXORを超えてパリティを解くことができず、一方単振動単位は全ての試験スケールで十分である。 モノトニックネットワークは、わずかな数の隠れた単位でパリティを表現することができ、勾配降下はその解を回復する。 我々は、間接符号化において初めて、Boolean論理、回帰、空間分類にまたがる4,500以上の実験走行において、18関数パレットからノードごとのアクティベーション関数を割り当てた。 発振関数は100%、中間関数は6.7-80%、すべての9つの単調関数は0%である。 この分割は普遍的ではない。 再帰は崩壊し、勾配降下は完全に逆転し、バリアはスパース基板の進化的探索に特有のものであることを示す。 ネットワークが利用できるアクティベーション機能は、トポロジと重みを超えて、進化的検索が解決できるものを決定する。 間接符号化は、不均一なノード毎のアクティベーション割り当てを手作業で選択する可能性が低い。

関連論文リスト

• Bio-Inspired Palette Evolution in Indirectly Encoded Substrates: Timescale Compatibility Shapes Activation Function Discovery [0.4899818550820576]
  間接的に符号化されたニューラルネットワークは、個々のノードに異なるアクティベーション関数を割り当てることができるが、適切な関数が事前に知られていることは滅多にない。 進化中に利用可能な活性化関数のセットを変更する13の戦略を設計する。 我々は、パリティ問題と非パリティ問題で3000以上のランをまたいだ全ての戦略を評価する。
  論文  参考訳（メタデータ） (2026-09-15T12:10:19Z)
• Multi-Behavioral Evolved Substrates Through Neuromodulation and Activation Selection [0.4899818550820576]
  オープンエンド人工生命システムは、単一の進化した遺伝子型から多様な能力を取得する必要がある。 CPPNsを介して間接的にコード化された基質を用いて、神経調節だけでは不十分であることを示す1万以上の実験を行った。
  論文  参考訳（メタデータ） (2026-09-10T13:22:23Z)
• Structural Kolmogorov-Arnold Convolutions: Learnable Function on the Values or the Filter Shape as Parameter-Efficient Alternative to Per-Edge Convolutional KANs [76.06235645266621]
  Convolutional Kolmogorov--Arnold Networks (KAN) は、畳み込みカーネルの固定重みを学習可能な単変数関数に置き換える。 学習可能な関数は、各エッジよりも畳み込みのエンファン構造に置かれる方がよいと我々は主張する。
  論文  参考訳（メタデータ） (2026-06-23T10:00:26Z)
• Neural Approximation and Its Applications [73.11802084858294]
  トレーニングされていないニューラルネットワークをベース関数として活用することにより、ニューラルネットワークの基盤関数を導入する。 多変量関数近似のための神経近似(NeuApprox)パラダイムを提案する。 多様な多次元画像、光フィールドデータ、ビデオ、トラフィックデータ、ポイントクラウドデータの実験は、NeuApproxの有望な性能を示している。
  論文  参考訳（メタデータ） (2026-03-04T06:05:43Z)
• On Counts and Densities of Homogeneous Bent Functions: An Evolutionary Approach [60.00535100780336]
  本稿では, 等質屈曲ブール関数の進化における進化的アルゴリズム(EA)の利用について検討する。 等質な曲がり関数の密度の概念を導入し、異なる変数数の2次および3次曲がり関数を見つけるアルゴリズム設計を容易にする。
  論文  参考訳（メタデータ） (2025-11-16T15:33:40Z)
• D2NO: Efficient Handling of Heterogeneous Input Function Spaces with Distributed Deep Neural Operators [7.119066725173193]
  異種性を示す入力関数を扱うための新しい分散手法を提案する。 中央ニューラルネットワークは、すべての出力関数間で共有情報を処理するために使用される。 ニューラルネットワークが連続非線形作用素の普遍近似であることを示す。
  論文  参考訳（メタデータ） (2023-10-29T03:29:59Z)
• Increasing biases can be more efficient than increasing weights [33.05856234084821]
  ユニットは、あるユニットから次のユニットに渡されるときに、非破壊的な情報を保存することの重要性を強調します。 重みよりもバイアスの増加に焦点を当てることで、ニューラルネットワークモデルの性能が大幅に向上する可能性があることを示す。
  論文  参考訳（メタデータ） (2023-01-03T01:36:31Z)
• Growing Cosine Unit: A Novel Oscillatory Activation Function That Can Speedup Training and Reduce Parameters in Convolutional Neural Networks [0.1529342790344802]
  畳み込みニューラルネットワークは多くの社会的に重要で経済的に重要な問題を解くことに成功した。 ディープネットワークのトレーニングを可能にする重要な発見は、Rectified Linear Unit (ReLU) アクティベーション機能の採用であった。 新しい活性化関数 C(z) = z cos z は様々なアーキテクチャ上で Sigmoids, Swish, Mish, ReLU より優れる。
  論文  参考訳（メタデータ） (2021-08-30T01:07:05Z)
• X-volution: On the unification of convolution and self-attention [52.80459687846842]
  本稿では,畳み込み操作と自己注意操作の両方からなるマルチブランチ基本モジュールを提案する。 提案したX-進化は、非常に競争力のある視覚的理解の改善を実現する。
  論文  参考訳（メタデータ） (2021-06-04T04:32:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。