論文の概要: Bio-Inspired Palette Evolution in Indirectly Encoded Substrates: Timescale Compatibility Shapes Activation Function Discovery
- arxiv url: http://arxiv.org/abs/2609.17067v1
- Date: Tue, 15 Sep 2026 12:10:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.499384
- Title: Bio-Inspired Palette Evolution in Indirectly Encoded Substrates: Timescale Compatibility Shapes Activation Function Discovery
- Title（参考訳）: 間接符号化基板におけるバイオインスパイアされたパレット進化--タイムスケール適合形状と活性化関数の発見
- Abstract要約: 間接的に符号化されたニューラルネットワークは、個々のノードに異なるアクティベーション関数を割り当てることができるが、適切な関数が事前に知られていることは滅多にない。
進化中に利用可能な活性化関数のセットを変更する13の戦略を設計する。
我々は、パリティ問題と非パリティ問題で3000以上のランをまたいだ全ての戦略を評価する。
- 参考スコア（独自算出の注目度）: 0.4899818550820576
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Indirectly encoded neural networks can assign different activation functions to individual nodes, but the right functions are rarely known in advance. When the available set contains only standard monotonic functions, problems like parity become unsolvable, yet an all-inclusive palette underperforms a curated one. How should evolution discover which functions to use? We address this as a meta-learning problem, designing 13 strategies (11 inspired by biological adaptation mechanisms, plus baseline and oracle controls) that modify the set of available activation functions during evolution. Each strategy translates a biological principle into an evolutionary operator: for example, circadian-inspired oscillatory gating cycles functions in and out of the palette on a fixed schedule, while immune-inspired Clonal Selection permanently protects functions that consistently correlate with fitness. We evaluate all strategies across more than 3,000 runs on parity and non-parity problems, first evolving the activation palette alone, then co-evolving a per-node aggregation palette on harder problems; an independent replication with new seeds confirms a stable high-reliability tier, with Circadian holding its top rank. Bio-inspired strategies match the solve rate of a tuned baseline but converge up to twice as fast, with Circadian halving total compute. Strategy rankings reverse across problem types, with no strategy dominating all domains. Strategy success is largely shaped by timescale compatibility: strategies whose characteristic timescale matches the evolutionary evaluation window consistently outperform those that operate too slowly. The practical guideline: match the mechanism's timescale to the evaluation budget. Rescaling the slowest strategy bypasses the oscillatory barrier entirely: all nine solutions solve parity with non-oscillatory activations paired with min or max aggregation.
- Abstract（参考訳）: 間接的に符号化されたニューラルネットワークは、個々のノードに異なるアクティベーション関数を割り当てることができるが、適切な関数が事前に知られていることは滅多にない。
利用可能な集合が標準単調関数のみを含むとき、パリティのような問題は解けなくなるが、全包含パレットはキュレートされた関数を過小評価する。
進化はどの機能を使うべきかをどうやって発見すべきか?
我々はこれをメタラーニング問題として扱い、進化中に利用可能な活性化機能のセットを変更する13の戦略(生体適応機構にヒントを得た11の戦略とベースラインとオラクル制御)を設計する。
それぞれの戦略は生物学的原理を進化的作用素に翻訳する:例えば、概日リズムにインスパイアされた振動ゲーティングサイクルは、固定されたスケジュールでパレットの内外で機能し、一方免疫にインスパイアされたクローン選択は、常にフィットネスと相関する機能を永久に保護する。
本研究は, パリティと非パリティの問題を3000回以上実施し, アクティベーションパレットのみを進化させ, より困難な問題に対して, ノードごとのアグリゲーションパレットを共進化させる。
バイオインスパイアされた戦略は、チューニングされたベースラインの解法率と一致するが、最大で2倍の速度で収束し、Circadianは計算を半分にする。
戦略ランキングは問題の種類によって逆転し、すべてのドメインを支配する戦略は存在しない。
戦略の成功は、時間スケールの互換性によって大きく形作られており、時間スケールが進化的評価ウィンドウにマッチする戦略は、操作が遅すぎる戦略よりも一貫して優れています。
実際のガイドライン:メカニズムのタイムスケールを評価予算に合わせる。
最も遅い戦略の再スケーリングは振動障壁を完全に回避し、9つの解はすべて、min あるいは max のアグリゲーションと組み合わせた非振動活性化を伴うパリティを解いた。
関連論文リスト
- TacoMAS: Test-Time Co-Evolution of Topology and Capability in LLM-based Multi-Agent Systems [55.81570336226014]
動的マルチエージェントシステムのためのテスト時間共進化フレームワークであるTacoMASを紹介する。
TacoMASはMAS推論をオンライングラフ適応のタスクとして定式化し、ノードは役割固有の能力を持つエージェントを表し、エッジはその通信トポロジを定義する。
4つのベンチマークの実験では、TacoMASは20近いマルチエージェントベースラインを上回り、最強ベースラインよりも平均13.3%向上した。
論文 参考訳（メタデータ） (2026-05-10T13:52:00Z) - CORAL: Towards Autonomous Multi-Agent Evolution for Open-Ended Discovery [67.47220507982522]
大規模言語モデル(LLM)ベースの進化は、オープンな発見のための有望なアプローチである。
オープンエンド問題における自律的マルチエージェント進化のための最初のフレームワークであるCORALを紹介する。
コーラルは、厳格な制御を長期にわたるエージェントに置き換え、探索し、反射し、協力する。
論文 参考訳（メタデータ） (2026-04-02T05:59:06Z) - Shapley-Guided Neural Repair Approach via Derivative-Free Optimization [21.274208005071277]
既存のアプローチは主にリトレーニング、最適化、制約、検索アルゴリズムを含む。
本研究では,解釈可能なフォールトローカライゼーションとデリバティブフリー最適化戦略を統合したSHARPENを提案する。
論文 参考訳（メタデータ） (2026-04-01T03:05:48Z) - Continuous Program Search [4.198653054660764]
潜在距離が振る舞いの意味を持つ連続的なプログラム空間を学習し、進化的アルゴリズムを変更することなくこの構造を利用する突然変異演算子を設計する。
制御された潜在摂動下での行動レベルのばらつきを追跡することで局所性を計測し,行動-局所的連続的な変動に対する経験的信頼領域を同定する。
等方的突然変異は時折高いピーク性能を達成するが、幾何コンパイルされた突然変異はより速く、より信頼性の高い進行をもたらす。
論文 参考訳（メタデータ） (2026-02-07T18:41:14Z) - Controlled Self-Evolution for Algorithmic Code Optimization [33.82967000330864]
自己進化的手法は、反復的な"生成-検証-精細"サイクルを通じてコード生成を強化する。
既存のアプローチでは、限られた予算内で優れた複雑さを持つソリューションを見つけることができません。
本稿では3つのキーコンポーネントからなる制御自己進化(CSE)を提案する。
論文 参考訳（メタデータ） (2026-01-12T09:23:13Z) - Towards a Science of Scaling Agent Systems [79.64446272302287]
エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。
協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。
ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
論文 参考訳（メタデータ） (2025-12-09T06:52:21Z) - Alignment Tipping Process: How Self-Evolution Pushes LLM Agents Off the Rails [103.05296856071931]
本稿では,自己進化型大規模言語モデル(LLM)エージェントに特有の,アライメント・ティッピング・プロセス(ATP)を同定する。
ATPは、連続的な相互作用によってエージェントが訓練中に確立されたアライメント制約を放棄し、強化された自己関心の戦略を支持するときに生じる。
実験の結果、アライメントの利点は自己進化の下で急速に低下し、最初は整合性のない状態に収束したモデルであることが判明した。
論文 参考訳（メタデータ） (2025-10-06T14:48:39Z) - Stochastic activations [53.40901433014535]
この戦略は、大規模言語モデルのフィードフォワード層における複数の非線形関数をランダムに選択する。
我々は,(1)事前学習中にアクティベーションを使用し,RELUを用いてモデルを微調整する。
この戦略は、温度スケーリングと組み合わせた最良の決定論的非線形性(SILU)よりもわずかに劣る。
論文 参考訳（メタデータ） (2025-09-26T13:53:56Z) - LLAMA: Multi-Feedback Smart Contract Fuzzing Framework with LLM-Guided Seed Generation [56.84049855266145]
進化的突然変異戦略とハイブリッドテスト技術を統合したマルチフィードバックスマートコントラクトファジリングフレームワーク(LLAMA)を提案する。
LLAMAは、91%の命令カバレッジと90%のブランチカバレッジを達成すると同時に、148の既知の脆弱性のうち132が検出される。
これらの結果は、現実のスマートコントラクトセキュリティテストシナリオにおけるLAMAの有効性、適応性、実用性を強調している。
論文 参考訳（メタデータ） (2025-07-16T09:46:58Z) - The Pitfalls and Potentials of Adding Gene-invariance to Optimal Mixing [0.0]
Optimal Mixing (OM) は、局所探索と遺伝子組換えを統合する変異演算子である。
本稿では,遺伝子不変遺伝的アルゴリズム(GIGA)にインスパイアされた手法を提案する。
この手法は、GI-GOMEA(Gene-pool Optimal Mixing Evolutionary Algorithm)と統合され、GI-GOMEAとなる。
論文 参考訳（メタデータ） (2025-06-18T08:06:44Z) - Decomposing the Neurons: Activation Sparsity via Mixture of Experts for Continual Test Time Adaptation [37.79819260918366]
継続的なテスト時間適応(CTTA)は、トレーニング済みのモデルを進化し続けるターゲットドメインに適応させることを目的としている。
我々はCTTAタスクのアダプタとしてMixture-of-Activation-Sparsity-Experts (MoASE)の統合について検討する。
論文 参考訳（メタデータ） (2024-05-26T08:51:39Z) - Universal Online Convex Optimization Meets Second-order Bounds [74.0120666722487]
ユニバーサルオンライン凸最適化のための簡単な戦略を提案する。
主要なアイデアは、オリジナルのオンライン機能を処理するための専門家のセットを構築し、線形化された損失に対してメタアルゴリズムをデプロイすることである。
このようにして、私たちはブラックボックスの専門家として、既成のオンライン問題解決者をプラグインして、問題依存の後悔の限界を提供することができます。
論文 参考訳（メタデータ） (2021-05-08T11:43:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。