論文の概要: Tensor-Accelerated Eager Multi-Resolution Grids for Evolving Large-Scale Substrates
- arxiv url: http://arxiv.org/abs/2608.27612v1
- Date: Thu, 27 Aug 2026 18:45:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-31 17:16:04.118294
- Title: Tensor-Accelerated Eager Multi-Resolution Grids for Evolving Large-Scale Substrates
- Title（参考訳）: 大規模物質移動のためのテンソル加速型マルチリゾリュートグリッド
- Abstract要約: 神経進化において、間接的エンコーディングは、それぞれの接続を指定するのではなく、コンパクトなゲノムからネットワーク接続を生成する。
ESHyperNEATは、CPPN出力パターンを調べることで、隠れたノードの配置を自動的に検出する。
EMRHyperNEAT では,すべての位置を前向きに評価し,同じ分散基準を用いてフィルタする。
- 参考スコア（独自算出の注目度）: 0.4899818550820576
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In neuroevolution, indirect encoding generates neural network connectivity from a compact genome rather than specifying each connection. ES-HyperNEAT automatically discovers where to place hidden nodes by examining CPPN output patterns: it recursively subdivides space using a quadtree, expanding regions where CPPN outputs show high variance. This adaptive approach discovers network topology without manual substrate specification, extending the fixed-grid HyperNEAT framework built on NEAT. However, the quadtree resists tensorization. Each depth level depends on the parent's variance, forcing sequential evaluation. Different CPPNs produce different subdivision patterns, preventing batching. And variable leaf counts are incompatible with JAX's static shape requirement for JIT compilation. Our prior work confirmed these limits at depths exceeding 5, and a JAX reimplementation of the quadtree yielded only marginal speedup despite batched optimizations, motivating the eager reformulation presented here. We present EMR-HyperNEAT, which evaluates all positions at all resolutions up front, then filters using the same variance criterion: ES-HyperNEAT's subdivide_if(var > $θ$) becomes eval_all(); filter(var > $θ$). This performs more CPPN queries than necessary, but all queries become independent and parallelizable across both cores and population members, reducing complexity from \BigO($4^D$) to \BigO($4^D/P$) across $P$ parallel cores. Recurrent substrate configurations become feasible through a connection type taxonomy. The experiments section validates 12-34$\times$ on-device GPU speedup on XOR at depths 5-7, and empirically higher solve rates across benchmarks.
- Abstract（参考訳）: 神経進化において、間接的エンコーディングは、それぞれの接続を特定するのではなく、コンパクトなゲノムからニューラルネットワーク接続を生成する。
ES-HyperNEATは、CPPN出力パターンを調べることによって、隠れたノードの配置場所を自動的に検出する。
この適応的なアプローチは、手動の基板仕様なしでネットワークトポロジを発見し、NEAT上に構築された固定グリッドHyperNEATフレームワークを拡張した。
しかし、クワッドツリーはテンソル化に抵抗する。
各深さレベルは、親の分散に依存し、シーケンシャルな評価を強制する。
異なるCPPNは異なるサブディビジョンパターンを生成し、バッチ化を防ぐ。
変数のリーフカウントは、JITコンパイルのためのJAXの静的なシェイプ要求と互換性がない。
我々の以前の研究は、これらの限界が深さ5を超えることを確認し、JAXの再実装は、バッチ最適化にもかかわらず、限界的なスピードアップしか得られず、ここで提示された熱心な改革の動機となった。
ES-HyperNEATの subdivide_if(var > $θ$) は eval_all(); filter(var > $θ$) となる。
これは、必要以上に多くのCPPNクエリを実行するが、全てのクエリは、コアとグループメンバーの両方で独立して並列化可能になり、複雑さを \BigO($4^D/P$) から \BigO($4^D/P$) に還元する。
リカレント基板構成は接続型分類法により実現可能である。
実験セクションは、深さ5-7でXOR上の12-34$\times$オンデバイスGPUスピードアップを検証し、ベンチマーク全体で実証的に高い解率を達成している。
関連論文リスト
- On Scaling Coordinate-Based Neuroevolution: The Quadtree Bottleneck in ES-HyperNEAT [0.4899818550820576]
本稿では,バッチCPPNクエリによるGPU並列化をターゲットとしたJAXベースの実装であるJAX-ESHNを提案する。
我々は、CPUベースのPUREPLESベースラインに対して、XOR、Parity-3、円周分類、正弦回帰、CartPoleの5つのタスクでベンチマークを行った。
論文 参考訳（メタデータ） (2026-08-25T12:27:24Z) - Native Multi-Dimensional Subquadratic Operators via Input Dependent Long Convolutions [14.854950151689062]
多次元データに適用する場合、注意を向けるサブクワッドラティックな代替手段は妥協を必要とする。
畳み込みのネイティブな幾何学に直接作用するサブクワッドラティックでグローバルな入力依存演算子である textitHyenaND を導入する。
長いコンテキストのゲノム学、コンピュータビジョン、医療画像、PDEモデリング全体において、純粋なハイエナNDスタックは強い注意ベースラインの精度と一致し、ハイエナNDと注意層をインターリーブするハイブリッド構成は純粋な注意と強い再発ベースのハイブリッドの両方より優れている。
論文 参考訳（メタデータ） (2026-07-01T02:39:18Z) - SILAGE: Memory-Efficient, Full-Gradient-Free Nonconvex Optimization for Nested Finite Sums [51.49970814177172]
データセットに対する経験的リスクは、自然に$N=nm$全サンプルに類似性を示す。
我々は悲観的な収束分析を避ける分析を提供する。
我々の成果は、既存の最先端の体制を改善した。
論文 参考訳（メタデータ） (2026-06-14T14:11:07Z) - PolyKAN: Efficient Fused GPU Operators for Polynomial Kolmogorov-Arnold Network Variants [10.239332579225522]
Kolmogorov-Arnold Networks (KAN) はマルチレイヤ・パーセプトロンよりも高い表現能力と高い解釈性を約束している。
我々は,kanとその変種の最初のオープンソース実装であるPolyKANというGPUアクセラレーション演算子ライブラリを提案する。
論文 参考訳（メタデータ） (2025-11-18T19:05:16Z) - Tensor Decomposition Networks for Fast Machine Learning Interatomic Potential Computations [48.46721044282335]
テンソル分解ネットワーク(TDN)は、計算処理の劇的な高速化と競合する性能を実現する。
1億5500万のDFT計算スナップショットを含む分子緩和データセットPubChemQCRのTDNを評価した。
その結果,TDNは計算処理の劇的な高速化と競合する性能を示した。
論文 参考訳（メタデータ） (2025-07-01T18:46:27Z) - Modeling Edge-Specific Node Features through Co-Representation Neural Hypergraph Diffusion [13.420568360763227]
エッジ依存ノード分類(ENC)のためのエッジ固有の特徴をモデル化する新しいHGNNアーキテクチャである textbfCoNHD を提案する。
本研究では,同変ネットワークを拡散演算子として活用し,データから拡散力学を効果的に学習する拡散過程のニューラル実装を開発する。
論文 参考訳（メタデータ） (2024-05-23T08:01:25Z) - Distributed Extra-gradient with Optimal Complexity and Communication
Guarantees [60.571030754252824]
複数のプロセッサ/ワーカー/クライアントがローカルなデュアルベクトルにアクセス可能なマルチGPU設定において、モノトン変分不等式(VI)問題を考察する。
モノトーンVI問題に対するデファクトアルゴリズムであるExtra-gradientは、通信効率が良くないように設計されている。
そこで本稿では,VI の解法に適した非バイアスで適応的な圧縮手法である量子化一般化外部勾配 (Q-GenX) を提案する。
論文 参考訳（メタデータ） (2023-08-17T21:15:04Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳（メタデータ） (2021-12-07T11:26:41Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳（メタデータ） (2020-06-12T07:18:02Z) - DC-NAS: Divide-and-Conquer Neural Architecture Search [108.57785531758076]
本稿では,ディープ・ニューラル・アーキテクチャーを効果的かつ効率的に探索するためのディバイド・アンド・コンカ(DC)手法を提案する。
ImageNetデータセットで75.1%の精度を達成しており、これは同じ検索空間を使った最先端の手法よりも高い。
論文 参考訳（メタデータ） (2020-05-29T09:02:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。