論文の概要: On Scaling Coordinate-Based Neuroevolution: The Quadtree Bottleneck in ES-HyperNEAT
- arxiv url: http://arxiv.org/abs/2608.24480v1
- Date: Tue, 25 Aug 2026 12:27:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.966732
- Title: On Scaling Coordinate-Based Neuroevolution: The Quadtree Bottleneck in ES-HyperNEAT
- Title(参考訳): コーディネートに基づく神経進化のスケーリングについて-ES-HyperNEATにおけるクアドツリー・ボトルネック
- Abstract要約: 本稿では,バッチCPPNクエリによるGPU並列化をターゲットとしたJAXベースの実装であるJAX-ESHNを提案する。
我々は、CPUベースのPUREPLESベースラインに対して、XOR、Parity-3、円周分類、正弦回帰、CartPoleの5つのタスクでベンチマークを行った。
- 参考スコア(独自算出の注目度): 0.4899818550820576
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: ES-HyperNEAT evolves substrate topology through adaptive quadtree subdivision; to our knowledge, no implementation with full population-level GPU parallelization exists. We present JAX-ESHN, a JAX-based implementation targeting GPU parallelization with batched CPPN queries, and benchmark it against the CPU-based PUREPLES Baseline across five tasks: XOR, Parity-3, circle classification, sine regression, and CartPole. The core limitation is structural: each CPPN discovers a unique set of substrate positions, preventing population-level vectorization via vmap. On XOR, the CPU Baseline's runtime scales exponentially with depth while JAX-ESHN's construction cost on GPU (compilation plus first-generation evaluation) plateaus at deep substrates, so JAX-ESHN solves reliably where the Baseline rarely succeeds, with lower runtime variance. A CPU-vs-CPU multi-benchmark control reproduces the same scaling divergence across Boolean, continuous, and control task types, confirming it is a property of the substrate-discovery implementation, not of GPU hardware. An alternative data structure (Hierarchical Spatial Hash Grid) fails not because it precomputes positions but because it applies the variance test independently per position, discarding the quadtree's parent-gated filtering and with it the adaptive sparsity essential to ES-HyperNEAT. These findings define the structural constraints any substrate-discovery method must satisfy to scale coordinate-based neuroevolution; the companion EMR-HyperNEAT reformulation, which replaces adaptive subdivision with eager evaluation of a static multi-resolution grid, satisfies them and resolves the bottleneck this paper characterizes.
- Abstract(参考訳): ES-HyperNEATは適応的なクワッドツリー分割によって基板トポロジを進化させ,我々の知る限り,全集団レベルのGPU並列化の実装は存在しない。
JAX-ESHNは、バッチCPPNクエリによるGPU並列化をターゲットにしたJAXベースの実装で、XOR、Parity-3、円周分類、正弦回帰、CartPoleの5つのタスクでCPUベースのPUREPLESベースラインに対してベンチマークを行う。
コア制限は構造的であり、各 CPPN は独自の基板位置の集合を発見し、vmap による集団レベルのベクトル化を防ぐ。
XORでは, JAX-ESHNのGPU(コンパイルと第1世代評価)に対する構築コストは深い基板上で指数関数的にスケールするので, JAX-ESHNはベースラインが滅多に成功せず, ランタイムのばらつきが低いことを確実に解決する。
CPU-vs-CPUマルチベンチマーク制御は、Boolean、Continuous、Continuous、Controlタスクタイプ間で同じスケーリングのばらつきを再現し、GPUハードウェアではなく、基板発見実装の特性であることを確認した。
代替データ構造(階層的空間ハッシュグリッド)は、位置をプリコンプリートするためではなく、各位置ごとに分散テストを適用し、クアッドツリーの親ゲートフィルタリングを破棄し、ES-HyperNEATに必須の適応空間性を持つため失敗する。
これらの知見は、座標に基づく神経進化をスケールするために、任意の基質発見法が満たさなければならない構造的制約を定義し、適応サブディビジョンを静的多分解能グリッドの熱心な評価に置き換えるEMR-HyperNEAT再構成は、これらを満足させ、本論文が特徴づけるボトルネックを解消する。
関連論文リスト
- Tensor-Accelerated Eager Multi-Resolution Grids for Evolving Large-Scale Substrates [0.4899818550820576]
神経進化において、間接的エンコーディングは、それぞれの接続を指定するのではなく、コンパクトなゲノムからネットワーク接続を生成する。
ESHyperNEATは、CPPN出力パターンを調べることで、隠れたノードの配置を自動的に検出する。
EMRHyperNEAT では,すべての位置を前向きに評価し,同じ分散基準を用いてフィルタする。
論文 参考訳(メタデータ) (2026-08-27T18:45:50Z) - Fine-Grain GPU Parallelization of the Generalized Partition Crossover for Large-Scale Traveling Salesman Problems [1.160208922584163]
トラベリングセールスマン問題(TSP)はNPハード最適化問題の1つである。
提案手法は,結合したメモリレイアウト,ゴーストノード変換,連結ノード解析を用いて,GPXをグラフ並列問題として再構成する。
提案したGPUは、メモリオーバーヘッドを大幅に削減しつつ、48倍から625倍のスピードアップを実現する。
論文 参考訳(メタデータ) (2026-08-21T15:42:05Z) - Imputation Meets Clustering: Exploiting Latent Subgroup Structure for Missing Data Recovery [52.29866804948133]
本稿では、クラスタリングと命令を相互に強化する共最適化プロセスとして再構築するフレームワークであるCAGI(Cluster-Aware Generative Imputation)を提案する。
14のベンチマークデータセットと15の代表的なベースラインの実験は、CAGIの優位性を実証している。
論文 参考訳(メタデータ) (2026-07-08T02:50:02Z) - Closed-Form Spectral Regularization for Multi-Task Model Merging [96.82449201305234]
モデルマージは、個別に調整された複数の専門家をトレーニングデータなしで単一のマルチタスクモデルに結合する。
State-of-the-art merging method formulate merging as a layer-wise interference problem。
本稿では,逐次降下の勾配-流路に一致するソフト指数フィルタを組み合わせた閉形式手法SWUDIを提案する。
論文 参考訳(メタデータ) (2026-06-05T14:00:47Z) - cuNNQS-SCI: A Fully GPU-Accelerated Framework for High-Performance Configuration Interaction Selection with Neural Network Quantum States [12.436495225801863]
cuNNQS-SCIは、これらのボトルネックを克服するために設計された、完全にGPUアクセラレーションされたSCIフレームワークである。
64GPUのNVIDIA A100クラスタでは、cuNNQS-SCIは最大2.32倍のエンドツーエンドのスピードアップを達成する。
優れた分散パフォーマンスを示し、強力なスケーリングテストで90%以上の並列効率を維持する。
論文 参考訳(メタデータ) (2026-04-17T07:15:18Z) - GRAB-ANNS: High-Throughput Indexing and Hybrid Search via GPU-Native Bucketing [39.763467046232584]
動的ハイブリッド検索のためのGPUネイティブグラフインデックスであるGRAB-ANNSを提案する。
GRAB-ANNSは最新のCPUベースシステムよりも最大240.1倍高いクエリスループットと12.6倍高速なインデックス構築を実現する。
論文 参考訳(メタデータ) (2026-03-31T11:00:10Z) - Vec-QMDP: Vectorized POMDP Planning on CPUs for Real-Time Autonomous Driving [8.933077584568268]
本稿では, POMDP 探索と最新の CPU SIMD アーキテクチャを協調する CPU 並列プランナ Vec-QMDP を提案する。
Vec-QMDPは、最先端のシリアルプランナーよりも227Times$-1073timesのスピードアップを達成した。
論文 参考訳(メタデータ) (2026-02-09T07:15:19Z) - RAGdb: A Zero-Dependency, Embeddable Architecture for Multimodal Retrieval-Augmented Generation on the Edge [0.0]
Retrieval-Augmented Generation (RAG) は、ドメイン固有の最新のデータにおいて、LLM(Large Language Models)を基盤とする標準パラダイムとして確立されている。
RAGdbは、自動マルチモーダル取り込み、ONNXベースの抽出、ハイブリッドベクトル検索を単一のポータブルコンテナに統合する。
システムは標準的なDockerベースのRAGスタックと比較してディスクフットプリントを約99.5%削減する。
論文 参考訳(メタデータ) (2025-12-09T15:12:13Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via
GDPA Linearization [59.87663954467815]
アルゴリズムの展開は、モデルベースのアルゴリズムの各イテレーションをニューラルネットワーク層として実装することにより、解釈可能で類似のニューラルネットワークアーキテクチャを生成する。
本稿では、Gershgorin disc perfect alignment (GDPA)と呼ばれる最近の線形代数定理を利用して、二進グラフの半定値プログラミング緩和(SDR)のためのプロジェクションフリーアルゴリズムをアンロールする。
実験結果から,我々の未学習ネットワークは純粋モデルベースグラフ分類器よりも優れ,純粋データ駆動ネットワークに匹敵する性能を示したが,パラメータははるかに少なかった。
論文 参考訳(メタデータ) (2021-09-10T07:01:15Z) - Why Approximate Matrix Square Root Outperforms Accurate SVD in Global
Covariance Pooling? [59.820507600960745]
本稿では,前方通過のSVDと後方伝播のPad'e近似を用いて勾配を計算する新しいGCPメタ層を提案する。
提案するメタレイヤは,さまざまなCNNモデルに統合され,大規模および微細なデータセット上で最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-05-06T08:03:45Z) - MPLP++: Fast, Parallel Dual Block-Coordinate Ascent for Dense Graphical
Models [96.1052289276254]
この研究は、人気のあるDual Block-Coordinate Ascent原則に基づく新しいMAP-solverを導入している。
驚いたことに、性能の低い解法に小さな変更を加えることで、既存の解法を大きなマージンで大幅に上回る新しい解法MPLP++を導出します。
論文 参考訳(メタデータ) (2020-04-16T16:20:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。