論文の概要: Graph Neural Networks Are Evolutionary Algorithms
- arxiv url: http://arxiv.org/abs/2412.17629v1
- Date: Mon, 23 Dec 2024 15:06:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-24 19:42:48.485973
- Title: Graph Neural Networks Are Evolutionary Algorithms
- Title(参考訳): グラフニューラルネットワークは進化的アルゴリズムである
- Authors: Kaichen Ouyang, Shengwei Fu,
- Abstract要約: Graph Neural Evolution(GNE)は、グラフ内のノードとして個人をモデル化する新しい進化アルゴリズムである。
GNEは、GA、DE、CMA-ES、SDAES、RL-SHADEといった最先端のアルゴリズムを一貫して上回っている。
GNEはEAとGNNを結びつける概念的および数学的基盤を確立し、両方の分野に新たな視点を提供する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we reveal the intrinsic duality between graph neural networks (GNNs) and evolutionary algorithms (EAs), bridging two traditionally distinct fields. Building on this insight, we propose Graph Neural Evolution (GNE), a novel evolutionary algorithm that models individuals as nodes in a graph and leverages designed frequency-domain filters to balance global exploration and local exploitation. Through the use of these filters, GNE aggregates high-frequency (diversity-enhancing) and low-frequency (stability-promoting) information, transforming EAs into interpretable and tunable mechanisms in the frequency domain. Extensive experiments on benchmark functions demonstrate that GNE consistently outperforms state-of-the-art algorithms such as GA, DE, CMA-ES, SDAES, and RL-SHADE, excelling in complex landscapes, optimal solution shifts, and noisy environments. Its robustness, adaptability, and superior convergence highlight its practical and theoretical value. Beyond optimization, GNE establishes a conceptual and mathematical foundation linking EAs and GNNs, offering new perspectives for both fields. Its framework encourages the development of task-adaptive filters and hybrid approaches for EAs, while its insights can inspire advances in GNNs, such as improved global information propagation and mitigation of oversmoothing. GNE's versatility extends to solving challenges in machine learning, including hyperparameter tuning and neural architecture search, as well as real-world applications in engineering and operations research. By uniting the dynamics of EAs with the structural insights of GNNs, this work provides a foundation for interdisciplinary innovation, paving the way for scalable and interpretable solutions to complex optimization problems.
- Abstract(参考訳): 本稿では,グラフニューラルネットワーク(GNN)と進化的アルゴリズム(EA)の固有双対性を明らかにする。
この知見に基づいて、我々はグラフ内のノードとして個人をモデル化し、グローバルな探索と局所的な利用のバランスをとるために設計された周波数領域フィルタを利用する新しい進化的アルゴリズムであるグラフニューラル進化(GNE)を提案する。
これらのフィルタを用いることで、GNEは高周波(ダイバーシティ・エンハンシング)および低周波(安定性・プロモーティング)情報を集約し、EAを周波数領域の解釈可能な、調整可能なメカニズムに変換する。
ベンチマーク関数に関する大規模な実験により、GNEはGA、DE、CMA-ES、SDAES、RL-SHADEといった最先端のアルゴリズムを一貫して上回り、複雑な景観、最適解シフト、ノイズの多い環境に優れていた。
その堅牢性、適応性、および優れた収束は、その実用的および理論的価値を強調している。
最適化以外にも、GNEはEAとGNNを結びつける概念的および数学的基盤を確立し、両方の分野に新たな視点を提供する。
その枠組みは、EAのためのタスク適応型フィルタとハイブリッドアプローチの開発を奨励し、その洞察は、グローバルな情報伝達の改善や過密化の緩和など、GNNの進歩を刺激することができる。
GNEの汎用性は、ハイパーパラメータチューニングやニューラルアーキテクチャ検索など、マシンラーニングの課題の解決や、エンジニアリングや運用研究における現実的な応用にまで拡張されている。
EAのダイナミクスとGNNの構造的洞察を結合することにより、この研究は、複雑な最適化問題に対するスケーラブルで解釈可能なソリューションの道を開く、学際的なイノベーションの基礎を提供する。
関連論文リスト
- ScaleGNN: Towards Scalable Graph Neural Networks via Adaptive High-order Neighboring Feature Fusion [37.22772892623285]
スケーラブルで効果的なグラフ学習のためのマルチホップノード機能を適応的に融合する新しいフレームワークであるScaleGNNを提案する。
予測精度と計算効率の両面で,ScaleGNNは最先端のGNNよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2025-04-22T14:05:11Z) - DeltaGNN: Graph Neural Network with Information Flow Control [5.563171090433323]
グラフニューラルネットワーク(GNN)は、メッセージパッシングプロセスの近傍集約を通じてグラフ構造化データを処理するように設計されている。
メッセージパッシングにより、GNNは短距離空間的相互作用を理解できるだけでなく、過度なスムーシングや過度なスカッシングに悩まされる。
本稿では,線形計算オーバーヘッドを伴うオーバー・スムーシングとオーバー・スキャッシングに対処するための,emph情報フロー制御機構を提案する。
さまざまなサイズ、トポロジ、密度、ホモフィリック比のグラフを含む10の実世界のデータセットを対象に、我々のモデルをベンチマークし、優れたパフォーマンスを示す。
論文 参考訳(メタデータ) (2025-01-10T14:34:20Z) - Graph Neural Networks Are More Than Filters: Revisiting and Benchmarking from A Spectral Perspective [49.613774305350084]
グラフニューラルネットワーク(GNN)は、様々なグラフベースの学習タスクにおいて顕著な成功を収めている。
近年の研究では、非線形層などの他のコンポーネントが、GNNがスペクトル領域の入力グラフデータをどのように処理するかに大きく影響する可能性が示唆されている。
本稿では、入力グラフデータの異なる周波数成分に符号化された情報を捕捉し、活用する際のGNNの能力を評価するための総合的なベンチマークを提案する。
論文 参考訳(メタデータ) (2024-12-10T04:53:53Z) - Dual-Frequency Filtering Self-aware Graph Neural Networks for Homophilic and Heterophilic Graphs [60.82508765185161]
我々は、Dual-Frequency Filtering Self-Aware Graph Neural Networks (DFGNN)を提案する。
DFGNNは低域通過フィルタと高域通過フィルタを統合し、滑らかで詳細な位相的特徴を抽出する。
フィルター比を動的に調整し、ホモフィルグラフとヘテロフィルグラフの両方に対応する。
論文 参考訳(メタデータ) (2024-11-18T04:57:05Z) - Beyond Grid Data: Exploring Graph Neural Networks for Earth Observation [26.397297480169858]
グラフニューラルネットワーク(GNN)は重要なイノベーションとして登場し、非ユークリッド領域にDLを推進している。
GNNは、多様なモダリティ、複数のセンサー、地球観測データの異種性によって引き起こされる課題に効果的に取り組むことができる。
本稿では、気象・気候分析、災害管理、大気質モニタリング、農業、土地被覆分類、水文プロセスモデリング、都市モデルなど、GNNの地球システムにおける科学的問題への応用の幅広い範囲について検討する。
論文 参考訳(メタデータ) (2024-11-05T16:12:12Z) - On the Convergence of (Stochastic) Gradient Descent for Kolmogorov--Arnold Networks [56.78271181959529]
Kolmogorov--Arnold Networks (KAN) はディープラーニングコミュニティで注目されている。
実験により、勾配降下(SGD)により最適化されたカンが、ほぼゼロに近い訓練損失を達成できることが示された。
論文 参考訳(メタデータ) (2024-10-10T15:34:10Z) - Diffusing to the Top: Boost Graph Neural Networks with Minimal Hyperparameter Tuning [33.948899558876604]
グラフ条件付き潜在拡散フレームワーク(GNN-Diff)を導入し,高性能なGNNを生成する。
提案手法は,小,大,長距離グラフ上のノード分類とリンク予測という4つのグラフタスクを対象とした166の実験を通じて検証する。
論文 参考訳(メタデータ) (2024-10-08T05:27:34Z) - Spatio-Spectral Graph Neural Networks [50.277959544420455]
比スペクトルグラフネットワーク(S$2$GNN)を提案する。
S$2$GNNは空間的およびスペクトル的にパラメータ化されたグラフフィルタを組み合わせる。
S$2$GNNsは、MPGNNsよりも厳密な近似理論誤差境界を生じる。
論文 参考訳(メタデータ) (2024-05-29T14:28:08Z) - Enabling Accelerators for Graph Computing [0.0]
グラフニューラルネットワーク(GNN)は、グラフ構造化データを学ぶための新しいパラダイムを提供する。
GNNは従来のニューラルネットワークと比較して新しい計算課題を提示している。
この論文は、GNNが基盤となるハードウェアとどのように相互作用するかをよりよく理解することを目的としている。
論文 参考訳(メタデータ) (2023-12-16T23:31:20Z) - GNN-based physics solver for time-independent PDEs [1.7616042687330642]
時間に依存しない問題は、正確な予測を得るために、計算領域全体にわたる情報の長距離交換を必要とするという課題を生じさせる。
この課題を克服するために、Edge Augmented GNNとMulti-GNNの2つのグラフニューラルネットワーク(GNN)を提案する。
両ネットワークは,時間非依存の固体力学問題に適用した場合,ベースライン法よりも(1.5~2の係数で)有意に優れた性能を示すことを示す。
論文 参考訳(メタデータ) (2023-03-28T02:04:43Z) - GNN at the Edge: Cost-Efficient Graph Neural Network Processing over
Distributed Edge Servers [24.109721494781592]
グラフニューラルネットワーク(GNN)はまだ探索中であり、その広範な採用に対する大きな違いを示している。
本稿では,多層ヘテロジニアスエッジネットワーク上での分散GNN処理のコスト最適化について検討する。
提案手法は, 高速収束速度で95.8%以上のコスト削減を行い, デファクトベースラインよりも優れた性能が得られることを示す。
論文 参考訳(メタデータ) (2022-10-31T13:03:16Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Learning to Solve Combinatorial Graph Partitioning Problems via
Efficient Exploration [72.15369769265398]
実験により、ECORDは最大カット問題に対するRLアルゴリズムのための新しいSOTAを実現する。
最も近い競合と比較して、ECORDは最適性ギャップを最大73%削減する。
論文 参考訳(メタデータ) (2022-05-27T17:13:10Z) - EvenNet: Ignoring Odd-Hop Neighbors Improves Robustness of Graph Neural
Networks [51.42338058718487]
グラフニューラルネットワーク(GNN)は、グラフ機械学習における有望なパフォーマンスについて、広範な研究の注目を集めている。
GCNやGPRGNNのような既存のアプローチは、テストグラフ上のホモフィリな変化に直面しても堅牢ではない。
偶数多項式グラフフィルタに対応するスペクトルGNNであるEvenNetを提案する。
論文 参考訳(メタデータ) (2022-05-27T10:48:14Z) - LEReg: Empower Graph Neural Networks with Local Energy Regularization [20.663228831150725]
グラフニューラルネットワーク(GNN)は、隣接行列とノードの特徴を、各畳み込み層のエッジを通過するメッセージによってノード表現にマッピングする。
既存のGNNはグラフのすべての部分を均一に扱うため、各ユニークな部分に対して最も情報性の高いメッセージを適応的に渡すことは困難である。
メッセージパッシングを局所的に検討する正規化用語として,(1)エネルギー内レグと(2)エネルギー間レグの2つを提案する。
論文 参考訳(メタデータ) (2022-03-20T14:38:05Z) - Tackling Oversmoothing of GNNs with Contrastive Learning [35.88575306925201]
グラフニューラルネットワーク(GNN)は、グラフデータと表現学習能力の包括的な関係を統合する。
オーバースムーシングはノードの最終的な表現を識別不能にし、ノード分類とリンク予測性能を劣化させる。
本稿では,TGCL(Topology-Guided Graph Contrastive Layer)を提案する。
論文 参考訳(メタデータ) (2021-10-26T15:56:16Z) - Result Diversification by Multi-objective Evolutionary Algorithms with
Theoretical Guarantees [94.72461292387146]
両目的探索問題として結果の多様化問題を再構成し,多目的進化アルゴリズム(EA)を用いて解くことを提案する。
GSEMOが最適時間近似比1/2$を達成できることを理論的に証明する。
目的関数が動的に変化すると、GSEMOはこの近似比をランニングタイムで維持することができ、Borodinらによって提案されたオープンな問題に対処する。
論文 参考訳(メタデータ) (2021-10-18T14:00:22Z) - ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network [72.16255675586089]
本稿では、入力グラフと下流タスクに基づいて最適な曲率を適応的に学習する適応曲率探索ハイパーボリックグラフニューラルネットワークACE-HGNNを提案する。
複数の実世界のグラフデータセットの実験は、競争性能と優れた一般化能力を備えたモデル品質において、顕著で一貫したパフォーマンス改善を示す。
論文 参考訳(メタデータ) (2021-10-15T07:18:57Z) - Local Augmentation for Graph Neural Networks [78.48812244668017]
本稿では,局所的な部分グラフ構造によりノード特性を向上する局所拡張を提案する。
局所的な拡張に基づいて、プラグイン・アンド・プレイ方式で任意のGNNモデルに適用可能な、LA-GNNという新しいフレームワークをさらに設計する。
論文 参考訳(メタデータ) (2021-09-08T18:10:08Z) - Interpreting and Unifying Graph Neural Networks with An Optimization
Framework [47.44773358082203]
グラフニューラルネットワーク(GNN)は、グラフ構造化データ学習に大きな注目を集めている。
本稿では,異なる伝搬機構と統一最適化問題との驚くほどの関連性を確立する。
提案する統一最適化フレームワークは,いくつかの代表的GNN間の共通性を要約し,柔軟に新しいGNNを設計する新たな機会を開く。
論文 参考訳(メタデータ) (2021-01-28T08:06:02Z) - Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。
複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。
本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
論文 参考訳(メタデータ) (2020-06-26T17:03:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。