論文の概要: Searching for Stage-wise Neural Graphs In the Limit

• arxiv url: http://arxiv.org/abs/1912.12860v1
• Date: Mon, 30 Dec 2019 09:17:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-17 02:41:18.061740
• Title: Searching for Stage-wise Neural Graphs In the Limit
• Title（参考訳）: 限界における段階的ニューラルグラフの探索
• Authors: Xin Zhou, Dejing Dou, Boyang Li
• Abstract要約: グラフオンとは、グラフのコーシー列とスケールフリー確率分布の極限である。 我々は,画像ネットを扱える大容量のグラフに対して,小容量のステージワイドグラフを探索し,スケールアップする理論的動機付け手法を開発した。
• 参考スコア（独自算出の注目度）: 38.929579739825066
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Search space is a key consideration for neural architecture search. Recently, Xie et al. (2019) found that randomly generated networks from the same distribution perform similarly, which suggests we should search for random graph distributions instead of graphs. We propose graphon as a new search space. A graphon is the limit of Cauchy sequence of graphs and a scale-free probabilistic distribution, from which graphs of different number of nodes can be drawn. By utilizing properties of the graphon space and the associated cut-distance metric, we develop theoretically motivated techniques that search for and scale up small-capacity stage-wise graphs found on small datasets to large-capacity graphs that can handle ImageNet. The scaled stage-wise graphs outperform DenseNet and randomly wired Watts-Strogatz networks, indicating the benefits of graphon theory in NAS applications.
• Abstract（参考訳）: 検索空間は、ニューラルネットワーク検索の重要な考慮事項である。 最近、Xie et al. (2019) は、同じ分布からランダムに生成されたネットワークも同様に動作し、グラフの代わりにランダムなグラフ分布を探索すべきであることを示した。 我々は新しい検索空間としてGraphonを提案する。 グラフオンとは、グラフのコーシー列とスケールのない確率分布の極限であり、そこから異なる数のノードのグラフを描くことができる。 グラフェン空間とそれに伴うカット距離計量の特性を利用することで、小さなデータセットにある小容量のステージワイズグラフを、イメージネットを処理可能な大容量グラフに探索・拡張する理論的動機付け技術を開発する。 スケールしたステージワイドグラフは、DenseNetやランダムに配線されたWatts-Strogatzネットワークよりも優れており、NAS応用におけるグラノン理論の利点を示している。

関連論文リスト

• Graphon Pooling for Reducing Dimensionality of Signals and Convolutional Operators on Graphs [131.53471236405628]
  グラフ空間における[0, 1]2の分割上のグラフとグラフ信号の誘導的グラフ表現を利用する3つの方法を提案する。 これらの低次元表現がグラフとグラフ信号の収束列を構成することを証明している。 我々は,層間次元減少比が大きい場合,グラノンプーリングは文献で提案した他の手法よりも有意に優れていることを観察した。
  論文  参考訳（メタデータ） (2022-12-15T22:11:34Z)
• Joint Network Topology Inference via a Shared Graphon Model [24.077455621015552]
  観測結果から複数のネットワークのトポロジを推定する問題を考察する。 これは非パラメトリックなモデルであり、潜在的に異なるサイズのグラフを描画することができる。
  論文  参考訳（メタデータ） (2022-09-17T02:38:58Z)
• Graphon-aided Joint Estimation of Multiple Graphs [24.077455621015552]
  観測結果から複数のネットワークのトポロジを推定する問題を考察する。 これは非パラメトリックなモデルであり、潜在的に異なるサイズのグラフを描画することができる。
  論文  参考訳（メタデータ） (2022-02-11T15:20:44Z)
• Neighborhood Random Walk Graph Sampling for Regularized Bayesian Graph Convolutional Neural Networks [0.6236890292833384]
  本稿では,近隣ランダムウォークサンプリング(BGCN-NRWS)を用いたベイジアングラフ畳み込みネットワーク(Bayesian Graph Convolutional Network)を提案する。 BGCN-NRWSは、グラフ構造を利用したマルコフ・チェイン・モンテカルロ(MCMC)に基づくグラフサンプリングアルゴリズムを使用し、変分推論層を用いてオーバーフィッティングを低減し、半教師付きノード分類における最先端と比較して一貫して競合する分類結果を得る。
  論文  参考訳（メタデータ） (2021-12-14T20:58:27Z)
• Increase and Conquer: Training Graph Neural Networks on Growing Graphs [116.03137405192356]
  本稿では,このグラフからBernoulliをサンプリングしたグラフ上でGNNをトレーニングすることで,WNN(Graphon Neural Network)を学習する問題を考察する。 これらの結果から着想を得た大規模グラフ上でGNNを学習するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-07T15:05:59Z)
• Learning Graphon Autoencoders for Generative Graph Modeling [91.32624399902755]
  Graphonは任意のサイズでグラフを生成する非パラメトリックモデルであり、グラフから簡単に誘導できる。 解析可能でスケーラブルなグラフ生成モデルを構築するために,textitgraphon autoencoder という新しいフレームワークを提案する。 線形グルーポン分解モデルはデコーダとして機能し、潜在表現を活用して誘導されたグルーポンを再構成する。
  論文  参考訳（メタデータ） (2021-05-29T08:11:40Z)
• Graph and graphon neural network stability [122.06927400759021]
  グラフネットワーク(GNN)は、ネットワークデータの有意義な表現を生成するためにグラフ構造の知識に依存する学習アーキテクチャである。 我々は,GNNの安定性を,グラファイトと呼ばれるカーネルオブジェクトを用いて解析する。
  論文  参考訳（メタデータ） (2020-10-23T16:55:56Z)
• Graph Pooling with Node Proximity for Hierarchical Representation Learning [80.62181998314547]
  本稿では,ノード近接を利用したグラフプーリング手法を提案し,そのマルチホップトポロジを用いたグラフデータの階層的表現学習を改善する。 その結果,提案したグラフプーリング戦略は,公開グラフ分類ベンチマークデータセットの集合において,最先端のパフォーマンスを達成できることが示唆された。
  論文  参考訳（メタデータ） (2020-06-19T13:09:44Z)
• The Power of Graph Convolutional Networks to Distinguish Random Graph Models: Short Version [27.544219236164764]
  グラフ畳み込みネットワーク(GCN)はグラフ表現学習において広く使われている手法である。 サンプルグラフの埋め込みに基づいて異なるランダムグラフモデルを区別するGCNのパワーについて検討する。
  論文  参考訳（メタデータ） (2020-02-13T17:58:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。