論文の概要: Gradient flows on graphons: existence, convergence, continuity equations

• arxiv url: http://arxiv.org/abs/2111.09459v3
• Date: Thu, 29 Jun 2023 17:11:22 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-30 17:10:17.425721
• Title: Gradient flows on graphons: existence, convergence, continuity equations
• Title（参考訳）: グラフェン上の勾配流:存在、収束、連続性方程式
• Authors: Sewoong Oh, Soumik Pal, Raghav Somani, Raghavendra Tripathi
• Abstract要約: 確率測度上のワッサーシュタイン勾配流は、様々な最適化問題に多くの応用を見出した。 辺重みの適当な関数のユークリッド勾配流は、グラノン空間上の曲線によって与えられる新しい連続極限に収束することを示す。
• 参考スコア（独自算出の注目度）: 27.562307342062354
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Wasserstein gradient flows on probability measures have found a host of applications in various optimization problems. They typically arise as the continuum limit of exchangeable particle systems evolving by some mean-field interaction involving a gradient-type potential. However, in many problems, such as in multi-layer neural networks, the so-called particles are edge weights on large graphs whose nodes are exchangeable. Such large graphs are known to converge to continuum limits called graphons as their size grow to infinity. We show that the Euclidean gradient flow of a suitable function of the edge-weights converges to a novel continuum limit given by a curve on the space of graphons that can be appropriately described as a gradient flow or, more technically, a curve of maximal slope. Several natural functions on graphons, such as homomorphism functions and the scalar entropy, are covered by our set-up, and the examples have been worked out in detail.
• Abstract（参考訳）: 確率測度上のワッサーシュタイン勾配流は、様々な最適化問題に多くの応用を見出した。 通常は、勾配型ポテンシャルを含む平均場相互作用によって進化する交換可能な粒子系の連続極限として生じる。 しかし、多層ニューラルネットワークのような多くの問題において、いわゆる粒子はノードが交換可能な大きなグラフ上のエッジ重みである。 このような大きなグラフは、その大きさが無限大になるにつれて、グラトンと呼ばれる連続体極限に収束することが知られている。 辺重みの適当な関数のユークリッド勾配流は、グラノンの空間上の曲線によって与えられる新しい連続極限に収束し、勾配流あるいはより技術的には最大勾配の曲線として適切に記述できることを示す。 準同型函数やスカラーエントロピーのようなグラトン上のいくつかの自然関数は、この集合によってカバーされ、その例が詳細に研究されている。

関連論文リスト

• Adversarial flows: A gradient flow characterization of adversarial attacks [1.8749305679160366]
  ニューラルネットワークに対する敵攻撃を行う一般的な方法は、いわゆる高速勾配符号法である。 我々は、離散化と関連する勾配流の収束性を示す。
  論文  参考訳（メタデータ） (2024-06-08T07:05:26Z)
• Improving embedding of graphs with missing data by soft manifolds [51.425411400683565]
  グラフ埋め込みの信頼性は、連続空間の幾何がグラフ構造とどの程度一致しているかに依存する。 我々は、この問題を解決することができる、ソフト多様体と呼ばれる新しい多様体のクラスを導入する。 グラフ埋め込みにソフト多様体を用いることで、複雑なデータセット上のデータ解析における任意のタスクを追求するための連続空間を提供できる。
  論文  参考訳（メタデータ） (2023-11-29T12:48:33Z)
• Curve Your Attention: Mixed-Curvature Transformers for Graph Representation Learning [77.1421343649344]
  本稿では,一定曲率空間の積を完全に操作するトランスフォーマーの一般化を提案する。 また、非ユークリッド注意に対するカーネル化されたアプローチを提供し、ノード数とエッジ数に線形に時間とメモリコストでモデルを実行できるようにします。
  論文  参考訳（メタデータ） (2023-09-08T02:44:37Z)
• Path convergence of Markov chains on large graphs [3.693375843298262]
  グラフのサイズが無限大になるにつれて、プロセスのランダムな軌跡は測度値グラフの空間上の決定論的曲線に収束することを示す。 このアプローチの新たな特徴は、ある制限状態におけるメトロポリス連鎖に対して正確な指数収束速度を提供することである。
  論文  参考訳（メタデータ） (2023-08-18T00:13:59Z)
• Geometric Graph Filters and Neural Networks: Limit Properties and Discriminability Trade-offs [122.06927400759021]
  本稿では,グラフニューラルネットワーク (GNN) と多様体ニューラルネットワーク (MNN) の関係について検討する。 これらのグラフ上の畳み込みフィルタとニューラルネットワークが連続多様体上の畳み込みフィルタとニューラルネットワークに収束することを示す。
  論文  参考訳（メタデータ） (2023-05-29T08:27:17Z)
• Graph Generation with Diffusion Mixture [57.78958552860948]
  グラフの生成は、非ユークリッド構造の複雑な性質を理解する必要がある実世界のタスクにとって大きな課題である。 本稿では,拡散過程の最終グラフ構造を明示的に学習することにより,グラフのトポロジーをモデル化する生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-02-07T17:07:46Z)
• Stochastic optimization on matrices and a graphon McKean-Vlasov limit [26.906770707395832]
  同じ置換を用いて行と列の置換の下で不変である適当な関数の大きい対称行列の空間上の勾配降下を考える。 行列の次元が無限大になるにつれて、これらのランダム曲線の決定論的極限を確立する。
  論文  参考訳（メタデータ） (2022-10-02T04:54:49Z)
• Understanding convolution on graphs via energies [23.18124653469668]
  グラフネットワーク(GNN)は一般的にメッセージパッシングによって動作し、隣人から受信した情報に基づいてノードの状態が更新される。 ほとんどのメッセージパッシングモデルはグラフ畳み込みとして機能し、エッジ上に伝播する前に共有された線形変換によって特徴が混合される。 ノード分類タスクでは、グラフの畳み込みには2つの制限がある。
  論文  参考訳（メタデータ） (2022-06-22T11:45:36Z)
• Uniform Convergence Rates for Lipschitz Learning on Graphs [1.9014535120129339]
  リプシッツ学習(英: Lipschitz learning)は、グラフに基づく半教師付き学習法である。 グラフ無限大ラプラス方程式の解に対する一様収束率を証明する。
  論文  参考訳（メタデータ） (2021-11-24T09:44:14Z)
• Multilayer Graph Clustering with Optimized Node Embedding [70.1053472751897]
  多層グラフクラスタリングは、グラフノードをカテゴリまたはコミュニティに分割することを目指しています。 与えられた多層グラフの層をクラスタリングに親しみやすい埋め込みを提案する。 実験の結果,本手法は著しい改善をもたらすことがわかった。
  論文  参考訳（メタデータ） (2021-03-30T17:36:40Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。