論文の概要: Stochastic optimization on matrices and a graphon McKean-Vlasov limit

• arxiv url: http://arxiv.org/abs/2210.00422v3
• Date: Mon, 27 May 2024 23:34:26 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-30 04:56:05.968653
• Title: Stochastic optimization on matrices and a graphon McKean-Vlasov limit
• Title（参考訳）: 行列の確率的最適化とマッキーン・ブラソフ極限
• Authors: Zaid Harchaoui, Sewoong Oh, Soumik Pal, Raghav Somani, Raghavendra Tripathi,
• Abstract要約: 同じ置換を用いて行と列の置換の下で不変である適当な関数の大きい対称行列の空間上の勾配降下を考える。 行列の次元が無限大になるにつれて、これらのランダム曲線の決定論的極限を確立する。
• 参考スコア（独自算出の注目度）: 26.906770707395832
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider stochastic gradient descents on the space of large symmetric matrices of suitable functions that are invariant under permuting the rows and columns using the same permutation. We establish deterministic limits of these random curves as the dimensions of the matrices go to infinity while the entries remain bounded. Under a ``small noise'' assumption the limit is shown to be the gradient flow of functions on graphons whose existence was established in~\cite{oh2021gradient}. We also consider limits of stochastic gradient descents with added properly scaled reflected Brownian noise. The limiting curve of graphons is characterized by a family of stochastic differential equations with reflections and can be thought of as an extension of the classical McKean-Vlasov limit for interacting diffusions to the graphon setting. The proofs introduce a family of infinite-dimensional exchangeable arrays of reflected diffusions and a novel notion of propagation of chaos for large matrices of diffusions converging to such arrays in a suitable sense.
• Abstract（参考訳）: 同じ置換を用いて行と列の置換の下で不変である適当な関数の大きい対称行列の空間上の確率勾配降下を考える。 行列の次元が無限大になるにつれて、これらのランダム曲線の決定論的極限を確立する。 小さなノイズ」の仮定の下で、この極限は–\cite{oh2021gradient} で成立するグラモン上の関数の勾配流であることが示される。 また,適切にスケールしたブラウン雑音を付加した確率勾配勾配の限界についても検討した。 グラノンの極限曲線は、反射を伴う確率微分方程式の族によって特徴づけられ、グラノン設定への相互作用する拡散に対する古典的なマッケイン・ブラソフ極限の拡張と考えることができる。 これらの証明は、反射拡散の無限次元交換可能な配列の族と、そのような配列に適切な意味で収束する大きな拡散の行列に対するカオスの伝播という新しい概念を導入する。

関連論文リスト

• Asymmetric matrix sensing by gradient descent with small random initialization [0.8611782340880084]
  いくつかの線形測定値から低ランク行列を再構成する問題について検討する。 私たちの重要な貢献は、$texted gradient flow$と呼ぶ連続的な勾配流方程式の導入です。
  論文  参考訳（メタデータ） (2023-09-04T20:23:35Z)
• Path convergence of Markov chains on large graphs [3.693375843298262]
  グラフのサイズが無限大になるにつれて、プロセスのランダムな軌跡は測度値グラフの空間上の決定論的曲線に収束することを示す。 このアプローチの新たな特徴は、ある制限状態におけるメトロポリス連鎖に対して正確な指数収束速度を提供することである。
  論文  参考訳（メタデータ） (2023-08-18T00:13:59Z)
• Hessian Based Smoothing Splines for Manifold Learning [0.228438857884398]
  多様体学習における多次元平滑化スプラインアルゴリズムを提案する。 平らな多様体のソボレフ空間上の二次形式に、薄板スプラインの曲げエネルギーペナルティを一般化する。 解の存在と一意性は、ヒルベルト空間を再現する理論を適用することによって示される。
  論文  参考訳（メタデータ） (2023-02-10T02:49:05Z)
• Dynamical chaos in nonlinear Schr\"odinger models with subquadratic power nonlinearity [137.6408511310322]
  ランダムポテンシャルと準4次パワー非線形性を持つ非線形シュリンガー格子のクラスを扱う。 拡散過程は亜拡散性であり, 微細構造が複雑であることを示す。 二次パワー非線形性の限界も議論され、非局在化境界をもたらすことが示されている。
  論文  参考訳（メタデータ） (2023-01-20T16:45:36Z)
• Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
  本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。 6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-05-21T01:47:17Z)
• Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable Approach for Continuous Markov Random Fields [53.31927549039624]
  断片的な離散化は既存の離散化問題と矛盾しないことを示す。 この理論を2つの画像のマッチング問題に適用する。
  論文  参考訳（メタデータ） (2021-07-13T12:31:06Z)
• Spectral clustering under degree heterogeneity: a case for the random walk Laplacian [83.79286663107845]
  本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。 次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
  論文  参考訳（メタデータ） (2021-05-03T16:36:27Z)
• Scaling limits of lattice quantum fields by wavelets [62.997667081978825]
  再正規化群は格子体代数間の拡大写像の帰納的体系と見なされる。 自由格子基底状態の帰納的極限が存在し、極限状態はよく知られた巨大連続体自由場にまで拡張されることを示す。
  論文  参考訳（メタデータ） (2020-10-21T16:30:06Z)
• Boundary effects on symmetry resolved entanglement [0.0]
  境界を持つ一次元系の対称性分解エンタングルメントエントロピーについて検討する。 定理と予想に基づいて、電荷と対称性を分解したエントロピーの正確な公式を導出する。
  論文  参考訳（メタデータ） (2020-09-17T19:34:34Z)
• Operator-algebraic renormalization and wavelets [62.997667081978825]
  我々はウェーブレット理論を用いてハミルトン格子系のスケーリング極限として連続体自由場を構築する。 格子観測可能な格子を、コンパクトに支持されたウェーブレットでスミアリングされた連続体と同定するスケーリング方程式により、正規化群ステップを決定する。
  論文  参考訳（メタデータ） (2020-02-04T18:04:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。