論文の概要: Momentum-based minimization of the Ginzburg-Landau functional on Euclidean spaces and graphs

• arxiv url: http://arxiv.org/abs/2501.00389v1
• Date: Tue, 31 Dec 2024 11:05:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-05 17:12:44.696708
• Title: Momentum-based minimization of the Ginzburg-Landau functional on Euclidean spaces and graphs
• Title（参考訳）: ユークリッド空間とグラフ上のギンツブルク・ランダウ関数のモーメントに基づく最小化
• Authors: Oluwatosin Akande, Patrick Dondl, Kanan Gupta, Akwum Onwunta, Stephan Wojtowytsch,
• Abstract要約: ユークリッド空間およびグラフ上での拡散周波関数の運動量に基づく最小化と、機械学習における半教師付き分類タスクへの応用について検討する。 時間ステップのサイズが大きすぎるが大きすぎるわけではない場合、運動量によってより高速な収束がもたらされることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: We study the momentum-based minimization of a diffuse perimeter functional on Euclidean spaces and on graphs with applications to semi-supervised classification tasks in machine learning. While the gradient flow in the task at hand is a parabolic partial differential equation, the momentum-method corresponds to a damped hyperbolic PDE, leading to qualitatively and quantitatively different trajectories. Using a convex-concave splitting-based FISTA-type time discretization, we demonstrate empirically that momentum can lead to faster convergence if the time step size is large but not too large. With large time steps, the PDE analysis offers only limited insight into the geometric behavior of solutions and typical hyperbolic phenomena like loss of regularity are not be observed in sample simulations.
• Abstract（参考訳）: ユークリッド空間およびグラフ上での拡散周波関数の運動量に基づく最小化と、機械学習における半教師付き分類タスクへの応用について検討する。 手前のタスクの勾配流は放物線偏微分方程式であるが、モーメント・メソッドは減衰した双曲 PDE に対応し、定性的かつ定量的に異なる軌道へと導かれる。 凸凹型分割型FISTA型時間離散化を用いて、時間ステップサイズが大きすぎるが大きすぎると運動量がより高速に収束することを示した。 大規模な時間ステップでは、PDE分析は解の幾何学的挙動に関する限られた洞察しか得られず、サンプルシミュレーションでは正規性の喪失のような典型的な双曲現象は観察されない。

関連論文リスト

• Convergence of mean-field Langevin dynamics: Time and space discretization, stochastic gradient, and variance reduction [49.66486092259376]
  平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。 近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。 有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
  論文  参考訳（メタデータ） (2023-06-12T16:28:11Z)
• Implicit Bias of Gradient Descent for Logistic Regression at the Edge of Stability [69.01076284478151]
  機械学習の最適化において、勾配降下(GD)はしばしば安定性の端(EoS)で動く 本稿では,EoS系における線形分離可能なデータに対するロジスティック回帰のための定数段差GDの収束と暗黙バイアスについて検討する。
  論文  参考訳（メタデータ） (2023-05-19T16:24:47Z)
• Self-Consistent Velocity Matching of Probability Flows [22.2542921090435]
  偏微分方程式(PDE)のクラスを解くための離散化のないスケーラブルなフレームワークを提案する。 主な観察は、PDE溶液の時間変化速度場は自己整合性が必要であることである。 実験性能の強い計算障害を回避できるバイアス勾配推定器を用いた反復的定式化を用いる。
  論文  参考訳（メタデータ） (2023-01-31T16:17:18Z)
• Semi-supervised Learning of Partial Differential Operators and Dynamical Flows [68.77595310155365]
  本稿では,超ネットワーク解法とフーリエニューラル演算子アーキテクチャを組み合わせた新しい手法を提案する。 本手法は, 1次元, 2次元, 3次元の非線形流体を含む様々な時間発展PDEを用いて実験を行った。 その結果、新しい手法は、監督点の時点における学習精度を向上し、任意の中間時間にその解を補間できることを示した。
  論文  参考訳（メタデータ） (2022-07-28T19:59:14Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• On Large Batch Training and Sharp Minima: A Fokker-Planck Perspective [0.0]
  勾配勾配勾配(SGD)の動的軌道の統計的性質について検討する。 我々は、SDEの連続的な定式化とフォッカー・プランク方程式の理論を利用して、エスケープ現象と大きなバッチとシャープなミニマとの関係に関する新しい結果を開発した。
  論文  参考訳（メタデータ） (2021-12-02T05:24:05Z)
• The Limiting Dynamics of SGD: Modified Loss, Phase Space Oscillations, and Anomalous Diffusion [29.489737359897312]
  勾配降下法(SGD)を訓練した深部ニューラルネットワークの限界ダイナミクスについて検討する。 これらのダイナミクスを駆動する重要な要素は、本来のトレーニング損失ではなく、位相空間の振動を引き起こす速度と確率電流を暗黙的に規則化する修正損失の組み合わせであることを示す。
  論文  参考訳（メタデータ） (2021-07-19T20:18:57Z)
• Solving PDEs on Unknown Manifolds with Machine Learning [8.220217498103315]
  本稿では,未知多様体上の楕円型PDEを解くためのメッシュフリー計算フレームワークと機械学習理論を提案する。 提案したNNソルバは,新しいデータポイント上の一般化とほぼ同一の誤差を持つ新しいデータポイント上でPDEを強固に一般化できることを示す。
  論文  参考訳（メタデータ） (2021-06-12T03:55:15Z)
• DiffPD: Differentiable Projective Dynamics with Contact [65.88720481593118]
  DiffPDは、暗黙の時間積分を持つ効率的な微分可能なソフトボディシミュレータである。 我々はDiffPDの性能を評価し,様々な応用における標準ニュートン法と比較して4～19倍のスピードアップを観測した。
  論文  参考訳（メタデータ） (2021-01-15T00:13:33Z)
• Stochasticity of Deterministic Gradient Descent: Large Learning Rate for Multiscale Objective Function [14.46779433267854]
  本稿では, 近似を一切用いない決定論的グラディエントDescentが, 依然として挙動を示すことができることを示唆する。 目的関数がマルチスケールな振る舞いを示す場合,その目的の微視的詳細を解き明かすのではなく,大規模学習率の体系において,決定論的GDダイナミクスはカオスとなる。
  論文  参考訳（メタデータ） (2020-02-14T18:59:20Z)
• Fast approximations in the homogeneous Ising model for use in scene analysis [61.0951285821105]
  我々は、推論に必要な量を数値計算できる正確な近似を提供する。 近似式はスケーラブルでマルコフランダム場の大きさに満足できないことを示す。 機能的磁気共鳴イメージングアクティベーション検出実験においてベイズ推論を行い, ピスタチオ樹収量の年次増加の空間パターンにおける異方性に対する確率比試験を行った。
  論文  参考訳（メタデータ） (2017-12-06T14:24:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。