論文の概要: Second-Order Muon Done Right: A Principled Marriage of Spectral Geometry and Curvature
- arxiv url: http://arxiv.org/abs/2608.09763v1
- Date: Mon, 10 Aug 2026 15:55:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:37.354646
- Title: Second-Order Muon Done Right: A Principled Marriage of Spectral Geometry and Curvature
- Title(参考訳): 第二級ムーンドン右:スペクトル幾何学と曲率の原則結婚
- Abstract要約: ムオンの極点更新は、未重みのないスペクトル幾何学にとって正確である。
4段階のリフレッシュは、静止雑音を増大させながら、ゆっくりと変化する幾何の追跡遅延をほぼ保っていることを示す。
- 参考スコア(独自算出の注目度): 6.605509288217853
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Muon's polar update is exact for an unweighted spectral geometry. We introduce GO-MUON, which uses a matched data-dependent geometry and reuses it across several optimization steps. Conditioned on any positive-definite left and right maps, its raw update exactly solves the corresponding weighted spectral oracle; this statement is independent of how the maps are estimated or how recently they were refreshed. For softmax cross-entropy, we quantify when the observed-label backward factor approaches the model Fisher and generalized Gauss--Newton factor. We also show that four-step refresh nearly preserves the tracking delay of slowly changing geometry while increasing stationary factor noise, making lazy geometry a compute--statistics tradeoff rather than a denoising mechanism.
- Abstract(参考訳): ムオンの極点更新は、未重みのないスペクトル幾何学にとって正確である。
GO-MUONは、一致したデータ依存幾何を使い、複数の最適化ステップで再利用する。
正定値の左と右の地図で条件付きで、その生の更新は対応する重み付けされたスペクトルのオラクルを正確に解決する。
ソフトマックスのクロスエントロピーでは、観測されたラベルの後方因子がフィッシャーモデルに近づき、一般化されたガウス因子-ニュートン因子を定量化する。
また, 4段階のリフレッシュは, 緩やかな形状変化の追従遅延をほとんど保ちつつ, 定常因子雑音を増大させ, 遅延幾何学をデノナイジング機構ではなく計算統計的トレードオフにすることを示した。
関連論文リスト
- Weighted Empirical Risk Minimization for Machine Learning under Long-Range Dependence: Exact Pathwise Rates and Learning-Error Geometry [0.0]
我々は、長距離依存データに対して、定期的に重み付けされた経験的リスクによって訓練された滑らかなパラメトリックモデルに対して、正確な概日理論を開発する。
トレーニング観測は、定常ガウス列の固定有限ウィンドウから生成される。
許容電力指数に対する大域的最適化は、全ての指数が正であることを示す。
論文 参考訳(メタデータ) (2026-09-09T19:16:17Z) - Identifying slow relaxation in many-body quantum systems through state-graph geometry and state-graph heterogeneity [0.0]
我々は、多体状態グラフを通して緩やかな緩和ダイナミクスを調べるために、量子ランダムウォークの理論からツールを適応する。
状態グラフ幾何は、様々な系における緩やかな緩和ダイナミクスの非常に敏感な指標であることがわかった。
論文 参考訳(メタデータ) (2026-08-05T18:00:32Z) - Muse: Representation Geometry of Muon Beyond Normalized Momentum [26.90642116529718]
ミューオン型は行列運動量に対して極写像を適用するが、その更新は曲率化前の各パラメータブロックの表現にも依存する。
我々は、同じ運動量規則とニュートンの運動量規則を共有するムオンスタイルの族であるメソッドを導入する。
バランスのとれた非ネイティブ表現はネイティブ表現と一致するが、より短い次元の縮小はスケーリングと特異チャネルのサポートを弱め、正規化運動量の増加につながる。
論文 参考訳(メタデータ) (2026-07-16T03:42:21Z) - Learning Gaussian Graphical Models from a Glauber Trajectory Without Mixing [13.453178572042125]
グラウバー力学の単一軌道から$n$変数上の$d$スパースガウス図形モデルの構造を学習する作業について検討する。
このギャップによって部分的に動機づけられた条件付き時間アルゴリズムは、単一グラウバー軌道から軌道長保証を回復する。
論文 参考訳(メタデータ) (2026-06-30T07:07:57Z) - Muon is Not That Special: Random or Inverted Spectra Work Just as Well [50.969177887027115]
正確な幾何構造が性能に影響を及ぼす重要な要因ではないことを実証する。
ここでは、Schatten (quasi-size)normsに基づく幾何学のファミリであるFreonを紹介する。
また、特異値をランダムノイズで置き換える不条理なKaonを導入する。
論文 参考訳(メタデータ) (2026-05-11T19:42:48Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Graph Signal Sampling for Inductive One-Bit Matrix Completion: a
Closed-form Solution [112.3443939502313]
グラフ信号解析と処理の利点を享受する統合グラフ信号サンプリングフレームワークを提案する。
キーとなる考え方は、各ユーザのアイテムのレーティングをアイテムイットグラフの頂点上の関数(信号)に変換することである。
オンライン設定では、グラフフーリエ領域における連続ランダムガウス雑音を考慮したベイズ拡張(BGS-IMC)を開発する。
論文 参考訳(メタデータ) (2023-02-08T08:17:43Z) - A Model for Multi-View Residual Covariances based on Perspective
Deformation [88.21738020902411]
マルチビューSfM, オードメトリ, SLAMセットアップにおける視覚的残差の共分散モデルの導出を行う。
我々は、合成データと実データを用いてモデルを検証し、それを光度および特徴量に基づくバンドル調整に統合する。
論文 参考訳(メタデータ) (2022-02-01T21:21:56Z) - Debiased Sinkhorn barycenters [110.79706180350507]
最適輸送(OT)におけるエントロピー正則化(Entropy regularization)は、機械学習におけるWassersteinメトリクスやバリセンタに対する近年の関心の原動力となっている。
このバイアスがエントロピー正則化器を定義する基準測度とどのように密接に関連しているかを示す。
両世界の長所を保ち、エントロピーを滑らかにしないシンクホーン様の高速な反復をデバイアスド・ワッサースタインのバリセンタとして提案する。
論文 参考訳(メタデータ) (2020-06-03T23:06:02Z) - Continuous-time quantum walks in the presence of a quadratic
perturbation [55.41644538483948]
連続時間量子ウォークの特性を、$mathcalH=L + lambda L2$という形のハミルトン群で解決する。
低/高接続性および/または対称性を持つパラダイムモデルであるため、サイクル、完全、およびスターグラフを考える。
論文 参考訳(メタデータ) (2020-05-13T14:53:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。