論文の概要: When Is Muon Optimal? Radial Fragility and Minimax Geometry
- arxiv url: http://arxiv.org/abs/2610.21549v1
- Date: Thu, 15 Oct 2026 09:13:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.299416
- Title: When Is Muon Optimal? Radial Fragility and Minimax Geometry
- Title(参考訳): ミューオンはいつ最適か? 放射強度とミニマックス幾何
- Abstract要約: 本稿ではRandom-Radius isotropic Curvature Model (RR-ICM)とPolar-Factor Admissibility Setを紹介する。
RR-ICMは、勾配の正極係数上の幾何条件として、正確なスケールドポーラ最適性を符号化する。
我々は、すべての非零大域最小化器が勾配の極線上にあることを証明し、そのスケールは1次元凸問題によって決定される。
- 参考スコア(独自算出の注目度): 1.2691047660244335
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Muon replaces a matrix gradient by an approximate polar factor and has shown strong empirical performance in neural-network training. The Isotropic Curvature Model (ICM) provides a curvature-based explanation for this update by asking when gradient orthogonalization minimizes a one-step local-loss surrogate. We investigate the stability of this explanation when the fixed input radius of the ICM is replaced by a general radial law. We introduce the Random-Radius Isotropic Curvature Model (RR-ICM) and the Polar-Factor Admissibility Set, which encodes exact scaled-polar optimality as a geometric condition on the positive polar factor of the gradient. We derive an exact characterization of this set for arbitrary radial laws and show that all nonscalar admissible responses arise from radial atoms aligned with curvature kinks. Consequently, every atomless radial law exhibits zero-capacity rigidity: exact scaled-polar optimality is possible only when the gradient is already a scaled column isometry. To connect the curvature-based framework with the established spectral geometry of Muon, we introduce the Minimax RR-ICM by replacing directional averaging with worst-case optimization over probability laws on the sphere. We prove that every nonzero global minimizer lies on the polar ray of the gradient, while its scale is determined by a one-dimensional convex problem. The corresponding admissibility geometry is a positive-semidefinite trace slab, in sharp contrast to the spherical-zonoid geometry of the RR-ICM. Together, these results expose the radial fragility of average-curvature explanations and provide a new minimax variational characterization of Muon's polar direction.
- Abstract(参考訳): ミューオンは行列勾配を近似極因子で置き換え、ニューラルネットトレーニングにおいて強い経験的性能を示した。
等方的曲率モデル(ICM)は、勾配直交化が局所的な一段階のサロゲートを最小化するかどうかを問うことで、この更新に対する曲率に基づく説明を提供する。
我々は、ICMの固定入力半径を一般放射法に置き換えた際のこの説明の安定性について検討する。
本稿では,Random-Radius isotropic Curvature Model (RR-ICM)とPolar-Factor Admissibility Setを導入する。
任意の放射法則に対して、この集合の正確な性質を導出し、全ての非スカラー許容応答が、曲率キンクに整列した放射原子から生じることを示す。
その結果、原子の無いラジアル法則はゼロ容量剛性を示す: 厳密なスケールド極性最適性は、勾配が既にスケールドカラム等方性である場合にのみ可能である。
そこで本研究では, 方向平均化を球面上の確率法則に対する最悪の最適化に置き換え, ミニマックスRR-ICMを導入する。
我々は、すべての非零大域最小化器が勾配の極線上にあることを証明し、そのスケールは1次元凸問題によって決定される。
対応する許容度幾何学は正の半無限のトレーススラブであり、RR-ICMの球面-粒子幾何学とは対照的である。
これらの結果は、平均曲率説明の半径不安定性を明らかにし、ムオンの極方向の新たなミニマックス変動特性を提供する。
関連論文リスト
- Projective Normal Fields: A Convex Optimization Method for Constructing Smooth UDFs [68.08537394769392]
本稿では,原点雲からの距離場(UDF)の滑らかな近似を構築するためのフレームワークを提案する。
局所幾何推定をスカラーフィールド構造から分離することにより、PNFは非微分可能なUDFを直接適合させない。
論文 参考訳(メタデータ) (2026-09-28T09:55:50Z) - Curvature-Independent Regret Bounds for Distributed Online Optimization on Hadamard Manifolds [9.035866986287205]
この研究は、Hadamard上の分散オンライン凸最適化に対処する。
我々の知る限り、これらは、曲率による劣化を伴わずに、予測レートの埋め込みに関する最初の曲率に依存しない後悔の保証である。
論文 参考訳(メタデータ) (2026-09-12T01:53:49Z) - Stokes-Informed Diffusion for Robust Linear Polarization Estimation [49.459667092743445]
GenPolar(ゲンポーラー)は、ミュラー形式主義を基盤としたストークスインフォームド拡散フレームワークである。
DLPの忠実度とAoPの安定性の両面において最先端の性能を達成する。
これらの改善は、物質検出やデフレクションを含む下流アプリケーションにおいて、顕著で一貫した利益をもたらす。
論文 参考訳(メタデータ) (2026-07-23T11:56:15Z) - Differentiable Polarized Path Tracing [60.271569691679794]
物理ベースの微分可能レンダリングは、逆レンダリング問題に対する強力なツールであることが証明されている。
本稿では,ロバストかつ偏光に配慮した識別可能な経路トレース手法を提案する。
この定式化により、複雑なシーンにおける材料および照明パラメータの効率的かつ安定した最適化が可能となる。
論文 参考訳(メタデータ) (2026-07-14T20:58:08Z) - Higher-Order Geometric Updates for Levenberg-Marquardt Method via Riemann Normal Coordinates [1.7812378608633406]
最小二乗最適化は回帰、物理インフォームドニューラルネットワーク、その他の機械学習タスクの中心である。
RNC-LMは、湾曲した谷とランク不足問題における収束性と堅牢性を改善する。
大規模な機械学習のポテンシャル-エネルギー-表面フィッティングタスクにおいて、標準のLMよりも34倍のスピードアップを達成する。
論文 参考訳(メタデータ) (2026-07-08T16:39:03Z) - Radial Compensation: Stable and Semantically Decoupled Generative Models on Riemannian Manifolds [0.0]
本稿では,極からの測地距離にのみ依存するように,接空間の基底密度を選択する情報幾何学的手法を提案する。
体積歪みと測地誤差のバランスをとるバランスチャートを導出する。
RCの下では、すべてのbExp設定は同じ多様体密度とフィッシャー情報を保持し、より小さなダイヤル値で勾配のばらつきと流量のコストを低減させる。
論文 参考訳(メタデータ) (2025-11-18T02:15:25Z) - Euclidean Distance Matrix Completion via Asymmetric Projected Gradient Descent [25.846262685970164]
本稿では,Burer-Monteiro因子化に基づく勾配型アルゴリズムの提案と解析を行う。
部分ユークリッド距離測定から点集合構成を再構成する。
論文 参考訳(メタデータ) (2025-04-28T07:13:23Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。