論文の概要: Optimization Geometrodynamics: Variational Reduction and Interaction Curvature
- arxiv url: http://arxiv.org/abs/2607.06723v2
- Date: Sun, 12 Jul 2026 05:07:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-14 13:33:35.676646
- Title: Optimization Geometrodynamics: Variational Reduction and Interaction Curvature
- Title(参考訳): 最適化測地力学:変動低減と相互作用曲線
- Abstract要約: 我々は、この隠れ行列式プッシュフォワードの変分理論として、測地力学を発展させる。
アフィン事前還元の場合、誘導的相互作用曲率(英語版)は負半有限作用素 $-G*H-1G$ である。
閉全測地線ファイバーを持つ大域的解析バンドルと、特異な解析的近接制御器部とを証明した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adaptive optimizers carry hidden states that change how visible gradients become parameter motion. We develop optimization geometrodynamics as a variational theory of this hidden geometry. Infimal pushforward eliminates all hidden states realizing the same action and composes across optimizer hierarchies. Under smooth nondegeneracy, it yields hidden susceptibility and the Schur-complement curvature seen after relaxation. For affine pre-reduction perturbations, the induced interaction curvature is the negative-semidefinite operator $-G^*H^{-1}G$, whose mixed entries integrate to finite mechanism contrasts. Our main realization is the determinant-one affine-invariant SPD action map $P\mapsto PA$. We prove a global analytic bundle with closed totally geodesic fibers and a unique analytic nearest-controller section. A strongly convex fiber theorem and an explicit logarithmic action residual give a globally linearly convergent solver from every feasible initializer, together with nonasymptotic value, controller-distance, and residual bounds and observable posterior stopping certificates. A conditional inexact result propagates supplied rigorous residual-error and radius majorants. The dense spectral kernel is confined to an active subspace of dimension $r\le 2m$, yielding an explicit spectral-arithmetic operation bound and a strict dimensional reduction when $r<d$. For nested shape-normalized quadratic actions, canonical multi-secant projections satisfy an exact CAT(0) Pythagorean decrease and recover the determinant-one inverse Hessian shape at the sharp rank threshold $d-1$, provided the scalar gauge $c_H=(\det H)^{1/d}$ is known. These results turn the action bundle into an exact iterative computation with posterior certificates and a finite-identification theory.
- Abstract(参考訳): アダプティブ・オプティマイザは、可視勾配がパラメータの動きにどのように変化するかを変える隠された状態を運ぶ。
この隠れ幾何学の変分理論として最適化測地力学を開発した。
不完全なプッシュフォワードは、同じアクションを実現するすべての隠された状態を取り除き、オプティマイザ階層にまたがって構成する。
滑らかな非退化の下では、隠れた感受性と緩和後に見られるシュール補体曲率が得られる。
アフィン事前還元摂動の場合、誘導的相互作用曲率(英語版)は負の半有限作用素 $-G^*H^{-1}G$ であり、混合成分は有限機構のコントラストと結合する。
我々の主な実現法は、行列式 1 個のアフィン不変な SPD アクションマップ $P\mapsto PA$ である。
閉全測地線ファイバーを持つ大域的解析バンドルと、特異な解析的近接制御器部とを証明した。
強い凸ファイバー定理と明示的な対数的作用残差は、漸近値、コントローラ距離、残留境界および観測可能な後続停止証明書とともに、すべての実現可能なイニシャライザから大域的に収束した解法を与える。
条件不一致の結果は、供給された厳密な残留誤差と半径メジャーラントを伝播させる。
密度スペクトル核は次元 $r\le 2m$ の活性部分空間に制限され、$r<d$ のとき、明示的なスペクトル-パラメータ演算境界と厳密な次元還元を与える。
スカラーゲージ $c_H=(\det H)^{1/d}$ が知られている場合、ネスト形状正規化二次作用に対して、正準多部分射影は正確なCAT(0) ピタゴラスの減少を満足し、鋭いランク閾値$d-1$で行列式1逆ヘッセン形状を復元する。
これらの結果は、アクションバンドルを、後続証明と有限同定理論による正確な反復計算に変換する。
関連論文リスト
- Discretization and Statistical Consistency of Functional Flow Matching [0.0]
有限ランク再構成の強い一貫した列に対して、有限条件速度目標の強い$L2$収束を証明した。
学習フローに対して、集団重ね合わせ経路に直接結合すると、終端ワッサーシュタイン境界が得られる。
論文 参考訳(メタデータ) (2026-08-05T07:05:47Z) - Quotient Dynamics, Effective Curvature, and Implicit Bias in Positive Quadratic Networks [0.0]
正の二次ネットワークは、低ランク表現 f_U(x)=xtop UUtop x を持ち、UinmathbbRdtimes r は右乗法までしか特定できない。
この商構造は, トレーニング力学, 曲率, 回復, バイアスをいかに支配するかを考察する。
論文 参考訳(メタデータ) (2026-07-28T12:04:46Z) - Statistical inverse learning and $\ell^1$-regularization [0.27998963147546135]
統計的逆学習の枠組みにおいて,有限,雑音,間接的な観測からスパース関数の回復について検討した。
我々は、ほぼ公約指数を確立し、予測基準と$ell1$復元基準の両方において、非漸近的高確率収束率を導出する。
論文 参考訳(メタデータ) (2026-07-08T14:32:08Z) - Geometric--Nongeometric Optimizer Calculus: A Modular Language for Reachable Gradient Methods [0.0]
到達可能な勾配法を監査するためのモジュラー言語である幾何-ナンジ幾何学計算を導入する。
主な形式的結果は方向表現性定理(英語版)であり、臨界点から離れ、正定幾何は厳密な降下方向を正確に表す。
論文 参考訳(メタデータ) (2026-07-08T09:40:44Z) - Restricted Dynamic Geometric Complexity: Certificates for Structured Preconditioning [0.0]
本稿では、このベンチマークを現在の表記法で記録し、制限された幾何学的複雑さを発達させる。
主な証明された結果は単調性および部分多様体距離原理、線形不等式実現可能性問題としての対角およびブロック到達性である。
このリポジトリには、対角的な表現ギャップをチェックするおもちゃと合成マトリックス、原始/双対証明書をブロックするクロネッカースペクトル幅、小さな二次インスタンス上のヘッセン相対クロネッカー候補証明書を含む。
論文 参考訳(メタデータ) (2026-07-08T09:36:45Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳(メタデータ) (2026-06-11T05:49:43Z) - Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。
既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
論文 参考訳(メタデータ) (2026-05-27T14:02:20Z) - Sample Complexity of Policy Gradient for Log-Growth Control [23.86784769848408]
ログ成長制御のためのポリシ勾配のサンプル複雑性について検討する。
予測されたミニバッチポリシー勾配が全サンプルの複雑さを実現することを証明した。
論文 参考訳(メタデータ) (2026-05-26T07:24:14Z) - BOOOM: Loss-Function-Agnostic Black-Box Optimization over Orthonormal Manifolds for Machine Learning and Statistical Inference [0.0]
我々は体系的な調査を行う。
対価のセット
直交円柱-直交円柱-直交円柱をaを通して脱出する。
データデータに適用されたノベル。
問題だ
対角最適化の枠組みを示す。
強力で低ランクな分解、独立的な分解分析。
環境下でのグローバルな収束です
論文 参考訳(メタデータ) (2026-04-23T19:32:27Z) - Variational Entropic Optimal Transport [67.76725267984578]
本稿では,ドメイン翻訳問題に対する変分エントロピー最適輸送(VarEOT)を提案する。
VarEOTは、補助正の正規化子上のトラクタブルな一般化として、log-partition $log mathbbE[exp(cdot)$の正確な変分再構成に基づいている。
合成データと画像と画像の変換に関する実験は、競争力のあるか、あるいはより良い翻訳品質を示す。
論文 参考訳(メタデータ) (2026-02-02T15:48:44Z) - Latent Object Permanence: Topological Phase Transitions, Free-Energy Principles, and Renormalization Group Flows in Deep Transformer Manifolds [0.5729426778193398]
幾何学的および統計的物理レンズを用いた深部変圧器言語モデルにおける多段階推論の出現について検討する。
我々は、フォワードパスを離散粗粒度写像として形式化し、安定な「概念盆地」の出現と、この再正規化のような力学の固定点を関連付ける。
結果として生じる低エントロピー状態は、スペクトルテール崩壊と、表現空間における過渡的で再利用可能なオブジェクトのような構造の形成によって特徴づけられる。
論文 参考訳(メタデータ) (2026-01-16T23:11:02Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - On the Optimal Construction of Unbiased Gradient Estimators for Zeroth-Order Optimization [57.179679246370114]
既存の手法の潜在的な制限は、ステップサイズが提案されない限り、ほとんどの摂動推定器に固有のバイアスである。
本稿では, 良好な構成を維持しつつ, バイアスを排除した非バイアス勾配スケーリング推定器のファミリーを提案する。
論文 参考訳(メタデータ) (2025-10-22T18:25:43Z) - Beyond Coordinates: Meta-Equivariance in Statistical Inference [0.0]
最適な統計的決定は、それらを記述するために使用される言語を超越すべきである。
座標の選択が解を微妙に定めないことを保証するにはどうすればよいのか?
まず、厳密な凸型トレース-AMSEリスクの下で、二元正規推定器の最適組み合わせを分析する。
論文 参考訳(メタデータ) (2025-04-14T19:40:39Z) - Rao-Blackwell Gradient Estimators for Equivariant Denoising Diffusion [55.95767828747407]
分子やタンパク質の生成のようなドメインでは、物理系はモデルにとって重要な固有の対称性を示す。
学習のばらつきを低減し、確率的に低い分散勾配推定器を提供するフレームワークを提案する。
また,軌道拡散法(Orbit Diffusion)と呼ばれる手法を用いて,損失とサンプリングの手順を取り入れた推定器の実用的実装を提案する。
論文 参考訳(メタデータ) (2025-02-14T03:26:57Z) - SPARE: Symmetrized Point-to-Plane Distance for Robust Non-Rigid 3D Registration [77.13381026159111]
本研究では,SPAREを提案する。SPAREは,非剛性登録のための対称化点-平面間距離を用いた新しい定式化である。
提案手法は, 厳密でない登録問題の精度を大幅に向上し, 比較的高い解効率を維持する。
論文 参考訳(メタデータ) (2024-05-30T15:55:04Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Smoothing the Edges: Smooth Optimization for Sparse Regularization using Hadamard Overparametrization [10.009748368458409]
本稿では、(構造化された)空間性に対して、明示的に正規化された目的を円滑に最適化するためのフレームワークを提案する。
提案手法は,完全微分可能近似自由最適化を実現し,深層学習におけるユビキタス勾配降下パラダイムと互換性がある。
論文 参考訳(メタデータ) (2023-07-07T13:06:12Z) - Convergence of Adam Under Relaxed Assumptions [72.24779199744954]
我々は、アダムがより現実的な条件下で、$O(epsilon-4)$勾配複雑性で$epsilon$-定常点に収束することを示している。
また、Adamの分散還元版を$O(epsilon-3)$の加速勾配複雑性で提案する。
論文 参考訳(メタデータ) (2023-04-27T06:27:37Z) - Optimal Extragradient-Based Bilinearly-Coupled Saddle-Point Optimization [116.89941263390769]
滑らかな凸凹凸結合型サドル点問題, $min_mathbfxmax_mathbfyF(mathbfx) + H(mathbfx,mathbfy)$ を考える。
漸進的勾配指数(AG-EG)降下指数アルゴリズムについて述べる。
論文 参考訳(メタデータ) (2022-06-17T06:10:20Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳(メタデータ) (2020-04-09T17:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。