論文の概要: Generalized Quadratic Gradient: A New Direction in Optimization via the Fusion of Positive-Definite Curvature Matrices and Gradients into A Unified Framework
- arxiv url: http://arxiv.org/abs/2608.01552v1
- Date: Mon, 03 Aug 2026 00:18:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.283422
- Title: Generalized Quadratic Gradient: A New Direction in Optimization via the Fusion of Positive-Definite Curvature Matrices and Gradients into A Unified Framework
- Title（参考訳）: 一般化二次勾配:正定値曲率と勾配の融合による最適化の新しい方向
- Abstract要約: 本稿では,2次勾配法則をニュートン型最適化アルゴリズムのより広範なクラスに拡張する統合フレームワークを提案する。
既存の二次勾配法の共通構造を抽象化することにより、二次勾配構造の基本的要件は特定のヘッセン近似に限らないことを示す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quadratic Gradient (QG) is a Newton-type optimization framework that bridges first-order gradient descent and second-order optimization by incorporating curvature information into gradient updates. Simplified Quadratic Gradient (SQG) reduces the complexity of QG construction while preserving its optimization capability, whereas Quasi-Quadratic Gradient (QQG) extends the quadratic gradient principle to quasi-Newton methods such as BFGS. In this paper, we propose **Generalized Quadratic Gradient (GQG)**, a unified framework that extends the quadratic gradient principle to a broader class of Newton-type optimization algorithms. By abstracting the common structure of existing quadratic gradient methods, we show that the fundamental requirement of quadratic gradient construction is not limited to specific Hessian approximations, such as constant Hessian matrices, diagonal Hessian approximations, or BFGS-based Hessian surrogates. Instead, it can be generalized to any positive-definite curvature matrix satisfying the stationary condition of a local quadratic model. Based on this perspective, we investigate the construction of generalized quadratic gradients using various positive-definite Hessian surrogates beyond BFGS, providing a broader foundation for developing curvature-aware optimization algorithms.
- Abstract（参考訳）: Quadratic Gradient (QG) はニュートン型最適化フレームワークで、勾配更新に曲率情報を組み込むことで、一階勾配と二階勾配の最適化を橋渡しする。
SQG(Simplified Quadratic Gradient)は最適化能力を維持しながらQG構築の複雑さを軽減するが、QQG(Quasi-Quadratic Gradient)はBFGSのような準ニュートン法に二次勾配の原理を拡張する。
本稿では,2次勾配の原理をニュートン型最適化アルゴリズムのより広範なクラスに拡張する統一フレームワークである*一般化二次勾配(GQG)*を提案する。
既存の二次勾配法の共通構造を抽象化することにより、二次勾配構造の基本的要件は、定数ヘッセン行列、対角ヘッセン近似、BFGSに基づくヘッセン代理など、特定のヘッセン近似に限らないことを示す。
代わりに、局所二次モデルの定常条件を満たす任意の正定曲率行列に一般化することができる。
この観点から, BFGS を超える様々な正定値ヘッセンサロゲートを用いた一般化二次勾配の構成について検討し, 曲率対応最適化アルゴリズムのより広範な基盤を提供する。
関連論文リスト
- Layerwise LQR for Geometry-Aware Optimization of Deep Networks [38.84575015854741]
我々は,グローバルな階層的最適制御目標の下で,構造化逆プレコンディショナを学習するためのフレームワークであるLayerwise LQRを紹介する。
対角線、(E-)Kronecker-factored、または他の構造化された逆プレコンディショナーを学習するスケーラブルな緩和法を導出する。
ResNetsとTransformersの実験では、LLQRは最適化のダイナミクスを改善し、これらのゲインを最終的なテストパフォーマンスに変換する。
論文 参考訳（メタデータ） (2026-05-05T19:16:00Z) - Quasi-Quadratic Gradient: A New Direction for Accelerating the BFGS Method in Quasi-Newton Optimization [0.0]
準ニュートンフレームワーク内のBFGS法を高速化する新しい探索方向である準量子勾配(QQG)を導入する。
逆ヘッセン近似と電流勾配の積としてQQGを定義することにより、探索経路の修正に局所的な二階曲率を明示的に活用する。
論文 参考訳（メタデータ） (2026-04-27T00:35:17Z) - Generalized Gradient Norm Clipping & Non-Euclidean $(L_0,L_1)$-Smoothness [51.302674884611335]
本研究は、急勾配と条件勾配のアプローチを組み合わせることでノルムクリッピングを一般化するハイブリッド非ユークリッド最適化手法を提案する。
本稿では、ディープラーニングのためのアルゴリズムのインスタンス化について論じ、画像分類と言語モデリングにおけるそれらの特性を実証する。
論文 参考訳（メタデータ） (2025-06-02T17:34:29Z) - Directional Smoothness and Gradient Methods: Convergence and Adaptivity [16.779513676120096]
我々は、最適化の経路に沿った目的の条件付けに依存する勾配降下に対する新しい準最適境界を開発する。
我々の証明の鍵となるのは方向の滑らかさであり、これは、目的の上のバウンドを開発するために使用する勾配変動の尺度である。
我々は,方向の滑らかさの知識を使わずとも,ポリアクのステップサイズと正規化GDが高速で経路依存の速度を得ることを示した。
論文 参考訳（メタデータ） (2024-03-06T22:24:05Z) - Stochastic Gradient Descent for Gaussian Processes Done Right [86.83678041846971]
emphdone right -- 最適化とカーネルコミュニティからの具体的な洞察を使用するという意味で -- が、勾配降下は非常に効果的であることを示している。
本稿では,直感的に設計を記述し,設計選択について説明する。
本手法は,分子結合親和性予測のための最先端グラフニューラルネットワークと同程度にガウス過程の回帰を配置する。
論文 参考訳（メタデータ） (2023-10-31T16:15:13Z) - Proximal Subgradient Norm Minimization of ISTA and FISTA [8.261388753972234]
反復収縮保持アルゴリズムのクラスに対する2乗近位次数ノルムは逆2乗率で収束することを示す。
また、高速反復収縮保持アルゴリズム (FISTA) のクラスに対する2乗次次数次ノルムが、逆立方レートで収束するように加速されることも示している。
論文 参考訳（メタデータ） (2022-11-03T06:50:19Z) - Leveraging Non-uniformity in First-order Non-convex Optimization [93.6817946818977]
目的関数の非一様洗練は、emphNon-uniform Smoothness(NS)とemphNon-uniform Lojasiewicz inequality(NL)につながる
新しい定義は、古典的な$Omega (1/t2)$下界よりも早く大域的最適性に収束する新しい幾何学的一階法を刺激する。
論文 参考訳（メタデータ） (2021-05-13T04:23:07Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳（メタデータ） (2020-12-21T17:29:58Z) - A Unified Analysis of First-Order Methods for Smooth Games via Integral
Quadratic Constraints [10.578409461429626]
本研究では、滑らかで強可変なゲームやイテレーションのための一階法に積分二次的制約理論を適用する。
我々は、負の運動量法(NM)に対して、既知の下界と一致する複雑性$mathcalO(kappa1.5)$で、初めて大域収束率を与える。
一段階のメモリを持つアルゴリズムでは,バッチ毎に1回だけ勾配を問合せすれば,高速化は不可能であることを示す。
論文 参考訳（メタデータ） (2020-09-23T20:02:00Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳（メタデータ） (2020-06-16T13:41:54Z) - Towards Better Understanding of Adaptive Gradient Algorithms in
Generative Adversarial Nets [71.05306664267832]
適応アルゴリズムは勾配の歴史を用いて勾配を更新し、深層ニューラルネットワークのトレーニングにおいてユビキタスである。
本稿では,非コンケーブ最小値問題に対するOptimisticOAアルゴリズムの変種を解析する。
実験の結果,適応型GAN非適応勾配アルゴリズムは経験的に観測可能であることがわかった。
論文 参考訳（メタデータ） (2019-12-26T22:10:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。