論文の概要: Analytical Evaluation of DCA Convergence Properties for Minimizing Prediction Functions of Gaussian RBF Support Vector Regression
- arxiv url: http://arxiv.org/abs/2606.03559v1
- Date: Tue, 02 Jun 2026 12:25:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:04.991392
- Title: Analytical Evaluation of DCA Convergence Properties for Minimizing Prediction Functions of Gaussian RBF Support Vector Regression
- Title(参考訳): ガウスRBF支持ベクトル回帰の予測関数最小化のためのDCA収束特性の解析的評価
- Authors: Yohei Kakimoto, Yuto Omae, Hirotaka Takahashi,
- Abstract要約: 本稿では、RBFカーネルの解析構造を利用して、凸関数(DC)アルゴリズム(DCA)の差分を適用したフレームワークを提案する。
直流成分の強凸パラメータとサブプロブレムの勾配リプシッツ定数の上界$L$の両方を閉形式で導出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: For nonconvex optimization problems whose objective is the prediction function of a trained Support Vector Regression (SVR) model with the Gaussian radial basis function (RBF) kernel (RBF-SVR), we present a framework that applies the difference of convex functions (DC) algorithm (DCA) by exploiting the analytical structure of the RBF kernel to construct an explicit DC decomposition. Specifically, we derive in closed form both the lower bound $μ$ of the strong convexity parameter of the DC components and the upper bound $L$ of the gradient Lipschitz constant of the subproblem. Both $μ$ and $L$ are determined solely by the post-training dual-coefficient sum $C_α$ and the RBF kernel parameter $γ$, together with the DC decomposition parameter $ρ$, and they share a common leading term $C_αρ$. Through numerical experiments on six benchmark functions, we show that $C_αρ$ is the primary single quantity characterizing both the convergence properties and the initial-point dependence of DCA, and further demonstrate that it decomposes into two independent pathways, $C \to C_α$ and $γ\to ρ$, with its primary variation governed by the SVR hyperparameters $(C, γ)$. Together, these results allow the convergence properties of DCA on RBF-SVR to be assessed in advance through the single scalar quantity $C_αρ$: approximately from $(C, γ)$ before training, and exactly in closed form after training.
- Abstract(参考訳): ガウス半径基底関数(RBF-SVR)カーネル(RBF-SVR)を用いた学習支援ベクトル回帰(SVR)モデルの予測関数を目的とする非凸最適化問題に対して、RBFカーネルの解析構造を利用して、凸関数(DC)アルゴリズムの違いを適用して明示的なDC分解を構築する枠組みを提案する。
具体的には、直流成分の強凸パラメータの下限$μ$と、サブプロブレムの勾配リプシッツ定数の上限$L$の両方を閉形式で導出する。
μ$と$L$は、訓練後の二重係数和$C_α$とRBFカーネルパラメータ$γ$とDC分解パラメータ$ρ$でのみ決定され、共通の先行項$C_αρ$を共有する。
6つのベンチマーク関数に関する数値実験により、$C_αρ$ は DCA の収束特性と初期点依存の両方を特徴付ける一次単量であり、さらに、SVRハイパーパラメータ $(C, γ)$ によって支配される独立経路 $C \to C_α$ と $γ\to ρ$ に分解されることを示す。
これらの結果と合わせて、RBF-SVR上のDCAの収束特性は、トレーニング前の$(C, γ)$から、トレーニング後の完全に閉じた形で、単一のスカラー量$C_αρ$で事前に評価することができる。
関連論文リスト
- DC-LA: Difference-of-Convex Langevin Algorithm [5.184108122340349]
我々は、$prop(-f-r)$というデータ項が遠いサンプリング問題を研究する。
私たちの結果は、その用語が示される。
DC-LAは正確な忠実度を生み出す。
real-d Toアプリケーションの設定と提供。
論文 参考訳(メタデータ) (2026-01-30T12:49:05Z) - FedSVD: Adaptive Orthogonalization for Private Federated Learning with LoRA [68.44043212834204]
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
Low-Rank Adaptation (LoRA) は、学習における言語モデルの効率的な微調整に広く用いられている。
論文 参考訳(メタデータ) (2025-05-19T07:32:56Z) - Efficient Over-parameterized Matrix Sensing from Noisy Measurements via Alternating Preconditioned Gradient Descent [17.422662003404586]
雑音行列検出問題に対する交互事前条件勾配降下法(APGD)を提案する。
APGDは、既存の代替法と比較して、最も早く収束し、最も低い計算時間を達成する。
論文 参考訳(メタデータ) (2025-02-01T15:44:39Z) - Distributed Difference of Convex Optimization [1.2661010067882734]
$-f_i$ と $-f_i$ の $-差分の違いによる各エージェントにおけるn$ エージェントの局所目的関数を含む分散問題のクラスを示す。
DDC-Consensusアルゴリズムは、正規化されていない分散二乗問題を解くために開発された。
論文 参考訳(メタデータ) (2024-07-23T14:41:32Z) - Provably Efficient Iterated CVaR Reinforcement Learning with Function
Approximation and Human Feedback [57.6775169085215]
リスクに敏感な強化学習は、期待される報酬とリスクのバランスをとるポリシーを最適化することを目的としている。
本稿では,線形および一般関数近似の下で,CVaR(Iterated Conditional Value-at-Risk)を目標とする新しいフレームワークを提案する。
本稿では,この反復CVaR RLに対するサンプル効率の高いアルゴリズムを提案し,厳密な理論的解析を行う。
論文 参考訳(メタデータ) (2023-07-06T08:14:54Z) - Provably Efficient Convergence of Primal-Dual Actor-Critic with
Nonlinear Function Approximation [15.319335698574932]
The first efficient convergence result with primal-dual actor-critic with a convergence of $mathcalOleft ascent(Nright)Nright)$ under Polyian sample。
Open GymAI連続制御タスクの結果。
論文 参考訳(メタデータ) (2022-02-28T15:16:23Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳(メタデータ) (2020-07-16T06:44:44Z) - A Random Matrix Analysis of Random Fourier Features: Beyond the Gaussian
Kernel, a Precise Phase Transition, and the Corresponding Double Descent [85.77233010209368]
本稿では、データサンプルの数が$n$である現実的な環境で、ランダムフーリエ(RFF)回帰の正確さを特徴付けます。
この分析はまた、大きな$n,p,N$のトレーニングとテスト回帰エラーの正確な推定も提供する。
論文 参考訳(メタデータ) (2020-06-09T02:05:40Z) - A Simple Convergence Proof of Adam and Adagrad [74.24716715922759]
我々はAdam Adagradと$O(d(N)/st)$アルゴリズムの収束の証明を示す。
Adamはデフォルトパラメータで使用する場合と同じ収束$O(d(N)/st)$で収束する。
論文 参考訳(メタデータ) (2020-03-05T01:56:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。