論文の概要: A Refined Inertial DCA for DC Programming
- arxiv url: http://arxiv.org/abs/2104.14750v1
- Date: Fri, 30 Apr 2021 04:21:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-03 13:31:04.321930
- Title: A Refined Inertial DCA for DC Programming
- Title(参考訳): DCプログラミングのための精錬慣性DCA
- Authors: Yu You, Yi-Shuai Niu
- Abstract要約: 目的関数がレベル境界である定常型(dc)プログラミング問題を考える。
古典的なDCアルゴリズム(DCA)は、ある種の問題を解決することで知られており、臨界点を返す。
そこで本研究では,2つの改良型DCA(RInDCA)を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We consider the difference-of-convex (DC) programming problems whose
objective function is level-bounded. The classical DC algorithm (DCA) is
well-known for solving this kind of problems, which returns a critical point.
Recently, de Oliveira and Tcheo incorporated the inertial-force procedure into
DCA (InDCA) for potential acceleration and preventing the algorithm from
converging to a critical point which is not d(directional)-stationary. In this
paper, based on InDCA, we propose two refined inertial DCA (RInDCA) with
enlarged inertial step-sizes for better acceleration. We demonstrate the
subsequential convergence of our refined versions to a critical point. In
addition, by assuming the Kurdyka-Lojasiewicz (KL) property of the objective
function, we establish the sequential convergence of RInDCA. Numerical
simulations on image restoration problem show the benefit of enlarged
step-size.
- Abstract(参考訳): 目的関数がレベルバウンドである差凸(dc)プログラミング問題を考える。
古典的DCアルゴリズム(DCA)はこの種の問題を解決することで知られており、臨界点を返す。
近年、デ・オリヴェイラとチェオは、ポテンシャル加速のために慣性力法をDCA(InDCA)に取り入れ、アルゴリズムがd(方向)定常でない臨界点に収束することを防ぐ。
本稿では,InDCAに基づく2つの改良慣性 DCA (RInDCA) を提案する。
改良版を臨界点へと後続収束させることを実証する。
さらに,目的関数のkurdyka-lojasiewicz(kl)特性を仮定することで,rindcaの逐次収束を確立する。
画像復元問題における数値シミュレーションは,拡大ステップサイズの利点を示す。
関連論文リスト
- Efficient Large-Scale Quantum Optimization via Counterdiabatic Ansatz [8.704794234217838]
この2つのアルゴリズムの回路深さが等しく保たれた場合, ディジタイズされたQAOA(DC-QAOA)は, 全てのシステムサイズにおいてQAOAを上回っていると考えられる。
DC-QAOAは層ごとにより多くのCNOTゲートを導入しているので、回路の複雑さは層当たりのCNOTゲートの数と回路深さとのトレードオフである。
その結果,DC-QAOA(NC)はQAOAに比べて回路の複雑さを小さくすることがわかった。
論文 参考訳(メタデータ) (2024-09-23T14:31:56Z) - Heavy-Ball Momentum Accelerated Actor-Critic With Function Approximation [23.0232418013817]
まず,重ボールモーメントを線形関数でパラメータ化した批判再帰に組み込むことにより,モーメントに基づくベネフィット・アクター・クリティカル(mboxHB-A2C)アルゴリズムを提案する。
理論的には,提案したHB-A2Cは,マルコフ雑音を伴う強化学習タスクに,$ooepsilon$-approximate stationary pointと$ooepsilon-2$ iterationsを付与することがわかった。
論文 参考訳(メタデータ) (2024-08-13T15:03:46Z) - Deep Learning for Computing Convergence Rates of Markov Chains [0.0]
Deep Contractive Drift Calculator (DCDC)は、マルコフ連鎖の収束をワッサーシュタイン距離における定常性にバウンドするための、最初の汎用的なサンプルベースアルゴリズムである。
DCDCは,処理ネットワークから生じる現実的なマルコフ連鎖の収束境界と,ステップサイズを一定に最適化できることを示す。
論文 参考訳(メタデータ) (2024-05-30T19:26:51Z) - Adaptive Federated Learning Over the Air [108.62635460744109]
オーバー・ザ・エア・モデル・トレーニングの枠組みの中で,適応勾配法,特にAdaGradとAdamの連合バージョンを提案する。
解析の結果,AdaGrad に基づくトレーニングアルゴリズムは $mathcalO(ln(T) / T 1 - frac1alpha の速度で定常点に収束することがわかった。
論文 参考訳(メタデータ) (2024-03-11T09:10:37Z) - Difference of Submodular Minimization via DC Programming [3.970829316359541]
2つのサブモジュール(DS)関数の差を最小化することは、様々な機械学習問題に自然に発生する。
DC問題に対する古典的アルゴリズムはDCアルゴリズム (DCA) と呼ばれる。
DS最小化に対応するDCプログラムに適用したDCAの変種とその完全形(CDCA)を紹介する。
論文 参考訳(メタデータ) (2023-05-18T15:39:02Z) - An Accelerated Doubly Stochastic Gradient Method with Faster Explicit
Model Identification [97.28167655721766]
本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。
まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
論文 参考訳(メタデータ) (2022-08-11T22:27:22Z) - Cogradient Descent for Dependable Learning [64.02052988844301]
双線形最適化問題に対処するために,CoGDアルゴリズムに基づく信頼度の高い学習法を提案する。
CoGDは、ある変数がスパーシティ制約を持つ場合の双線形問題を解くために導入された。
また、特徴と重みの関連を分解するためにも使用できるため、畳み込みニューラルネットワーク(CNN)をより良く訓練するための我々の手法をさらに一般化することができる。
論文 参考訳(メタデータ) (2021-06-20T04:28:20Z) - Manifold-Aware Deep Clustering: Maximizing Angles between Embedding
Vectors Based on Regular Simplex [11.45476110868809]
多様体対応直流 (M-DC) は, もともとの直流よりも効率よく超空間利用を向上させることができる。
本手法は,正規表現の性質に基づいて,超空間の目標角度を最大化することを目的とした一意な損失関数を導出する。
論文 参考訳(メタデータ) (2021-06-04T08:27:01Z) - Doubly Robust Off-Policy Actor-Critic: Convergence and Optimality [131.45028999325797]
ディスカウント型MDPのための2倍堅牢なオフポリチックAC(DR-Off-PAC)を開発した。
DR-Off-PACは、俳優と批評家の両方が一定のステップで同時に更新される単一のタイムスケール構造を採用しています。
有限時間収束速度を研究し, dr-off-pac のサンプル複雑性を特徴とし, $epsilon$-accurate optimal policy を得る。
論文 参考訳(メタデータ) (2021-02-23T18:56:13Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳(メタデータ) (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。