論文の概要: Tensor Recovery Based on A Novel Non-convex Function Minimax Logarithmic
Concave Penalty Function
- arxiv url: http://arxiv.org/abs/2206.13506v1
- Date: Sat, 25 Jun 2022 12:26:53 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-03 07:19:52.801600
- Title: Tensor Recovery Based on A Novel Non-convex Function Minimax Logarithmic
Concave Penalty Function
- Title（参考訳）: 新たな非凸関数最小対数対数対数ペナルティ関数に基づくテンソルリカバリ
- Authors: Hongbing Zhang, Xinyi Liu, Chang Liu, Hongtao Fan, Yajing Li, Xinyun
Zhu
- Abstract要約: 本稿では,新たな非算術的解法であるMiniarithmic Concave Penalty (MLCP) 関数を提案する。
提案された関数は、LLojaに重み付けされたケースに一般化される。
提案された列は有限長であり、世界的に臨界点に収束することが証明された。
- 参考スコア（独自算出の注目度）: 5.264776812468168
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Non-convex relaxation methods have been widely used in tensor recovery
problems, and compared with convex relaxation methods, can achieve better
recovery results. In this paper, a new non-convex function, Minimax Logarithmic
Concave Penalty (MLCP) function, is proposed, and some of its intrinsic
properties are analyzed, among which it is interesting to find that the
Logarithmic function is an upper bound of the MLCP function. The proposed
function is generalized to tensor cases, yielding tensor MLCP and weighted
tensor $L\gamma$-norm. Consider that its explicit solution cannot be obtained
when applying it directly to the tensor recovery problem. Therefore, the
corresponding equivalence theorems to solve such problem are given, namely,
tensor equivalent MLCP theorem and equivalent weighted tensor $L\gamma$-norm
theorem. In addition, we propose two EMLCP-based models for classic tensor
recovery problems, namely low-rank tensor completion (LRTC) and tensor robust
principal component analysis (TRPCA), and design proximal alternate
linearization minimization (PALM) algorithms to solve them individually.
Furthermore, based on the Kurdyka-{\L}ojasiwicz property, it is proved that the
solution sequence of the proposed algorithm has finite length and converges to
the critical point globally. Finally, Extensive experiments show that proposed
algorithm achieve good results, and it is confirmed that the MLCP function is
indeed better than the Logarithmic function in the minimization problem, which
is consistent with the analysis of theoretical properties.
- Abstract（参考訳）: 非凸緩和法はテンソルリカバリ問題で広く用いられており、凸緩和法と比較して、より良いリカバリ結果が得られる。
本稿では,新たな非凸関数,Minimax Logarithmic Concave Penalty (MLCP) 関数を提案し,その内在的特性を解析し,その中のひとつとして,対数関数がMLCP関数の上界であることが興味深い。
提案した関数はテンソルケースに一般化され、テンソルMLCPと重み付きテンソル$L\gamma$-normが得られる。
テンソル回復問題に直接それを適用するとき、その明示的な解は得られないと考える。
したがって、そのような問題を解決するための対応する同値定理、すなわちテンソル等価MLCP定理と等価テンソル$L\gamma$-norm定理が与えられる。
さらに, 古典的テンソル回復問題に対するemlcpに基づく2つのモデル, 低ランクテンソル補完 (lrtc) とテンソルロバスト主成分分析 (trpca) を提案し, それらを個別に解くための近位交互線形化最小化 (palm) アルゴリズムを設計した。
さらに、Kurdyka-{\L}ojasiwicz特性に基づき、提案アルゴリズムの解列は有限長であり、世界的に臨界点に収束することが証明された。
最後に,提案手法が良好な結果を得たことを示す広範な実験を行い,理論特性の解析と整合する最小化問題の対数関数よりもmlcp関数の方が優れていることを確認した。
関連論文リスト
- Low-Rank Tensor Learning by Generalized Nonconvex Regularization [25.115066273660478]
低ランクテンソル学習の問題点について検討し, 基礎となるテンソルを観測するサンプルはごくわずかである。
非テンソル学習関数の族は、基礎となるテンソルの低ランク性を特徴づけるために用いられる。
結果の大量化最小化を解決するために設計されたアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-10-24T03:33:20Z) - Computational and Statistical Guarantees for Tensor-on-Tensor Regression with Tensor Train Decomposition [27.29463801531576]
TTに基づくToT回帰モデルの理論的およびアルゴリズム的側面について検討する。
制約付き誤差境界に対する解を効率的に見つけるための2つのアルゴリズムを提案する。
我々はIHTとRGDの両方の線形収束速度を確立する。
論文 参考訳（メタデータ） (2024-06-10T03:51:38Z) - A Mean-Field Analysis of Neural Stochastic Gradient Descent-Ascent for Functional Minimax Optimization [90.87444114491116]
本稿では,超パラメトリック化された2層ニューラルネットワークの無限次元関数クラス上で定義される最小最適化問題について検討する。
i) 勾配降下指数アルゴリズムの収束と, (ii) ニューラルネットワークの表現学習に対処する。
その結果、ニューラルネットワークによって誘導される特徴表現は、ワッサーシュタイン距離で測定された$O(alpha-1)$で初期表現から逸脱することが許された。
論文 参考訳（メタデータ） (2024-04-18T16:46:08Z) - Convex Bounds on the Softmax Function with Applications to Robustness
Verification [69.09991317119679]
ソフトマックス関数は、ニューラルネットワークの出力においてユビキタスなコンポーネントであり、中間層もますます多くなっている。
本稿では,ニューラルネットワークや他のMLモデルのキャラクタリゼーションのための凸最適化式と互換性のある,ソフトマックス関数上の凸下界と凹上界を提供する。
論文 参考訳（メタデータ） (2023-03-03T05:07:02Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳（メタデータ） (2023-01-16T02:57:37Z) - Tensor Recovery Based on Tensor Equivalent Minimax-Concave Penalty [3.0711362702464675]
これはコンピュータと機械学習において重要な問題である。
2つのテンソルリカバリ問題に対する2つの適応モデルを提案する。
提案手法は最先端の実験よりも優れている。
論文 参考訳（メタデータ） (2022-01-30T03:28:01Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳（メタデータ） (2021-12-29T18:46:52Z) - Convergence bounds for nonlinear least squares and applications to
tensor recovery [0.0]
我々は、L2$-ノルムの重み付きモンテカルロ推定のみを計算できる場合、一般非線形部分集合である$L2$の関数を近似する問題を考える。
結果の批判的分析により、低ランクテンソルのモデル集合に対するサンプル効率の良いアルゴリズムを導出できる。
論文 参考訳（メタデータ） (2021-08-11T14:14:02Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳（メタデータ） (2020-04-09T17:54:18Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳（メタデータ） (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。