論文の概要: Low-Rank Tensor Learning by Generalized Nonconvex Regularization

• arxiv url: http://arxiv.org/abs/2410.18402v1
• Date: Thu, 24 Oct 2024 03:33:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-25 12:49:21.347134
• Title: Low-Rank Tensor Learning by Generalized Nonconvex Regularization
• Title（参考訳）: 一般化非凸正規化による低ランクテンソル学習
• Authors: Sijia Xia, Michael K. Ng, Xiongjun Zhang,
• Abstract要約: 低ランクテンソル学習の問題点について検討し, 基礎となるテンソルを観測するサンプルはごくわずかである。 非テンソル学習関数の族は、基礎となるテンソルの低ランク性を特徴づけるために用いられる。 結果の大量化最小化を解決するために設計されたアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 25.115066273660478
• License:
• Abstract: In this paper, we study the problem of low-rank tensor learning, where only a few of training samples are observed and the underlying tensor has a low-rank structure. The existing methods are based on the sum of nuclear norms of unfolding matrices of a tensor, which may be suboptimal. In order to explore the low-rankness of the underlying tensor effectively, we propose a nonconvex model based on transformed tensor nuclear norm for low-rank tensor learning. Specifically, a family of nonconvex functions are employed onto the singular values of all frontal slices of a tensor in the transformed domain to characterize the low-rankness of the underlying tensor. An error bound between the stationary point of the nonconvex model and the underlying tensor is established under restricted strong convexity on the loss function (such as least squares loss and logistic regression) and suitable regularity conditions on the nonconvex penalty function. By reformulating the nonconvex function into the difference of two convex functions, a proximal majorization-minimization (PMM) algorithm is designed to solve the resulting model. Then the global convergence and convergence rate of PMM are established under very mild conditions. Numerical experiments are conducted on tensor completion and binary classification to demonstrate the effectiveness of the proposed method over other state-of-the-art methods.
• Abstract（参考訳）: 本稿では,低ランクテンソル学習の問題点について考察する。そこでは,少数のトレーニングサンプルが観察され,基礎となるテンソルが低ランク構造を持つ。 既存の手法は、テンソルの展開行列の核ノルムの和に基づいている。 低ランクテンソル学習のための変換テンソル核ノルムに基づく非凸モデルを提案する。 特に、非凸函数の族は、変換された領域におけるテンソルのすべての正面スライス(英語版)の特異値に使われ、基礎となるテンソルの低ランク性を特徴づける。 非凸モデルの定常点と基底テンソルの間の誤差は、損失関数(最小二乗損失やロジスティック回帰など)と非凸ペナルティ関数の適切な正規性条件の制限された強い凸性の下で成立する。 非凸関数を2つの凸関数の差分に書き換えることにより、近位偏極最小化(PMM)アルゴリズムは、結果のモデルを解くために設計される。 PMMのグローバル収束と収束率は、非常に穏やかな条件下で確立される。 提案手法が他の最先端手法に対して有効であることを示すため, テンソルの完成と二分分類について数値実験を行った。

関連論文リスト

• Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
  我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。 我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。 また、異なるアンサンブルを区別する新しい問題も分析できます。
  論文  参考訳（メタデータ） (2024-04-29T14:33:24Z)
• Low-Rank Tensor Completion via Novel Sparsity-Inducing Regularizers [30.920908325825668]
  低ランクテンソル完備化問題において、l1-ノルムを緩和するため、非ランクサロゲート/正則化器が提案されている。 これらの正則化器は核ランク復元に適用され,乗算器法に基づく効率的なアルゴリズムが提案されている。
  論文  参考訳（メタデータ） (2023-10-10T01:00:13Z)
• Error Analysis of Tensor-Train Cross Approximation [88.83467216606778]
  我々は, テンソル全体の精度保証を行う。 結果は数値実験により検証され、高次テンソルに対するクロス近似の有用性に重要な意味を持つ可能性がある。
  論文  参考訳（メタデータ） (2022-07-09T19:33:59Z)
• Noisy Tensor Completion via Low-rank Tensor Ring [41.86521269183527]
  テンソル完了は不完全なデータ解析の基本的なツールであり、その目標は部分的な観測から欠落するエントリを予測することである。 既存の手法は、観測されたエントリがノイズフリーであるという明示的あるいは暗黙的な仮定をしばしば示し、欠落したエントリの正確な回復を理論的に保証する。 本稿では,高次・高次観測の劣化処理における既存の作業の非効率性を補完する新しいノイズテンソル補完モデルを提案する。
  論文  参考訳（メタデータ） (2022-03-14T14:09:43Z)
• On Convergence of Training Loss Without Reaching Stationary Points [62.41370821014218]
  ニューラルネットワークの重み変数は、損失関数の勾配が消える定常点に収束しないことを示す。 エルゴード理論の力学系に基づく新しい視点を提案する。
  論文  参考訳（メタデータ） (2021-10-12T18:12:23Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Scaling and Scalability: Provable Nonconvex Low-Rank Tensor Estimation from Incomplete Measurements [30.395874385570007]
  基本的な課題は、高度に不完全な測定からテンソルを忠実に回収することである。 タッカー分解におけるテンソル因子を直接回復するアルゴリズムを開発した。 2つの正準問題に対する基底真理テンソルの線形独立率で確実に収束することを示す。
  論文  参考訳（メタデータ） (2021-04-29T17:44:49Z)
• Uncertainty quantification for nonconvex tensor completion: Confidence intervals, heteroscedasticity and optimality [92.35257908210316]
  本研究では,不完全かつ破損した観測によって与えられる低ランクテンソルを推定する問題について検討する。 改善不可能なレートをell-2$の精度で達成できることが分かりました。
  論文  参考訳（メタデータ） (2020-06-15T17:47:13Z)
• Enhanced nonconvex low-rank approximation of tensor multi-modes for tensor completion [1.3406858660972554]
  我々は、新しい低ランク近似テンソルマルチモード(LRATM)を提案する。 ブロックバウンド法に基づくアルゴリズムは,提案手法を効率的に解くために設計されている。 3種類の公開多次元データセットの数値計算結果から,本アルゴリズムは様々な低ランクテンソルを復元可能であることが示された。
  論文  参考訳（メタデータ） (2020-05-28T08:53:54Z)
• Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
  本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。 MVSCに適合する新しい構造テンソル低ランクノルムを設計する。 提案手法は最先端の手法よりもかなり優れていることを示す。
  論文  参考訳（メタデータ） (2020-04-30T11:52:12Z)
• Tensor denoising and completion based on ordinal observations [11.193504036335503]
  我々は,不完全と思われる順序値の観測から,低ランクテンソル推定の問題を考える。 本稿では,マルチ線形累積リンクモデルを提案し,ランク制約付きM推定器を開発し,理論的精度の保証を得る。 提案した推定器は低ランクモデルのクラスにおいて最小限最適であることを示す。
  論文  参考訳（メタデータ） (2020-02-16T07:09:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。