論文の概要: CP Degeneracy in Tensor Regression
- arxiv url: http://arxiv.org/abs/2010.13568v1
- Date: Thu, 22 Oct 2020 16:08:44 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 06:24:44.346967
- Title: CP Degeneracy in Tensor Regression
- Title(参考訳): テンソル回帰におけるcp縮退
- Authors: Ya Zhou, Raymond K. W. Wong and Kejun He
- Abstract要約: CANDECOMP/PARAFAC (CP) の低ランク制約は (金化) $M$-estimation の係数パラメータに課されることが多い。
これは低ランク近似問題におけるCP縮退現象(CP degeneracy)と密接に関連している。
- 参考スコア(独自算出の注目度): 11.193867567895353
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Tensor linear regression is an important and useful tool for analyzing tensor
data. To deal with high dimensionality, CANDECOMP/PARAFAC (CP) low-rank
constraints are often imposed on the coefficient tensor parameter in the
(penalized) $M$-estimation. However, we show that the corresponding
optimization may not be attainable, and when this happens, the estimator is not
well-defined. This is closely related to a phenomenon, called CP degeneracy, in
low-rank tensor approximation problems. In this article, we provide useful
results of CP degeneracy in tensor regression problems. In addition, we provide
a general penalized strategy as a solution to overcome CP degeneracy. The
asymptotic properties of the resulting estimation are also studied. Numerical
experiments are conducted to illustrate our findings.
- Abstract(参考訳): テンソル線形回帰はテンソルデータを解析するための重要かつ有用なツールである。
高次元性を扱うために、CANDECOMP/PARAFAC (CP) の低ランク制約は、しばしば(ペナル化)$M$-推定の係数テンソルパラメータに課される。
しかし、それに対応する最適化は達成できない可能性を示し、この場合、推定器は適切に定義されていない。
これは低ランクテンソル近似問題におけるCP縮退現象と密接に関連している。
本稿では,テンソル回帰問題におけるcp縮退の有用な結果を示す。
さらに,cp縮退を克服するための解決策として,一般的なペナルティ化戦略を提案する。
得られた推定の漸近特性についても検討した。
結果を説明するために数値実験を行った。
関連論文リスト
- Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
さらに、テストポイントがトレーニングセットと非自明な相関を持ち、時系列予測で頻繁に発生するような場合まで分析を拡張します。
我々は多種多様な高次元データにまたがって理論を検証する。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Computational and Statistical Guarantees for Tensor-on-Tensor Regression with Tensor Train Decomposition [27.29463801531576]
TTに基づくToT回帰モデルの理論的およびアルゴリズム的側面について検討する。
制約付き誤差境界に対する解を効率的に見つけるための2つのアルゴリズムを提案する。
我々はIHTとRGDの両方の線形収束速度を確立する。
論文 参考訳(メタデータ) (2024-06-10T03:51:38Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Off-policy estimation of linear functionals: Non-asymptotic theory for
semi-parametric efficiency [59.48096489854697]
観測データに基づいて線形汎関数を推定する問題は、因果推論と包帯文献の両方において標準的である。
このような手順の平均二乗誤差に対して非漸近上界を証明した。
非漸近的局所ミニマックス下限をマッチングすることにより、有限標本のインスタンス依存最適性を確立する。
論文 参考訳(メタデータ) (2022-09-26T23:50:55Z) - Tensor Recovery Based on A Novel Non-convex Function Minimax Logarithmic
Concave Penalty Function [5.264776812468168]
本稿では,新たな非算術的解法であるMiniarithmic Concave Penalty (MLCP) 関数を提案する。
提案された関数は、LLojaに重み付けされたケースに一般化される。
提案された列は有限長であり、世界的に臨界点に収束することが証明された。
論文 参考訳(メタデータ) (2022-06-25T12:26:53Z) - On Convergence of Training Loss Without Reaching Stationary Points [62.41370821014218]
ニューラルネットワークの重み変数は、損失関数の勾配が消える定常点に収束しないことを示す。
エルゴード理論の力学系に基づく新しい視点を提案する。
論文 参考訳(メタデータ) (2021-10-12T18:12:23Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z) - An Optimal Statistical and Computational Framework for Generalized
Tensor Estimation [10.899518267165666]
本稿では,低ランクテンソル推定問題に対するフレキシブルなフレームワークについて述べる。
計算画像、ゲノミクス、ネットワーク解析の応用から多くの重要な例を含む。
論文 参考訳(メタデータ) (2020-02-26T01:54:35Z) - Partially Observed Dynamic Tensor Response Regression [17.930417764563106]
現代のデータ科学では、動的テンソルデータが多くの応用で普及している。
本研究では,部分的に観察された動的テンソル間隔を予測子として回帰モデルを開発する。
本稿では,シミュレーションによる提案手法の有効性と2つの実応用について述べる。
論文 参考訳(メタデータ) (2020-02-22T17:14:10Z) - On Recoverability of Randomly Compressed Tensors with Low CP Rank [29.00634848772122]
測定値の数がモデルパラメータの次数と同じであれば、テンソルは復元可能であることを示す。
我々の証明は, 集合被覆手法を用いて, CPDモデルの下でのテキスト制限等尺性(R.I.P.)を導出することに基づいている。
論文 参考訳(メタデータ) (2020-01-08T04:44:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。