論文の概要: Optimal Sparse Singular Value Decomposition for High-dimensional High-order Data
- arxiv url: http://arxiv.org/abs/1809.01796v2
- Date: Mon, 8 Jul 2024 02:19:52 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-23 02:37:22.275277
- Title: Optimal Sparse Singular Value Decomposition for High-dimensional High-order Data
- Title(参考訳): 高次元高次データに対する最適スパース特異値分解法
- Authors: Anru Zhang, Rungang Han,
- Abstract要約: 空間構造を持つ高次元高次データの削減を目的としたスパーステンソル特異値分解について考察する。
Singular Value Decomposition (STAT-SVD) のためのSparse Alternating Thresholding という手法を提案する。
提案手法は,各反復におけるしきい値のシャープな基準を提供する新しい二重投射・しきい値設定方式を特徴とする。
- 参考スコア(独自算出の注目度): 4.987670632802288
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: In this article, we consider the sparse tensor singular value decomposition, which aims for dimension reduction on high-dimensional high-order data with certain sparsity structure. A method named Sparse Tensor Alternating Thresholding for Singular Value Decomposition (STAT-SVD) is proposed. The proposed procedure features a novel double projection \& thresholding scheme, which provides a sharp criterion for thresholding in each iteration. Compared with regular tensor SVD model, STAT-SVD permits more robust estimation under weaker assumptions. Both the upper and lower bounds for estimation accuracy are developed. The proposed procedure is shown to be minimax rate-optimal in a general class of situations. Simulation studies show that STAT-SVD performs well under a variety of configurations. We also illustrate the merits of the proposed procedure on a longitudinal tensor dataset on European country mortality rates.
- Abstract(参考訳): 本稿では,ある空間構造を持つ高次元高次データの次元削減を目的としたスパーステンソル特異値分解について考察する。
特異値分解(STAT-SVD)のためのスパーステンソル交換閾値法を提案する。
提案手法は,各反復におけるしきい値のシャープな基準を提供する,新しい二重投射 \&しきい値設定方式を特徴とする。
正規テンソルSVDモデルと比較して、STAT-SVDはより弱い仮定の下でより堅牢な推定を可能にする。
推定精度の上限と下限の両方を開発する。
提案手法は, 一般的な状況のクラスにおいて, 最大速度最適であることを示す。
シミュレーション研究により、STAT-SVDは様々な構成でよく機能することが示された。
また、欧州の死亡率に関する縦断的テンソルデータセットについて、提案手法のメリットを述べる。
関連論文リスト
- Distributionally Robust Optimization as a Scalable Framework to Characterize Extreme Value Distributions [22.765095010254118]
本研究の目的は分散ロバストな最適化 (DRO) 推定器の開発であり、特に多次元極値理論 (EVT) の統計量についてである。
点過程の空間における半パラメトリックな最大安定制約によって予測されるDRO推定器について検討した。
両手法は, 合成データを用いて検証し, 所定の特性を回復し, 提案手法の有効性を検証する。
論文 参考訳(メタデータ) (2024-07-31T19:45:27Z) - Probabilistic Reduced-Dimensional Vector Autoregressive Modeling with
Oblique Projections [0.7614628596146602]
雑音データから低次元ダイナミクスを抽出する低次元ベクトル自己回帰モデルを提案する。
最適斜め分解は、予測誤差の共分散に関する最良の予測可能性のために導出される。
合成ロレンツシステムとイーストマンケミカルの工業プロセスのデータセットを用いて,提案手法の優れた性能と効率を実証した。
論文 参考訳(メタデータ) (2024-01-14T05:38:10Z) - Consensus-Adaptive RANSAC [104.87576373187426]
本稿では,パラメータ空間の探索を学習する新しいRANSACフレームワークを提案する。
注意機構は、ポイント・ツー・モデル残差のバッチで動作し、軽量のワンステップ・トランスフォーマーで見いだされたコンセンサスを考慮するために、ポイント・ツー・モデル推定状態を更新する。
論文 参考訳(メタデータ) (2023-07-26T08:25:46Z) - On the Noise Sensitivity of the Randomized SVD [8.98526174345299]
ランダム化特異値分解(R-SVD)は、大きな行列の部分的なSVDを効率的に計算するためのスケッチベースアルゴリズムである。
我々はR-SVDを低ランク信号と雑音測定モデルで解析する。
R-SVDによって生成される特異値は、BBPのような相転移を示す。
論文 参考訳(メタデータ) (2023-05-27T10:15:17Z) - Nonconvex Robust High-Order Tensor Completion Using Randomized Low-Rank
Approximation [29.486258609570545]
2つの効率的な低ランク近似手法は、まず高出力(d >= 3) T-SVD フレームワークで考案される。
提案手法は,計算効率と推定精度の両方の観点から,他の最先端手法よりも優れている。
論文 参考訳(メタデータ) (2023-05-19T07:51:36Z) - Greedy based Value Representation for Optimal Coordination in
Multi-agent Reinforcement Learning [64.05646120624287]
LVDとMVDの結合Q値関数を導出する。
最適な整合性を確保するために、最適なノードは独自のSTNである必要がある。
本手法は,様々なベンチマーク実験において,最先端のベースラインよりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-22T08:14:50Z) - Numerical Optimizations for Weighted Low-rank Estimation on Language
Model [73.12941276331316]
Singular value decomposition (SVD) は、より小さい行列でターゲット行列を近似する最も一般的な圧縮手法の1つである。
標準SVDは行列内のパラメータを同じ重要性で扱うが、これは単純だが非現実的な仮定である。
本手法は,ニューラルベース言語モデルにおいて,現在のSOTA法よりも優れた性能を示す。
論文 参考訳(メタデータ) (2022-11-02T00:58:02Z) - Training Discrete Deep Generative Models via Gapped Straight-Through
Estimator [72.71398034617607]
再サンプリングのオーバーヘッドを伴わずに分散を低減するため, GST (Gapped Straight-Through) 推定器を提案する。
この推定子は、Straight-Through Gumbel-Softmaxの本質的な性質に着想を得たものである。
実験により,提案したGST推定器は,2つの離散的な深部生成モデリングタスクの強いベースラインと比較して,優れた性能を享受できることが示された。
論文 参考訳(メタデータ) (2022-06-15T01:46:05Z) - Why Approximate Matrix Square Root Outperforms Accurate SVD in Global
Covariance Pooling? [59.820507600960745]
本稿では,前方通過のSVDと後方伝播のPad'e近似を用いて勾配を計算する新しいGCPメタ層を提案する。
提案するメタレイヤは,さまざまなCNNモデルに統合され,大規模および微細なデータセット上で最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-05-06T08:03:45Z) - Optimal High-order Tensor SVD via Tensor-Train Orthogonal Iteration [10.034394572576922]
雑音の多い高次テンソル観測から低テンソルトレインのランク構造を推定する新しいアルゴリズムを提案する。
提案したTTOIの利点は、高次マルコフ過程の推定と次元削減への応用を通して説明される。
論文 参考訳(メタデータ) (2020-10-06T05:18:24Z) - Simple and Effective Prevention of Mode Collapse in Deep One-Class
Classification [93.2334223970488]
深部SVDDにおける超球崩壊を防止するための2つの正則化器を提案する。
第1の正則化器は、標準のクロスエントロピー損失によるランダムノイズの注入に基づいている。
第2の正規化器は、小さすぎるとミニバッチ分散をペナライズする。
論文 参考訳(メタデータ) (2020-01-24T03:44:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。