論文の概要: Tensor Train Random Projection
- arxiv url: http://arxiv.org/abs/2010.10797v4
- Date: Wed, 20 Oct 2021 13:34:49 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 23:06:15.229158
- Title: Tensor Train Random Projection
- Title(参考訳): テンソルトレインランダムプロジェクション
- Authors: Yani Feng, Kejun Tang, Lianxing He, Pingqiang Zhou, Qifeng Liao
- Abstract要約: 本研究は、次元減少のための新しいテンソルトレインランダムプロジェクション(TTRP)法を提案する。
我々のTTRPは、TTランクが1に等しいテンソルトレイン表現によって体系的に構築されている。
テンソルトレイン形式に基づいて、この新しいランダムプロジェクション法は、高次元データセットの次元削減手順を高速化することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work proposes a novel tensor train random projection (TTRP) method for
dimension reduction, where pairwise distances can be approximately preserved.
Our TTRP is systematically constructed through a tensor train (TT)
representation with TT-ranks equal to one. Based on the tensor train format,
this new random projection method can speed up the dimension reduction
procedure for high-dimensional datasets and requires less storage costs with
little loss in accuracy, compared with existing methods. We provide a
theoretical analysis of the bias and the variance of TTRP, which shows that
this approach is an expected isometric projection with bounded variance, and we
show that the Rademacher distribution is an optimal choice for generating the
corresponding TT-cores. Detailed numerical experiments with synthetic datasets
and the MNIST dataset are conducted to demonstrate the efficiency of TTRP.
- Abstract(参考訳): 本研究は,2対距離をほぼ保存できる,次元縮小のための新しいテンソルトレインランダムプロジェクション(TTRP)法を提案する。
我々のTTRPは、TTランクが1に等しいテンソルトレイン(TT)表現によって体系的に構築されている。
テンソルトレイン形式に基づいて、この新しいランダムな投影法は、高次元データセットの次元縮小手順を高速化し、既存の方法に比べて少ない精度で、ストレージコストを削減できる。
本稿では,TTRPの偏りと分散の理論的解析を行い,この手法が有界な等尺射影であることを示すとともに,ラデマッハ分布が対応するTTコアを生成する最適選択であることを示す。
TTRPの効率を示すために,合成データセットとMNISTデータセットを用いた詳細な数値実験を行った。
関連論文リスト
- Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - On Statistical Rates and Provably Efficient Criteria of Latent Diffusion Transformers (DiTs) [12.810268045479992]
本研究では,DiTsスコア関数の普遍近似とサンプル複雑性について検討した。
我々は、潜伏型DiTが初期データの高次元性に関わる課題を回避できる可能性を示している。
論文 参考訳(メタデータ) (2024-07-01T08:34:40Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Multi-mode Tensor Train Factorization with Spatial-spectral
Regularization for Remote Sensing Images Recovery [1.3272510644778104]
マルチモードTT因子化と空間スペクトルの滑らか度正規化による新しい低MTTランクテンソル完備化モデルを提案する。
MTTD3R法は,視覚的,定量的に比較した手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-05T07:36:08Z) - Rademacher Random Projections with Tensor Networks [10.140147080535222]
列車分解に依拠したテンソル化ランダム射影について考察する。
合成データの実験により、テンソル化Rademacher RPは、テンソル化Gaussian RPより優れていることが示された。
論文 参考訳(メタデータ) (2021-10-26T19:18:20Z) - Spectral Tensor Train Parameterization of Deep Learning Layers [136.4761580842396]
重み行列の低ランクパラメータ化をDeep Learningコンテキストに埋め込まれたスペクトル特性を用いて検討する。
分類設定におけるニューラルネットワーク圧縮の効果と,生成的対角トレーニング設定における圧縮および安定性トレーニングの改善について述べる。
論文 参考訳(メタデータ) (2021-03-07T00:15:44Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z) - Optimal High-order Tensor SVD via Tensor-Train Orthogonal Iteration [10.034394572576922]
雑音の多い高次テンソル観測から低テンソルトレインのランク構造を推定する新しいアルゴリズムを提案する。
提案したTTOIの利点は、高次マルコフ過程の推定と次元削減への応用を通して説明される。
論文 参考訳(メタデータ) (2020-10-06T05:18:24Z) - Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。
MVSCに適合する新しい構造テンソル低ランクノルムを設計する。
提案手法は最先端の手法よりもかなり優れていることを示す。
論文 参考訳(メタデータ) (2020-04-30T11:52:12Z) - Tensorized Random Projections [8.279639493543401]
テンソルトレイン(TT)とCP分解形式に依存した2つのテンソル化ランダムプロジェクションマップを提案する。
2つのマップはメモリ要件が非常に低く、入力がCPまたはTTフォーマットで与えられる低階テンソルである場合に効率よく適用できる。
その結果, TTフォーマットは, 同じ歪み比を達成するのに必要な乱射影の大きさにおいて, CPよりもかなり優れていることがわかった。
論文 参考訳(メタデータ) (2020-03-11T03:56:44Z) - Supervised Learning for Non-Sequential Data: A Canonical Polyadic
Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。
この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。
表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文 参考訳(メタデータ) (2020-01-27T22:38:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。