論文の概要: Tensorized Random Projections

• arxiv url: http://arxiv.org/abs/2003.05101v1
• Date: Wed, 11 Mar 2020 03:56:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-24 14:04:09.419450
• Title: Tensorized Random Projections
• Title（参考訳）: テンソル化ランダム射影
• Authors: Beheshteh T. Rakhshan and Guillaume Rabusseau
• Abstract要約: テンソルトレイン(TT)とCP分解形式に依存した2つのテンソル化ランダムプロジェクションマップを提案する。 2つのマップはメモリ要件が非常に低く、入力がCPまたはTTフォーマットで与えられる低階テンソルである場合に効率よく適用できる。 その結果, TTフォーマットは, 同じ歪み比を達成するのに必要な乱射影の大きさにおいて, CPよりもかなり優れていることがわかった。
• 参考スコア（独自算出の注目度）: 8.279639493543401
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We introduce a novel random projection technique for efficiently reducing the dimension of very high-dimensional tensors. Building upon classical results on Gaussian random projections and Johnson-Lindenstrauss transforms~(JLT), we propose two tensorized random projection maps relying on the tensor train~(TT) and CP decomposition format, respectively. The two maps offer very low memory requirements and can be applied efficiently when the inputs are low rank tensors given in the CP or TT format. Our theoretical analysis shows that the dense Gaussian matrix in JLT can be replaced by a low-rank tensor implicitly represented in compressed form with random factors, while still approximately preserving the Euclidean distance of the projected inputs. In addition, our results reveal that the TT format is substantially superior to CP in terms of the size of the random projection needed to achieve the same distortion ratio. Experiments on synthetic data validate our theoretical analysis and demonstrate the superiority of the TT decomposition.
• Abstract（参考訳）: 超高次元テンソルの次元を効率的に削減する新しいランダムプロジェクション手法を提案する。 ガウス乱射影とジョンソン・リンデンシュトラウス変換の古典的な結果に基づいて、それぞれテンソルトレイン~(TT)とCP分解形式に依存する2つのテンソル化ランダム射影写像を提案する。 2つのマップはメモリ要件が非常に低く、入力がCPまたはTTフォーマットで与えられる低階テンソルである場合に効率よく適用できる。 理論解析により, jlt 内の密なガウス行列は, 予測された入力のユークリッド距離をほぼ保ちながら, ランダムな因子を持つ圧縮形式で暗黙的に表される低ランクテンソルに置き換えられることが示された。 さらに, この結果から, TTフォーマットは, 同じ歪み比を達成するのに必要なランダム投影の大きさにおいて, CPよりもかなり優れていることがわかった。 合成データを用いた実験は, 理論解析を検証し, tt分解の優性を示す。

関連論文リスト

• Error Analysis of Tensor-Train Cross Approximation [88.83467216606778]
  我々は, テンソル全体の精度保証を行う。 結果は数値実験により検証され、高次テンソルに対するクロス近似の有用性に重要な意味を持つ可能性がある。
  論文  参考訳（メタデータ） (2022-07-09T19:33:59Z)
• Orthogonal Matrix Retrieval with Spatial Consensus for 3D Unknown-View Tomography [58.60249163402822]
  未知視トモグラフィ(UVT)は、未知のランダムな向きで2次元投影から3次元密度マップを再構成する。 提案したOMRはより堅牢で、従来の最先端のOMRアプローチよりも大幅に性能が向上している。
  論文  参考訳（メタデータ） (2022-07-06T21:40:59Z)
• Tensor Shape Search for Optimum Data Compression [6.610488230919323]
  テンソル形状がテンソル分解に及ぼす影響について検討した。 テンソルトレイン(TT)分解のための最適形状を求める最適化モデルを提案する。
  論文  参考訳（メタデータ） (2022-05-21T17:58:33Z)
• 2D+3D facial expression recognition via embedded tensor manifold regularization [16.98176664818354]
  2D+3次元表情認識(FERETMR)のための埋め込みテンソル多様体正規化による新しい手法を提案する。 定常点の観点から一階最適条件を確立し、収束解析によるブロック座標降下(BCD)アルゴリズムを設計する。 BU-3DFEデータベースとBosphorusデータベースの数値計算結果から,提案手法の有効性が示された。
  論文  参考訳（メタデータ） (2022-01-29T06:11:00Z)
• Near-optimal estimation of smooth transport maps with kernel sums-of-squares [81.02564078640275]
  滑らかな条件下では、2つの分布の間の正方形ワッサーシュタイン距離は、魅力的な統計的誤差上界で効率的に計算できる。 生成的モデリングのような応用への関心の対象は、基礎となる最適輸送写像である。 そこで本研究では,地図上の統計的誤差であるL2$が,既存のミニマックス下限値とほぼ一致し,スムーズな地図推定が可能となる最初のトラクタブルアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-12-03T13:45:36Z)
• Rademacher Random Projections with Tensor Networks [10.140147080535222]
  列車分解に依拠したテンソル化ランダム射影について考察する。 合成データの実験により、テンソル化Rademacher RPは、テンソル化Gaussian RPより優れていることが示された。
  論文  参考訳（メタデータ） (2021-10-26T19:18:20Z)
• Tensor Random Projection for Low Memory Dimension Reduction [22.715952036307648]
  ランダムプロジェクションは、構造情報を維持しながらベクトルの集合の次元を減少させる。 本稿では,ランダムプロジェクションにおける行積ランダム行列の新規利用を提案する。 既存の次元縮小写像よりも大幅に少ないメモリを必要とする。
  論文  参考訳（メタデータ） (2021-04-30T22:08:04Z)
• Spectral Tensor Train Parameterization of Deep Learning Layers [136.4761580842396]
  重み行列の低ランクパラメータ化をDeep Learningコンテキストに埋め込まれたスペクトル特性を用いて検討する。 分類設定におけるニューラルネットワーク圧縮の効果と,生成的対角トレーニング設定における圧縮および安定性トレーニングの改善について述べる。
  論文  参考訳（メタデータ） (2021-03-07T00:15:44Z)
• Tensor Train Random Projection [0.0]
  本研究は、次元減少のための新しいテンソルトレインランダムプロジェクション(TTRP)法を提案する。 我々のTTRPは、TTランクが1に等しいテンソルトレイン表現によって体系的に構築されている。 テンソルトレイン形式に基づいて、この新しいランダムプロジェクション法は、高次元データセットの次元削減手順を高速化することができる。
  論文  参考訳（メタデータ） (2020-10-21T07:31:45Z)
• T-Basis: a Compact Representation for Neural Networks [89.86997385827055]
  テンソルの集合をコンパクトに表現するための概念である T-Basis をニューラルネットワークでよく見られる任意の形状で導入する。 ニューラルネットワーク圧縮の課題に対する提案手法の評価を行い, 許容性能低下時に高い圧縮速度に達することを示す。
  論文  参考訳（メタデータ） (2020-07-13T19:03:22Z)
• Augmented Sliced Wasserstein Distances [55.028065567756066]
  拡張スライスされたワッサーシュタイン距離(ASWD)と呼ばれる新しい距離測定法を提案する。 ASWDは、ニューラルネットワークによってパラメータ化された高次元超曲面への最初のマッピングサンプルによって構成される。 数値的な結果から、ASWDは、合成問題と実世界の問題の両方において、他のワッサーシュタイン変種を著しく上回っていることが示されている。
  論文  参考訳（メタデータ） (2020-06-15T23:00:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。