Fugu-MT 論文翻訳(概要): Oblivious subspace embeddings for compressed Tucker decompositions

論文の概要: Oblivious subspace embeddings for compressed Tucker decompositions

arxiv url: http://arxiv.org/abs/2406.09387v1
Date: Thu, 13 Jun 2024 17:58:32 GMT
ステータス: 処理完了
システム内更新日: 2024-06-14 16:15:58.938709
Title: Oblivious subspace embeddings for compressed Tucker decompositions
Title（参考訳）: 圧縮タッカー分解のための空部分空間埋め込み
Authors: Matthew Pietrosanu, Bei Jiang, Linglong Kong,
Abstract要約: この研究は、タッカー分解の推定に対する一般的なジョンソン・リンデンシュトラウス型保証を確立する。適度に大きな顔画像とfMRIのニューロイメージングデータセットでは、実験結果から、かなりの次元の縮小が可能であることが示されている。
参考スコア（独自算出の注目度）: 8.349583867022204
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Emphasis in the tensor literature on random embeddings (tools for low-distortion dimension reduction) for the canonical polyadic (CP) tensor decomposition has left analogous results for the more expressive Tucker decomposition comparatively lacking. This work establishes general Johnson-Lindenstrauss (JL) type guarantees for the estimation of Tucker decompositions when an oblivious random embedding is applied along each mode. When these embeddings are drawn from a JL-optimal family, the decomposition can be estimated within $\varepsilon$ relative error under restrictions on the embedding dimension that are in line with recent CP results. We implement a higher-order orthogonal iteration (HOOI) decomposition algorithm with random embeddings to demonstrate the practical benefits of this approach and its potential to improve the accessibility of otherwise prohibitive tensor analyses. On moderately large face image and fMRI neuroimaging datasets, empirical results show that substantial dimension reduction is possible with minimal increase in reconstruction error relative to traditional HOOI ($\leq$5% larger error, 50%-60% lower computation time for large models with 50% dimension reduction along each mode). Especially for large tensors, our method outperforms traditional higher-order singular value decomposition (HOSVD) and recently proposed TensorSketch methods.
Abstract（参考訳）: 標準ポリアディクス(CP)テンソル分解に対するランダム埋め込み(低歪み次元減少のためのツール)に関するテンソル文献の強調は、より表現力のあるタッカー分解に類似した結果を残している。この研究は、各モードに沿ってランダムな埋め込みが適用されるとき、タッカー分解を推定するための一般的なジョンソン・リンデンシュトラウス (JL) 型保証を確立する。これらの埋め込みが JL 最適族から引き出されるとき、分解は最近の CP 結果と一致する埋め込み次元の制限の下で $\varepsilon$ の相対誤差で推定できる。ランダム埋め込みを用いた高次直交反復法(HOOI)分解アルゴリズムを実装し,本手法の実用的メリットと,それ以外は禁止されたテンソル解析のアクセシビリティ向上の可能性を示す。適度に大きな顔画像とfMRIのニューロイメージングデータセットでは、従来のHOOIに比べて再現誤差が最小限に増加し、相当な次元の縮小が可能であることが実証された(約5%の誤差、各モードに沿って50%の次元の縮小を有する大モデルの50%-60%の計算時間)。特に大きなテンソルに対しては、従来の高階特異値分解(HOSVD)と最近提案したTensorSketch法より優れている。

関連論文リスト

Convolutional Neural Network Compression Based on Low-Rank Decomposition [3.3295360710329738]
本稿では,変分ベイズ行列分解を組み込んだモデル圧縮法を提案する。 VBMFは各層における重みテンソルのランクを推定するために用いられる。その結果, 高圧縮比と低圧縮比では, 圧縮モデルの性能が向上することがわかった。
論文参考訳（メタデータ） (2024-08-29T06:40:34Z)
Scalable and Robust Tensor Ring Decomposition for Large-scale Data [12.02023514105999]
本稿では,大規模テンソルデータに欠落したエントリと粗悪な破損を扱えるスケーラブルで堅牢なTR分解アルゴリズムを提案する。まず, 欠落したエントリを適応的に満たし, 分解過程における外れ値の同定が可能な, 自己重み付き急勾配降下法を開発した。
論文参考訳（メタデータ） (2023-05-15T22:08:47Z)
Error Analysis of Tensor-Train Cross Approximation [88.83467216606778]
我々は, テンソル全体の精度保証を行う。結果は数値実験により検証され、高次テンソルに対するクロス近似の有用性に重要な意味を持つ可能性がある。
論文参考訳（メタデータ） (2022-07-09T19:33:59Z)
Orthogonal Matrix Retrieval with Spatial Consensus for 3D Unknown-View Tomography [58.60249163402822]
未知視トモグラフィ(UVT)は、未知のランダムな向きで2次元投影から3次元密度マップを再構成する。提案したOMRはより堅牢で、従来の最先端のOMRアプローチよりも大幅に性能が向上している。
論文参考訳（メタデータ） (2022-07-06T21:40:59Z)
TensoRF: Tensorial Radiance Fields [74.16791688888081]
本稿では、放射場をモデル化・再構成するための新しいアプローチであるTensoRFを提案する。我々は,シーンの放射界を4次元テンソルとしてモデル化し,ボクセルごとのマルチチャネル特徴を持つ3次元ボクセル格子を表現した。 CP分解したTensoRFは高速な再構成(30分)を実現し,レンダリング品質が向上し,NeRFに比べてモデルサイズが小さい(4MB)。
論文参考訳（メタデータ） (2022-03-17T17:59:59Z)
Optimizing Information-theoretical Generalization Bounds via Anisotropic Noise in SGLD [73.55632827932101]
SGLDにおけるノイズ構造を操作することにより,情報理論の一般化を最適化する。低経験的リスクを保証するために制約を課すことで、最適なノイズ共分散が期待される勾配共分散の平方根であることを証明する。
論文参考訳（メタデータ） (2021-10-26T15:02:27Z)
MTC: Multiresolution Tensor Completion from Partial and Coarse Observations [49.931849672492305]
既存の完備化の定式化は、主に1つのテンソルからの部分的な観測に依存する。この問題を解決するために,効率的なマルチレゾリューション・コンプリート・モデル(MTC)を提案する。
論文参考訳（メタデータ） (2021-06-14T02:20:03Z)
Fast and Accurate Randomized Algorithms for Low-rank Tensor Decompositions [1.8356693937139124]
低ランクタッカーとcpテンソル分解は、データ分析の強力なツールである。タッカー分解のための高速かつ正確なスケッチALSアルゴリズムを提案する。さらに、ランダム化されたタッカー圧縮と、タッカーコアテンソルのCP分解を用いて、CP分解を加速するためにも用いられる。
論文参考訳（メタデータ） (2021-04-02T15:55:02Z)
Robust Tensor Decomposition for Image Representation Based on Generalized Correntropy [37.968665739578185]
一般化したコレントロピー基準(Corr-Tensor)を用いた新しい頑健なテンソル分解法を提案する。ラグランジュ乗算法は、一般化されたコレントロピー目的関数を反復的に効果的に最適化するために用いられる。実験により,提案手法は顔再構成における再構成誤差を著しく低減し,手書き文字認識と顔画像クラスタリングの精度を向上することを示した。
論文参考訳（メタデータ） (2020-05-10T08:46:52Z)
Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。 MVSCに適合する新しい構造テンソル低ランクノルムを設計する。提案手法は最先端の手法よりもかなり優れていることを示す。
論文参考訳（メタデータ） (2020-04-30T11:52:12Z)
Tensorized Random Projections [8.279639493543401]
テンソルトレイン(TT)とCP分解形式に依存した2つのテンソル化ランダムプロジェクションマップを提案する。 2つのマップはメモリ要件が非常に低く、入力がCPまたはTTフォーマットで与えられる低階テンソルである場合に効率よく適用できる。その結果, TTフォーマットは, 同じ歪み比を達成するのに必要な乱射影の大きさにおいて, CPよりもかなり優れていることがわかった。
論文参考訳（メタデータ） (2020-03-11T03:56:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。