論文の概要: Online TT-ALS for Streaming Tensor Decomposition with Incremental Orthogonalization
- arxiv url: http://arxiv.org/abs/2606.31061v1
- Date: Tue, 30 Jun 2026 02:50:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.046761
- Title: Online TT-ALS for Streaming Tensor Decomposition with Incremental Orthogonalization
- Title(参考訳): インクリメンタル直交型テンソル分解のためのオンラインTT-ALS
- Abstract要約: 列車列車(TT)分解は高次元データ解析の強力な手法である。
オンラインTT-ALS(Alternating Least Squares)は、直交制約を順次適用するアルゴリズムである。
提案手法は計算効率が高く,低遅延リアルタイム処理に適している。
- 参考スコア(独自算出の注目度): 3.7214007898390196
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tensor Train (TT) decomposition is a powerful technique for analyzing high-dimensional data. Existing algorithms for computing TT decompositions can be categorized into two main types: conventional batch-based approaches and recursive online methods. In the context of streaming data, batch methods typically achieve higher reconstruction accuracy but often suffer from memory exhaustion, while online methods provide greater computational efficiency. In this work, we introduce Online TT-ALS (Alternating Least Squares), an algorithm that sequentially enforces orthogonality constraints. This approach allows for efficient and exact updates of the core tensor while maintaining high reconstruction accuracy. Theoretically, we prove that enforcing these orthogonal gauge constraints guarantees monotonic decrease of the local objective function and temporal smoothness. Computationally, our deterministic single-sweep update reduces the rank dependence from quadratic to linear, achieving an overall complexity of $\mathcal{O}(I^{n-1} r)$. Experimental results demonstrate that the proposed method outperforms existing online techniques not only in terms of mathematical approximation accuracy but also in human perception-based video quality metrics. Furthermore, compared to recent deep learning-based paradigms, our algebraic approach achieves speedups of several orders of magnitude. Consequently, our method exhibits high computational efficiency and is suitable for low-latency real-time processing applications.
- Abstract(参考訳): テンソルトレイン(TT)分解は高次元データを解析するための強力な技術である。
既存のTT分解計算アルゴリズムは、従来のバッチベースのアプローチと再帰的なオンライン手法の2つのタイプに分類される。
ストリーミングデータの文脈では、バッチ手法は一般により高い再構成精度を達成するが、しばしばメモリの枯渇に悩まされる。
本研究では,直交制約を逐次適用するアルゴリズムである Online TT-ALS (Alternating Least Squares) を導入する。
このアプローチは、高い再構成精度を維持しながら、コアテンソルの効率的かつ正確な更新を可能にする。
理論的には、これらの直交ゲージの制約を強制することは局所目的関数の単調な減少と時間的滑らかさを保証する。
計算学的に、決定論的単一スイート更新は2次から線形へのランク依存を減少させ、$\mathcal{O}(I^{n-1} r)$の全体的な複雑性を実現する。
実験の結果,提案手法は,数学的近似精度だけでなく,人間の知覚に基づく映像品質指標においても,既存のオンライン手法よりも優れていた。
さらに,近年のディープラーニングに基づくパラダイムと比較して,代数的アプローチは数桁の高速化を実現している。
その結果,提案手法は計算効率が高く,低遅延リアルタイム処理に適していることがわかった。
関連論文リスト
- Online Learning with Gradient-Variation Interval Regret [54.59204826681113]
そこで本研究では,勾配変動を伴う時間間隔のリフレッシュなスケーリングを実現するオンライン学習アルゴリズムを提案する。
提案手法では, よりシンプルで効率的な2層オンラインアンサンブル構造を用いて, 高い理論的保証を実現する。
論文 参考訳(メタデータ) (2026-06-02T16:16:45Z) - Multi-Dimensional Visual Data Recovery: Scale-Aware Tensor Modeling and Accelerated Randomized Computation [51.65236537605077]
我々は,新しいタイプのネットワーク圧縮最適化手法,完全ランダム化テンソルネットワーク圧縮(FCTN)を提案する。
FCTNは多次元データ処理と解析において顕著な業績を残している。
定式化モデルの解法を保証した効率的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2026-02-13T14:56:37Z) - Scalable Bayesian Network Structure Learning Using Tsetlin Machine to Constrain the Search Space [10.753354249346073]
PCアルゴリズムはベイズネットワークの構造を学習するための因果推論において広く用いられている手法である。
その人気にもかかわらず、PCアルゴリズムは特にデータセットのサイズが大きくなるにつれて、かなりの時間的複雑さに悩まされる。
本稿では,より効率的にベイズ構造を構築するために,Tsetlin Machine (TM) を利用する新しい手法を提案する。
論文 参考訳(メタデータ) (2025-11-24T16:23:19Z) - Efficient Online Large-Margin Classification via Dual Certificates [0.2099922236065961]
双対定式化によるオフライン最大マージン問題について検討する。
得られた幾何学的洞察を用いて、オンライン設定のための原理的で効率的なアルゴリズムを設計する。
論文 参考訳(メタデータ) (2025-09-24T01:07:19Z) - Stochastic Optimization for Non-convex Problem with Inexact Hessian
Matrix, Gradient, and Function [99.31457740916815]
信頼領域(TR)と立方体を用いた適応正則化は、非常に魅力的な理論的性質を持つことが証明されている。
TR法とARC法はヘッセン関数,勾配関数,関数値の非コンパクトな計算を同時に行うことができることを示す。
論文 参考訳(メタデータ) (2023-10-18T10:29:58Z) - Efficient Methods for Non-stationary Online Learning [63.268670895111654]
動的後悔と適応的後悔を最適化する効率的な方法を提案する。
提案アルゴリズムでは,各ラウンドで1つの勾配クエリと1つの関数評価しか必要としない。
また、さらに強力な測度、すなわち「内部的動的後悔」を研究し、ラウンド当たりの射影数を$O(log2 T)$から$$$$に減らした。
論文 参考訳(メタデータ) (2023-09-16T07:30:12Z) - Low-rank extended Kalman filtering for online learning of neural
networks from streaming data [71.97861600347959]
非定常データストリームから非線形関数のパラメータを推定するための効率的なオンライン近似ベイズ推定アルゴリズムを提案する。
この方法は拡張カルマンフィルタ (EKF) に基づいているが、新しい低ランク+斜角行列分解法を用いている。
変分推論に基づく手法とは対照的に,本手法は完全に決定論的であり,ステップサイズチューニングを必要としない。
論文 参考訳(メタデータ) (2023-05-31T03:48:49Z) - An Accelerated Doubly Stochastic Gradient Method with Faster Explicit
Model Identification [97.28167655721766]
本稿では、分散正規化損失最小化問題に対する2倍加速勾配降下法(ADSGD)を提案する。
まず、ADSGDが線形収束率を達成でき、全体的な計算複雑性を低減できることを示す。
論文 参考訳(メタデータ) (2022-08-11T22:27:22Z) - Fast and Robust Online Inference with Stochastic Gradient Descent via
Random Scaling [0.9806910643086042]
本稿では,勾配降下アルゴリズムの平均化法により推定されるパラメータのベクトルに対するオンライン推論法を提案する。
我々のアプローチはオンラインデータで完全に運用されており、機能中心極限定理によって厳格に支えられている。
論文 参考訳(メタデータ) (2021-06-06T15:38:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。