論文の概要: Generalized Least Squares Kernelized Tensor Factorization
- arxiv url: http://arxiv.org/abs/2412.07041v3
- Date: Tue, 11 Feb 2025 14:57:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-12 14:05:16.867045
- Title: Generalized Least Squares Kernelized Tensor Factorization
- Title(参考訳): テンソル因子化の一般化された最小方形
- Authors: Mengying Lei, Lijun Sun,
- Abstract要約: テンソル完備化のための一般化Last Squares Kernelized Factorization (GL) フレームワークについて述べる。
GLは低ランク分解と局所的に相関した残留過程を統合する。
提案するフレームワークは,空間的タスクにまたがる4つの実世界のデータセットで評価される。
- 参考スコア(独自算出の注目度): 19.284198191705027
- License:
- Abstract: Completing multidimensional tensor-structured data with missing entries is a fundamental task for many real-world applications involving incomplete or corrupted datasets. For data with spatial or temporal side information, low-rank factorization models with smoothness constraints have demonstrated strong performance. Although effective at capturing global and long-range correlations, these models often struggle to capture short-scale, high-frequency variations in the data. To address this limitation, we propose the Generalized Least Squares Kernelized Tensor Factorization (GLSKF) framework for tensor completion. GLSKF integrates smoothness-constrained low-rank factorization with a locally correlated residual process; the resulting additive structure enables effective characterization of both global dependencies and local variations. Specifically, we define the covariance norm to enforce the smoothness of factor matrices in the global low-rank factorization, and use structured covariance/kernel functions to model the local processes. For model estimation, we develop an alternating least squares (ALS) procedure with closed-form solutions for each subproblem. GLSKF utilizes zero-padding and slicing operations based on projection matrices which preserve the Kronecker structure of covariances, facilitating efficient computations through the conjugate gradient (CG) method. The proposed framework is evaluated on four real-world datasets across diverse tasks. Experimental results demonstrate that GLSKF achieves superior performance and scalability, establishing it as a novel solution for multidimensional tensor completion.
- Abstract(参考訳): 多次元テンソル構造データとエントリの欠如を補完することは、不完全あるいは破損したデータセットを含む多くの実世界のアプリケーションにとって、基本的なタスクである。
空間的・時間的側情報を持つデータに対しては,スムーズ性制約のある低ランク因数分解モデルが強い性能を示した。
グローバルと長距離の相関を捉えるのに効果的であるが、これらのモデルはしばしばデータの短スケール、高頻度の変動を捉えるのに苦労する。
この制限に対処するため,テンソル完備化のためのGLSKF(Generalized Least Squares Kernelized Tensor Factorization)フレームワークを提案する。
GLSKFは、滑らかさに制約された低ランクの分解と局所的相関した残留過程を統合し、その結果の付加構造は、大域的依存と局所的変動の両方を効果的に特徴づけることができる。
具体的には、大域的低ランク因子化における因子行列の滑らかさを強制する共分散ノルムを定義し、局所過程をモデル化するために構造化共分散/カーネル関数を用いる。
モデル推定のために,各サブプロブレムに対する閉形式解を用いた交代最小二乗法 (ALS) を開発した。
GLSKFは、共分散のクロネッカー構造を保存する射影行列に基づくゼロパディングとスライシング演算を利用し、共役勾配(CG)法による効率的な計算を容易にする。
提案するフレームワークは,4つの実世界のデータセットを多種多様なタスクで評価する。
実験により, GLSKFは高い性能とスケーラビリティを実現し, 多次元テンソル完備化のための新しい解法として確立した。
関連論文リスト
- Preventing Model Collapse in Gaussian Process Latent Variable Models [11.45681373843122]
本稿では,線形フーリエVMのレンズによるモデル崩壊に対する射影分散の影響を理論的に検討する。
我々は、スペクトル混合(SM)カーネルと微分可能乱数特徴(RFF)カーネル近似を統合することにより、カーネルの柔軟性が不十分なため、モデル崩壊に取り組む。
提案したVMは、アドバイスRFLVMと呼ばれ、さまざまなデータセットで評価され、さまざまな競合モデルよりも一貫して優れています。
論文 参考訳(メタデータ) (2024-04-02T06:58:41Z) - SIGMA: Scale-Invariant Global Sparse Shape Matching [50.385414715675076]
非剛体形状の正確なスパース対応を生成するための新しい混合整数プログラミング(MIP)法を提案する。
いくつかの挑戦的な3Dデータセットに対して,スパースな非剛性マッチングの最先端結果を示す。
論文 参考訳(メタデータ) (2023-08-16T14:25:30Z) - Probabilistic Shape Completion by Estimating Canonical Factors with
Hierarchical VAE [48.03685702899071]
本稿では,点雲の部分観測から3次元形状完成法を提案する。
提案手法は,局所特徴体全体を1つのフィードフォワードネットワークで推定する。
完全特徴量の正準因子を確率的に推定するために, 微小な正準関数を持つ階層的変分オートエンコーダ (VAE) を用いる。
論文 参考訳(メタデータ) (2022-12-06T23:41:31Z) - Towards Understanding and Mitigating Dimensional Collapse in Heterogeneous Federated Learning [112.69497636932955]
フェデレートラーニングは、プライバシを考慮したデータ共有を必要とせずに、さまざまなクライアントでモデルをトレーニングすることを目的としている。
本研究では,データの不均一性がグローバル集約モデルの表現に与える影響について検討する。
フェデレーション学習における次元的崩壊を効果的に緩和する新しい手法である sc FedDecorr を提案する。
論文 参考訳(メタデータ) (2022-10-01T09:04:17Z) - Bayesian Complementary Kernelized Learning for Multidimensional
Spatiotemporal Data [11.763229353978321]
補足型並列学習(BCKL)のための新しい統計フレームワークを提案する。
BCKLは、正確な後部平均値と高品質の不確実性推定を提供することで優れた性能を提供する。
論文 参考訳(メタデータ) (2022-08-21T22:38:54Z) - Tackling Data Heterogeneity: A New Unified Framework for Decentralized
SGD with Sample-induced Topology [6.6682038218782065]
我々は,経験的リスク最小化問題に対して,勾配に基づく最適化手法を統一する汎用フレームワークを開発した。
本稿では,SAGA,Local-SVRG,GT-SAGAなどの分散還元(VR)および勾配追跡(GT)手法の統一的な視点を提供する。
その結果、VRとGTの手法は、それぞれデバイス内およびデバイス間のデータを効果的に排除し、アルゴリズムを最適解に正確に収束させることができることがわかった。
論文 参考訳(メタデータ) (2022-07-08T07:50:08Z) - $\texttt{FedBC}$: Calibrating Global and Local Models via Federated
Learning Beyond Consensus [66.62731854746856]
フェデレートラーニング(FL)では、デバイス全体にわたるモデル更新の集約を通じて、グローバルモデルを協調的に学習する目的は、ローカル情報を通じたパーソナライズという目標に反対する傾向にある。
本研究では,このトレードオフを多基準最適化により定量的にキャリブレーションする。
私たちは、$texttFedBC$が、スイートデータセット間でグローバルおよびローカルモデルのテスト精度のメトリクスのバランスをとることを実証しています。
論文 参考訳(メタデータ) (2022-06-22T02:42:04Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Scalable Spatiotemporally Varying Coefficient Modelling with Bayesian Kernelized Tensor Regression [17.158289775348063]
カーネル化されたテンソル回帰(BKTR)は、低ランクの時間構造を持つモデリングプロセスに対する新しいスケーラブルなアプローチと考えられる。
そこで本研究では,BKTRのモデル推定と推定において,BKTRの優れた性能と効率性を確認した。
論文 参考訳(メタデータ) (2021-08-31T19:22:23Z) - Rank-R FNN: A Tensor-Based Learning Model for High-Order Data
Classification [69.26747803963907]
Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。
まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。
Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
論文 参考訳(メタデータ) (2021-04-11T16:37:32Z) - A Unified Framework for Coupled Tensor Completion [42.19293115131073]
結合テンソル分解は、潜在結合因子に由来する事前知識を組み込むことで、結合データ構造を明らかにする。
TRは強力な表現能力を持ち、いくつかの多次元データ処理アプリケーションで成功している。
提案手法は, 合成データに関する数値実験で検証され, 実世界のデータに対する実験結果は, 回収精度の観点から, 最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-01-09T02:15:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。