論文の概要: Kernel Regression with Tensor Trains and Hadamard Overparameterization
- arxiv url: http://arxiv.org/abs/2607.17390v2
- Date: Tue, 21 Jul 2026 12:57:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 14:48:36.403592
- Title: Kernel Regression with Tensor Trains and Hadamard Overparameterization
- Title(参考訳): テンソルトレインとアダマールオーバーパラメトリゼーションによるカーネル回帰
- Abstract要約: KReTTaHは、マルチウェイデータ計算のためのトレーニングデータフリー、解釈可能、非パラメトリックフレームワークとして導入されている。
モデリング精度では、最先端テンソル、ベイジアン、ニューラルネットワークベースのベースラインを一貫して上回る。
- 参考スコア(独自算出の注目度): 9.941965164307843
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Kernel regression with tensor trains and Hadamard overparameterization (KReTTaH) is introduced as a training-data-free, interpretable, and nonparametric framework for multi-way data imputation. The imputation problem is reformulated as regression in reproducing kernel Hilbert spaces (RKHS), where the tensor regression coefficients are explicitly constrained to lie on fixed-rank tensor-train (TT) manifolds and structured via Hadamard overparameterization to promote sparsity and high representational efficiency. Rather than relying on costly cross-validation, KReTTaH jointly optimizes the TT coefficient tensors and the kernel covariance matrices within a Riemannian product-manifold framework -- the former on fixed-rank TT manifolds, the latter on the manifold of positive-definite matrices -- thereby enabling automated kernel-hyperparameter selection. Numerical tests on two challenging applications -- imputation of high-dimensional functional magnetic resonance imaging (fMRI) data and recovery of missing edge flows in dynamic graphs -- demonstrate that KReTTaH consistently outperforms state-of-the-art tensor-, Bayesian-, and neural-network-based baselines in terms of modeling accuracy.
- Abstract(参考訳): テンソルトレインとアダマール過パラメータ化(KreTTaH)によるカーネル回帰は,マルチウェイデータ計算のためのトレーニングデータフリー,解釈可能,非パラメトリックなフレームワークとして導入されている。
ここでは、テンソル回帰係数は固定ランクテンソルトレイン(TT)多様体上に明示的に制約され、アダマール過パラメータ化によって構成され、疎度と表現効率を高める。
コストのかかるクロスバリデーションに頼るのではなく、KReTTaHはリーマン積多様体(前者は固定ランクTT多様体、後者は正定値行列多様体)内のTT係数テンソルとカーネル共分散行列を共同最適化することで、自動的なカーネル-ハイパーパラメータ選択を可能にする。
高次元機能磁気共鳴イメージング(fMRI)データの計算とダイナミックグラフのエッジフローの回復という2つの難しいアプリケーションの数値実験は、KReTTaHがモデリング精度の観点から、最先端テンソル、ベイジアン、ニューラルネットワークベースのベースラインを一貫して上回っていることを実証している。
関連論文リスト
- Guaranteed Noisy CP Tensor Recovery via Riemannian Optimization on the Segre Manifold [9.804487437104289]
階数 1 のテンソルの内在幾何学を、回復タスクをセグレ多様体上の最適化問題としてキャストすることで活用する。
RGD は局所的2次収束相を示し,RGN は局所的2次収束相を示し,繰り返しが統計ノイズフロアに近づくと線形に遷移する。
論文 参考訳(メタデータ) (2025-10-01T06:44:52Z) - Kernel Regression of Multi-Way Data via Tensor Trains with Hadamard Overparametrization: The Dynamic Graph Flow Case [9.941965164307843]
Kernel Regression via Trains with Hadamard overparametrization (KReTTaH)は、マルチウェイデータ計算を解釈可能な回帰ベースのフレームワークである。
KReTTaHは、最先端の代替品を一貫して上回っている。
論文 参考訳(メタデータ) (2025-09-26T11:00:05Z) - Generalized Nonnegative Structured Kruskal Tensor Regression [22.300007523556022]
一般化非負構造クルスカル回帰(NS-KTR)は、新しいテンソル回帰フレームワークである。
モード固有のハイブリッド正規化と非負性制約による解釈性と性能を向上させる。
論文 参考訳(メタデータ) (2025-09-24T08:51:38Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳(メタデータ) (2025-09-23T09:14:39Z) - Low-Rank Tensor Recovery via Variational Schatten-p Quasi-Norm and Jacobian Regularization [49.85875869048434]
暗黙的神経表現のためのニューラルネットワークによりパラメータ化されたCPベースの低ランクテンソル関数を提案する。
本研究では、スペーサーCP分解を実現するために、冗長なランク1成分に変分Schatten-p quasi-normを導入する。
滑らか性のために、ヤコビアンとハッチンソンのトレース推定器のスペクトルノルムに基づく正規化項を提案する。
論文 参考訳(メタデータ) (2025-06-27T11:23:10Z) - Generalization Bound of Gradient Flow through Training Trajectory and Data-dependent Kernel [55.82768375605861]
我々は、カーネル法における古典的ラデマッハ複雑性と整合する勾配流の一般化を確立する。
NTKのような静的カーネルとは異なり、LPKはトレーニング軌跡全体をキャプチャし、データと最適化の両方に適応する。
論文 参考訳(メタデータ) (2025-06-12T23:17:09Z) - TensorGRaD: Tensor Gradient Robust Decomposition for Memory-Efficient Neural Operator Training [91.8932638236073]
textbfTensorGRaDは,重み付けに伴うメモリ問題に直接対処する新しい手法である。
SparseGRaD は総メモリ使用量を 50% 以上削減し,同時に精度も向上することを示した。
論文 参考訳(メタデータ) (2025-01-04T20:51:51Z) - Tensor-on-Tensor Regression: Riemannian Optimization,
Over-parameterization, Statistical-computational Gap, and Their Interplay [9.427635404752936]
テンソル・オン・テンソル回帰(tensor-on-tensor regression)について検討し、テンソル応答とテンソル共変量とをタッカー階数パラメータ/行列で結合する。
我々は、未知の階級の課題に対処する2つの方法を提案する。
一般テンソル・オン・テンソル回帰に対する最初の収束保証を提供する。
論文 参考訳(メタデータ) (2022-06-17T13:15:27Z) - Scalable Spatiotemporally Varying Coefficient Modelling with Bayesian Kernelized Tensor Regression [17.158289775348063]
カーネル化されたテンソル回帰(BKTR)は、低ランクの時間構造を持つモデリングプロセスに対する新しいスケーラブルなアプローチと考えられる。
そこで本研究では,BKTRのモデル推定と推定において,BKTRの優れた性能と効率性を確認した。
論文 参考訳(メタデータ) (2021-08-31T19:22:23Z) - Spectral Tensor Train Parameterization of Deep Learning Layers [136.4761580842396]
重み行列の低ランクパラメータ化をDeep Learningコンテキストに埋め込まれたスペクトル特性を用いて検討する。
分類設定におけるニューラルネットワーク圧縮の効果と,生成的対角トレーニング設定における圧縮および安定性トレーニングの改善について述べる。
論文 参考訳(メタデータ) (2021-03-07T00:15:44Z) - Multi-View Spectral Clustering Tailored Tensor Low-Rank Representation [105.33409035876691]
本稿では,テンソル低ランクモデルに基づくマルチビュースペクトルクラスタリング(MVSC)の問題について検討する。
MVSCに適合する新しい構造テンソル低ランクノルムを設計する。
提案手法は最先端の手法よりもかなり優れていることを示す。
論文 参考訳(メタデータ) (2020-04-30T11:52:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。