論文の概要: Bayesian Tensor Train Kernel Machines with Automatic Model Complexity Inference
- arxiv url: http://arxiv.org/abs/2611.07129v1
- Date: Wed, 04 Nov 2026 20:54:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.450439
- Title: Bayesian Tensor Train Kernel Machines with Automatic Model Complexity Inference
- Title(参考訳): 自動モデル複雑度推論によるベイズテンソルトレインカーネルマシン
- Abstract要約: 本稿では,TT コアの階層型 ARD-type プリエントであるベイジアントレインカーネルマシン (BTT-KM) を提案する。
平均場変分推論は、決定論的アルゴリズムと同じ計算量と閉形式予測分布を持つベイズ変分最小二乗アルゴリズムをもたらす。
- 参考スコア(独自算出の注目度): 6.101839518775971
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tensor Network (TN) kernel machines accelerate supervised learning by using low-rank TNs to reduce computation and memory. However, most TN-based methods are deterministic with manually tuned ranks and feature dimensions, while the existing Bayesian TN kernel machine is restricted to the CANDECOMP/PARAFAC decomposition (CPD), whose single rank is shared by all modes. We extend this framework to the tensor train (TT) and propose Bayesian Tensor Train Kernel Machines (BTT-KM), whose hierarchical ARD-type priors on the TT cores infer the TT ranks and feature dimensions from data. Since each TT core is coupled to the others only through its neighbors, its closed-form posterior update requires propagating the contributions of all other cores along the chain. Mean-field variational inference yields a Bayesian alternating least squares algorithm with the same computational complexity as its deterministic counterpart and a closed-form predictive distribution. A synthetic experiment illustrates that BTT-KM recovers the true TT ranks and feature dimensions from an over-parameterized initialization.
- Abstract(参考訳): テンソルネットワーク(TN)カーネルマシンは、低ランクのTNを用いて教師あり学習を加速し、計算とメモリを削減する。
しかし、ほとんどのTNベースの手法は手動で調整されたランクと特徴次元で決定論的であり、既存のベイズTNカーネルマシンはCANDECOMP/PARAFAC分解(CPD)に制限され、全てのモードで単一のランクが共有される。
我々は、このフレームワークをテンソルトレイン(TT)に拡張し、データからTTランクと特徴次元を推定するTTコア上の階層型ARD-typeのBayesian Tensor Train Kernel Machines (BTT-KM)を提案する。
各TTコアは隣同士でのみ結合されるため、クローズドフォームの後方更新では、チェーンに沿った他のすべてのコアのコントリビューションを伝搬する必要がある。
平均場変分推論は、決定論的アルゴリズムと同じ計算量と閉形式予測分布を持つベイズ変分最小二乗アルゴリズムをもたらす。
合成実験により、BTT-KMは真のTTランクと特徴次元を過パラメータ化初期化から回復することを示した。
関連論文リスト
- When Bayesian Tensor Completion Meets Multioutput Gaussian Processes: Functional Universality and Rank Learning [53.17227599983122]
関数テンソル分解は実数値インデックスを用いて多次元データを解析することができる。
そこで本研究では,Right-Revealing Functional Low-rank tensor completion (RR-F)法を提案する。
連続多次元信号に対するモデルの普遍近似特性を確立する。
論文 参考訳(メタデータ) (2025-12-25T03:15:52Z) - Laplace Approximation For Tensor Train Kernel Machines In System Identification [6.101839518775971]
選択したTTコア上での後方分布を推定するためにLaplace近似を適用したベイズテンソルトレインカーネルマシンを導入する。
実験の結果、コアセレクションはTTランクと機能構造に大きく依存しており、VIはクロスバリデーションを置き換え、最大65倍の高速トレーニングを提供することが示された。
論文 参考訳(メタデータ) (2025-12-02T08:55:59Z) - Test time training enhances in-context learning of nonlinear functions [51.56484100374058]
テストタイムトレーニング(TTT)は、各予測に先立って指定されたパラメータを明示的に更新することで、モデル性能を向上させる。
本研究では,TTTとテキスト内学習(ICL)の組み合わせについて検討する。
論文 参考訳(メタデータ) (2025-09-30T03:56:44Z) - Interpretable Bayesian Tensor Network Kernel Machines with Automatic Rank and Feature Selection [5.240890834159944]
ネットワークカーネルマシンは、パラメータを低ランクのTNとして表現することでモデル学習を高速化する。
モデル複雑性を推定するために,TN因子の階層的先行性を用いた完全確率的フレームワークを提案する。
論文 参考訳(メタデータ) (2025-07-15T09:37:49Z) - TTNOpt: Tree tensor network package for high-rank tensor compression [0.0]
TTNOptは、量子スピンシステムと高次元データ解析にツリーテンソルネットワーク(TTN)を利用するソフトウェアパッケージである。
量子スピン系では、TTNOptは双線型スピン相互作用と磁場を持つハミルトンの基底状態を求める。
高次元データ解析では、TTNOptは複素テンソルをTTN状態に分解し、元のテンソルへの忠実度を最大化する。
論文 参考訳(メタデータ) (2025-05-09T09:28:38Z) - Tensor Network-Constrained Kernel Machines as Gaussian Processes [7.773092847736491]
ポリadic Decomposition (CPD) と Train (TT) の制約されたカーネルマシンの出力がガウス過程 (GP) を回復することを証明する。
我々は,同じ数のモデルパラメータに対して,TT が CPD と比較してGP の挙動を示すモデルを生成することを示す。
これにより、TN制約されたカーネルマシンとGP間の接続を確立する。
論文 参考訳(メタデータ) (2024-03-28T15:29:30Z) - Efficient Dataset Distillation Using Random Feature Approximation [109.07737733329019]
本稿では,ニューラルネットワークガウス過程(NNGP)カーネルのランダム特徴近似(RFA)を用いた新しいアルゴリズムを提案する。
我々のアルゴリズムは、KIP上で少なくとも100倍のスピードアップを提供し、1つのGPUで実行できる。
RFA蒸留 (RFAD) と呼ばれる本手法は, 大規模データセットの精度において, KIP や他のデータセット凝縮アルゴリズムと競合して動作する。
論文 参考訳(メタデータ) (2022-10-21T15:56:13Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Multi-Tensor Network Representation for High-Order Tensor Completion [25.759851542474447]
この研究は、部分的に観察されたサンプリングから高次元データ(テンソルを参照)の完備化の問題を研究する。
テンソルは複数の低ランク成分の重ね合わせであると考える。
本稿では,基本テンソル分解フレームワークであるMulti-Tensor Network decomposition (MTNR)を提案する。
論文 参考訳(メタデータ) (2021-09-09T03:50:19Z) - T-Basis: a Compact Representation for Neural Networks [89.86997385827055]
テンソルの集合をコンパクトに表現するための概念である T-Basis をニューラルネットワークでよく見られる任意の形状で導入する。
ニューラルネットワーク圧縮の課題に対する提案手法の評価を行い, 許容性能低下時に高い圧縮速度に達することを示す。
論文 参考訳(メタデータ) (2020-07-13T19:03:22Z) - Supervised Learning for Non-Sequential Data: A Canonical Polyadic
Decomposition Approach [85.12934750565971]
特徴相互作用の効率的なモデリングは、非順序的タスクに対する教師あり学習の基盤となる。
この問題を緩和するため、モデルパラメータをテンソルとして暗黙的に表現することが提案されている。
表現性を向上するため,任意の高次元特徴ベクトルに特徴写像を適用できるようにフレームワークを一般化する。
論文 参考訳(メタデータ) (2020-01-27T22:38:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。