論文の概要: Laplace Approximation for Bayesian Tensor Network Kernel Machines
- arxiv url: http://arxiv.org/abs/2604.26673v1
- Date: Wed, 29 Apr 2026 13:43:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-30 15:59:36.424505
- Title: Laplace Approximation for Bayesian Tensor Network Kernel Machines
- Title(参考訳): ベイズテンソルネットワークカーネルマシンのラプラス近似
- Authors: Albert Saiapin, Kim Batselier,
- Abstract要約: 不確実性推定は、曖昧さやアウト・オブ・ディストリビューション・インプットの存在下での堅牢な意思決定に不可欠である。
本稿では,スケーラブルなLaplace近似を用いたベイズネットワークカーネルマシン(LA-TNKM)を提案する。
- 参考スコア(独自算出の注目度): 6.101839518775971
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Uncertainty estimation is essential for robust decision-making in the presence of ambiguous or out-of-distribution inputs. Gaussian Processes (GPs) are classical kernel-based models that offer principled uncertainty quantification and perform well on small- to medium-scale datasets. Alternatively, formulating the weight space learning problem under tensor network assumptions yields scalable tensor network kernel machines. However, these assumptions break Gaussianity, complicating standard probabilistic inference. This raises a fundamental question: how can tensor network kernel machines provide principled uncertainty estimates? We propose a novel Bayesian Tensor Network Kernel Machine (LA-TNKM) that employs a (linearized) Laplace approximation for Bayesian inference. A comprehensive set of numerical experiments shows that the proposed method consistently matches or surpasses Gaussian Processes and Bayesian Neural Networks (BNNs) across diverse UCI regression benchmarks, highlighting both its effectiveness and practical relevance.
- Abstract(参考訳): 不確実性推定は、曖昧さやアウト・オブ・ディストリビューション・インプットの存在下での堅牢な意思決定に不可欠である。
ガウス過程(英: Gaussian Processs、GP)は、原理化された不確実性定量化を提供し、小規模から中規模のデータセットでよく機能する古典的なカーネルベースのモデルである。
あるいは、テンソルネットワーク仮定の下で重み空間学習問題を定式化すれば、スケーラブルなテンソルネットワークカーネルマシンが得られる。
しかし、これらの仮定はガウス性を破り、標準確率的推論を複雑にする。
テンソルネットワークカーネルマシンは、どのように原理化された不確実性推定を提供するのか?
本稿では,ベイズ推論のための(線形化された)ラプラス近似を用いた新しいベイズテンソルネットワークカーネルマシン(LA-TNKM)を提案する。
総合的な数値実験により,提案手法は多種多様なUCI回帰ベンチマークにおいてガウス過程とベイズニューラルネットワーク(BNN)と一貫して一致し,その有効性と実用性の両方を強調している。
関連論文リスト
- Scalable Linearized Laplace Approximation via Surrogate Neural Kernel [11.227924985781423]
本稿では,Linearized Laplace Approximation (LLA) のカーネルを近似するスケーラブルな手法を提案する。
我々は、内部積がニューラルタンジェントカーネル(NTK)を複製するコンパクトな特徴表現を学習する代理ディープニューラルネットワーク(DNN)を使用している。
論文 参考訳(メタデータ) (2026-01-29T15:15:41Z) - Scalable Gaussian Processes with Low-Rank Deep Kernel Decomposition [7.532273334759435]
カーネルはガウス過程(GP)モデルにおいて、事前の信念とデータ構造を符号化する鍵である。
ディープカーネル学習は、標準的なパラメトリック形式を適用する前に、ニューラルネットワークを介して入力を入力することで、カーネルの柔軟性を向上させる。
我々は、ニューラルネットワークが直接低ランクカーネルを表現する、完全にデータ駆動でスケーラブルなディープカーネル表現を導入する。
論文 参考訳(メタデータ) (2025-05-24T05:42:11Z) - Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。
カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。
我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-10-09T03:55:09Z) - An Exact Kernel Equivalence for Finite Classification Models [1.4777718769290527]
我々は、その正確な表現をよく知られたニューラルタンジェントカーネル(NTK)と比較し、NTKに対する近似誤差について議論する。
この正確なカーネルを使って、ニューラルネットワークによる予測について、理論的貢献が有益な洞察を提供することを示す。
論文 参考訳(メタデータ) (2023-08-01T20:22:53Z) - Improved uncertainty quantification for neural networks with Bayesian
last layer [0.0]
不確実性定量化は機械学習において重要な課題である。
本稿では,BLL を用いた NN の対数乗算可能性の再構成を行い,バックプロパゲーションを用いた効率的なトレーニングを実現する。
論文 参考訳(メタデータ) (2023-02-21T20:23:56Z) - Robust Training and Verification of Implicit Neural Networks: A
Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。
組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。
MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文 参考訳(メタデータ) (2022-08-08T03:13:24Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳(メタデータ) (2021-03-15T16:16:18Z) - Finite Versus Infinite Neural Networks: an Empirical Study [69.07049353209463]
カーネルメソッドは、完全に接続された有限幅ネットワークより優れている。
中心とアンサンブルの有限ネットワークは後続のばらつきを減らした。
重みの減衰と大きな学習率の使用は、有限ネットワークと無限ネットワークの対応を破る。
論文 参考訳(メタデータ) (2020-07-31T01:57:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。