論文の概要: Evidence Slopes and Effective Dimension in Singular Linear Models

• arxiv url: http://arxiv.org/abs/2601.01238v1
• Date: Sat, 03 Jan 2026 17:05:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-06 16:25:22.138114
• Title: Evidence Slopes and Effective Dimension in Singular Linear Models
• Title（参考訳）: 特異線形モデルにおけるエビデンス・スロープと有効次元
• Authors: Kalyaan Rao,
• Abstract要約: ラプラス近似を実標準しきい値(RLCT)に置き換える特異学習理論 ラプラス/BIC時間対数 n の誤差が (d/2 %) 時間対数 n と線形に大きくなることを理論的かつ実証的に示す。 以上の結果から, 特異モデルにおけるラプラス故障の具体的な有限サンプル解析を行い, 簡単な線形設定において, 有効次元の実用的な推定指標としてエビデンス・スロープが有効であることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bayesian model selection commonly relies on Laplace approximation or the Bayesian Information Criterion (BIC), which assume that the effective model dimension equals the number of parameters. Singular learning theory replaces this assumption with the real log canonical threshold (RLCT), an effective dimension that can be strictly smaller in overparameterized or rank-deficient models. We study linear-Gaussian rank models and linear subspace (dictionary) models in which the exact marginal likelihood is available in closed form and the RLCT is analytically tractable. In this setting, we show theoretically and empirically that the error of Laplace/BIC grows linearly with (d/2 minus lambda) times log n, where d is the ambient parameter dimension and lambda is the RLCT. An RLCT-aware correction recovers the correct evidence slope and is invariant to overcomplete reparameterizations that represent the same data subspace. Our results provide a concrete finite-sample characterization of Laplace failure in singular models and demonstrate that evidence slopes can be used as a practical estimator of effective dimension in simple linear settings.
• Abstract（参考訳）: ベイズモデル選択は一般に、有効モデルの次元がパラメータの数に等しいと仮定するラプラス近似(英語版)またはベイズ情報基準(英語版)(BIC)に依存する。 特異学習理論(Singular learning theory)は、この仮定を実対数標準しきい値(RLCT)に置き換える。 本稿では,線形ガウス階数モデルと線形部分空間(ディクショナリー)モデルについて検討する。 この設定では、Laplace/BICの誤差が (d/2 minus lambda) times log n で線形に増大し、d が周辺パラメータ次元、lambda が RLCT であることを示す。 RLCT対応補正は正しいエビデンス勾配を回復し、同じデータ部分空間を表すオーバーコンプリート再パラメータ化に不変である。 以上の結果から, 特異モデルにおけるラプラス故障の具体的な有限サンプル解析を行い, 簡単な線形設定において, 有効次元の実用的な推定指標としてエビデンス・スロープが有効であることを示す。

関連論文リスト

• Tubular Riemannian Laplace Approximations for Bayesian Neural Networks [0.0]
  ラプラス近似はニューラルネットワークにおけるベイズ近似の最も単純かつ実用的な方法の一つである。 近年の研究では、この構造に適応する幾何ガウス近似が提案されている。 本稿では,Tubular Riemannian Laplace (TRL)近似を導入する。
  論文  参考訳（メタデータ） (2025-12-30T17:50:55Z)
• Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
  共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。 共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
  論文  参考訳（メタデータ） (2025-11-23T00:50:33Z)
• Deep Partially Linear Transformation Model for Right-Censored Survival Data [6.315323176162257]
  本稿では, 汎用かつ柔軟な回帰フレームワークとして, 深部部分線形変換モデル(DPLTM)を提案する。 提案手法は, 興味あるコセンサーの解釈可能性を維持しつつ, 次元の呪いを避けることができる。 総合シミュレーション研究は,提案手法の精度と予測力の両面から,優れた性能を示すものである。
  論文  参考訳（メタデータ） (2024-12-10T15:50:43Z)
• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  リッジ回帰に関する最近の結果について統一的な視点を提示する。 我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。 我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Conditional Korhunen-Lo\'{e}ve regression model with Basis Adaptation for high-dimensional problems: uncertainty quantification and inverse modeling [62.997667081978825]
  本稿では,物理系の観測可能な応答のサロゲートモデルの精度を向上させる手法を提案する。 本研究では,定常水理応答のBasis Adaptation (BA)法による代理モデル構築に提案手法を適用した。
  論文  参考訳（メタデータ） (2023-07-05T18:14:38Z)
• Inverting brain grey matter models with likelihood-free inference: a tool for trustable cytoarchitecture measurements [62.997667081978825]
  脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。 我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。 次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
  論文  参考訳（メタデータ） (2021-11-15T09:08:27Z)
• Scalable mixed-domain Gaussian process modeling and model reduction for longitudinal data [5.00301731167245]
  混合領域共分散関数に対する基底関数近似スキームを導出する。 我々は,GPモデルの精度をランタイムのごく一部で正確に近似できることを示す。 また、より小さく、より解釈可能なモデルを得るためのスケーラブルなモデルリダクションワークフローを実証する。
  論文  参考訳（メタデータ） (2021-11-03T04:47:37Z)
• A Data-driven feature selection and machine-learning model benchmark for the prediction of longitudinal dispersion coefficient [29.58577229101903]
  縦方向分散(LD)係数の正確な予測は、関連するシミュレーションにおいて性能の飛躍をもたらすことができる。 本研究では, 蒸留した局所最適値と代表MLモデルとの数値比較により, 大域的最適特徴集合を提案した。 その結果,サポートベクタマシンは他のモデルよりも大幅に性能が向上していることがわかった。
  論文  参考訳（メタデータ） (2021-07-16T09:50:38Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)
• Non-parametric Models for Non-negative Functions [48.7576911714538]
  同じ良い線形モデルから非負関数に対する最初のモデルを提供する。 我々は、それが表現定理を認め、凸問題に対する効率的な二重定式化を提供することを証明した。
  論文  参考訳（メタデータ） (2020-07-08T07:17:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。