論文の概要: Exact Algebraic Computation of Learning Coefficients for Two-Dimensional Singular Models
- arxiv url: http://arxiv.org/abs/2608.20183v1
- Date: Thu, 20 Aug 2026 15:40:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.628424
- Title: Exact Algebraic Computation of Learning Coefficients for Two-Dimensional Singular Models
- Title（参考訳）: 2次元特異モデルのための学習係数の厳密な代数計算
- Abstract要約: Kullback-Leibler モデルが距離に等しい2次元計算に対して局所 RLCT を正確に計算する最初の決定論的アルゴリズムを提案する。
提案アルゴリズムは,浅層構造ではサンプリングが不可能な学習係数の正確な構造を明らかにする。
- 参考スコア（独自算出の注目度）: 0.5735035463793009
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Classical information criteria such as the Bayesian Information Criterion (BIC) rely on regularity assumptions that break down for singular models, leading to incorrect model selection in settings such as deep learning. The Widely Applicable Bayesian Information Criterion (WBIC) relies on local learning coefficients $λ$, which in the analytic case coincides with local Real Log Canonical Thresholds (RLCT) of the Kullback-Leibler divergence of the model, to capture correct marginal likelihood asymptotics. Exact computation of the learning coefficients has been limited to special cases, and only sampling-based estimation methods are generally applicable. We present the first deterministic algorithm that computes local RLCTs exactly for any two-dimensional model whose Kullback-Leibler distance is contact equivalent to a polynomial, derive a bound on its complexity, and demonstrate its effectiveness for a broad class of models, with applications including polynomial neural networks. Beyond providing ground truth to calibrate sampling-based estimators, exact computation reveals algebraic structure in learning coefficients that sampling cannot and out-speeds it in the shallow regime.
- Abstract（参考訳）: ベイズ情報基準(英語版)(BIC)のような古典的な情報基準は、特異なモデルを分解する規則性の仮定に依存しており、深層学習のような設定において間違ったモデル選択をもたらす。
広範適用可能なベイズ情報基準(WBIC)は、局所学習係数$λ$に依存し、分析ケースでは、モデルのクルバック・リーブラー分岐の局所リアルログ正準閾値(RLCT)と一致して、正確な辺縁性漸近を捉えている。
学習係数の厳密な計算は特別な場合に限られており、サンプリングに基づく推定法のみが一般的に適用されている。
本稿では,Kullback-Leibler距離が多項式と同値である任意の2次元モデルに対して局所RCCTを正確に計算し,その複雑性を導出する決定論的アルゴリズムを提案する。
サンプリングベース推定器を校正する基礎的真理を提供するだけでなく、正確な計算により、サンプリングが浅い状態では不可能であり、超高速である学習係数の代数的構造が明らかになる。
関連論文リスト
- Probabilistic Residual Learning for Online Recommendations [50.32543279885484]
Probabilistic Residual Learning (PRL) は、局所的残差モデリングのためにユーザをグループ化する因果ベイズ的レコメンデーションモデルである。
PRLは、さまざまなベースとなるディープラーニング推奨システムと互換性があり、意味のあるユーザクラスタを自動的に発見しながら、パフォーマンスを改善している。
論文 参考訳（メタデータ） (2026-07-23T02:39:12Z) - Efficient Covariance Estimation for Sparsified Functional Data [51.69796254617083]
共分散関数のランダムノット(ランダムノット-空間)とB-スプライン(Bspline-Spatial)推定器は計算的に効率的である。
共分散の漸近的なポイントワイドは、ある規則性条件下でのスパース化された個々の軌跡に対して得られる。
論文 参考訳（メタデータ） (2025-11-23T00:50:33Z) - Scaling and renormalization in high-dimensional regression [72.59731158970894]
リッジ回帰に関する最近の結果について統一的な視点を提示する。
我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。
我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
論文 参考訳（メタデータ） (2024-05-01T15:59:00Z) - A two stages Deep Learning Architecture for Model Reduction of
Parametric Time-Dependent Problems [0.0]
パラメトリックな時間依存システムは、実現象をモデル化する上で非常に重要である。
本稿では,低計算時間でその一般化を実現するための一般的な2段階のディープラーニングフレームワークを提案する。
その結果, キャビティ内における非圧縮性ナビエ・ストークス方程式に適用した。
論文 参考訳（メタデータ） (2023-01-24T11:24:18Z) - GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP,
and Beyond [101.5329678997916]
対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。
本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。
低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
論文 参考訳（メタデータ） (2022-11-03T16:42:40Z) - Learning Single-Index Models with Shallow Neural Networks [43.6480804626033]
我々は、浅層ニューラルネットワークの自然なクラスを導入し、勾配流を通して単一インデックスモデルを学習する能力について研究する。
対応する最適化ランドスケープが良性であることを示し、それによって専用半パラメトリック手法の準最適サンプル複雑性に一致するような一般化保証が得られることを示す。
論文 参考訳（メタデータ） (2022-10-27T17:52:58Z) - Sparse Bayesian Learning for Complex-Valued Rational Approximations [0.03392423750246091]
サロゲートモデルは、エンジニアリングタスクの計算負担を軽減するために使用される。
これらのモデルは入力パラメータに強い非線形依存を示す。
合理的近似にスパース学習アプローチを適用する。
論文 参考訳（メタデータ） (2022-06-06T12:06:13Z) - Supervised Multivariate Learning with Simultaneous Feature Auto-grouping
and Dimension Reduction [7.093830786026851]
本稿では,クラスタ化低ランク学習フレームワークを提案する。
2つの合同行列正則化を課し、予測因子を構成する特徴を自動的にグループ化する。
低ランクなモデリングよりも解釈可能であり、変数選択における厳密な空間性仮定を緩和する。
論文 参考訳（メタデータ） (2021-12-17T20:11:20Z) - Optimal regularizations for data generation with probabilistic graphical
models [0.0]
経験的に、よく調和された正規化スキームは、推論されたモデルの品質を劇的に改善する。
生成的ペアワイドグラフィカルモデルの最大Aポストエリオーリ(MAP)推論におけるL2とL1の正規化について検討する。
論文 参考訳（メタデータ） (2021-12-02T14:45:16Z) - Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。
テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。
以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-22T21:12:31Z) - Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。
本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
論文 参考訳（メタデータ） (2020-05-22T22:30:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。