論文の概要: A Spectral Framework for Closed-Form Relative Density Estimation

• arxiv url: http://arxiv.org/abs/2605.10668v1
• Date: Mon, 11 May 2026 14:51:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.911473
• Title: A Spectral Framework for Closed-Form Relative Density Estimation
• Title（参考訳）: 閉形相対密度推定のためのスペクトルフレームワーク
• Abstract要約: 線形パラメータ化確率モデルにおける相対対数密度推定のための閉形式スペクトルフレームワークを提案する。 我々は,一階および二階の特徴モーメントのみに基づく明示的なスペクトル式を導出し,固定特徴量に対する発散係数と対数密度ポテンシャルの両方の閉形式推定値を得る。
• 参考スコア（独自算出の注目度）: 0.554780083433538
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a closed-form spectral framework for relative log-density estimation in linearly parameterized probabilistic models, including unnormalized and conditional models. This is achieved by representing the Kullback-Leibler (KL) divergence as an integral of weighted chi-squared divergences, converting KL estimation into a family of least-squares problems. We derive an explicit spectral formula based only on first- and second-order feature moments, yielding closed-form estimators of both divergences and log-density potentials for fixed features. The framework extends to a broad class of f-divergences and can be combined with kernelization or feature learning with neural networks. We prove convergence guarantees for the resulting estimators and empirically compare them on synthetic data with optimization-based variational formulations, including logistic and softmax regression for normalized conditional models.
• Abstract（参考訳）: 非正規化モデルや条件付きモデルを含む線形パラメータ化確率モデルにおける相対対数密度推定のための閉形式スペクトルフレームワークを提案する。 これはKullback-Leibler (KL) の発散を重み付きカイ二乗発散の積分として表現し、KL推定を最小二乗問題の族に変換することで達成される。 我々は,一階および二階の特徴モーメントのみに基づく明示的なスペクトル式を導出し,固定特徴量に対する発散量と対数密度ポテンシャルの両方の閉形式推定値を得る。 このフレームワークは幅広い種類のf-divergencesに拡張され、カーネル化やニューラルネットワークによる特徴学習と組み合わせることができる。 得られた推定器の収束保証を証明し, 正規化条件モデルに対するロジスティックおよびソフトマックス回帰を含む, 最適化に基づく変分式を用いた合成データと比較した。

関連論文リスト

• Conditional Diffusion for Nonparametric Instrumental Variable Quantile Regression [18.254578337569264]
  本研究では,条件拡散モデルとカーネルパラメトリック条件モーメント定式化を組み合わせた2段階推定器を提案する。 提案した推定器の余剰リスク境界を確立し,条件付き拡散モデルに対するエンドツーエンドの総変動保証を導出する。 シミュレーション研究と実データ応用により,提案手法が既存の非パラメトリックIVQR手法より優れていることを示す。
  論文  参考訳（メタデータ） (2026-08-08T16:01:24Z)
• Representational Capacity: Geometric Limits on Feature Representation in Transformer Language Models [51.56484100374058]
  モデルがサポートできるほぼ直交方向数を推定するためのフレームワークを開発する。 このメトリックを数十のオープンソースモデルに適用すると、高い$varepsilon$を持つモデルと、それを維持する$varepsilon$の低いモデルという2つのクラスが明らかになる。
  論文  参考訳（メタデータ） (2026-06-01T18:28:56Z)
• Fast Model Selection and Stable Optimization for Softmax-Gated Multinomial-Logistic Mixture of Experts Models [40.216463162163976]
  我々は,ソフトマックスゲート型マルチミリ波観測用MoEのバッチ最小化最適化アルゴリズムを開発した。 また,条件密度推定とパラメータ回復のための有限サンプル率も証明した。 生物学的タンパク質-タンパク質相互作用予測実験は、完全なパイプラインを検証する。
  論文  参考訳（メタデータ） (2026-02-08T14:45:41Z)
• From Tail Universality to Bernstein-von Mises: A Unified Statistical Theory of Semi-Implicit Variational Inference [0.12183405753834557]
  半単純変分推論 (SIVI) は$q() = int k(| z) r(dz)$ という形の近似後部を構成する 本稿では,このような家族に対する「近似最適化統計学」を統一的に展開する。
  論文  参考訳（メタデータ） (2025-12-05T19:26:25Z)
• Dendrograms of Mixing Measures for Softmax-Gated Gaussian Mixture of Experts: Consistency without Model Sweeps [41.371172458797524]
  ゲーティングパラメータの共通翻訳、固有のゲート-エキスパート相互作用、およびタイトな数値-デノミネータ結合までの不特定性に対処する。 モデル選択には, 最適なパラメータ率を得る専門家の数を一貫したスイープフリーセレクタとして, デンドログラム誘導SGMoEを適応させる。 干ばつを識別できるトウモロコシの形質のデータセット上で、私たちのデンドログラム誘導SGMoEは2人の専門家を選別し、明確な混合階層を公開し、確率を早期に安定化し、解釈可能な遺伝子型フェノタイプマップを生成する。
  論文  参考訳（メタデータ） (2025-10-14T17:23:44Z)
• Parameter-Aware Ensemble SINDy for Interpretable Symbolic SGS Closure [0.0]
  この研究は、解釈可能な偏微分方程式とサブグリッドスケール閉包を発見するためのスケーラブルでパラメータ対応のスパース回帰フレームワークを設計する。 SINDy(Sparse Identification of Dynamics)に基づいて構築されたこのアプローチは、4つの拡張を通じて鍵となる制限に対処する。
  論文  参考訳（メタデータ） (2025-08-13T09:37:57Z)
• Scaling and renormalization in high-dimensional regression [72.59731158970894]
  リッジ回帰に関する最近の結果について統一的な視点を提示する。 我々は、物理とディープラーニングの背景を持つ読者を対象に、ランダム行列理論と自由確率の基本的なツールを使用する。 我々の結果は拡張され、初期のスケーリング法則のモデルについて統一的な視点を提供する。
  論文  参考訳（メタデータ） (2024-05-01T15:59:00Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• A probabilistic, data-driven closure model for RANS simulations with aleatoric, model uncertainty [1.8416014644193066]
  本稿では,レノルズ平均Navier-Stokes (RANS) シミュレーションのためのデータ駆動閉包モデルを提案する。 パラメトリック閉包が不十分な問題領域内の領域を特定するために,完全ベイズ的定式化と余剰誘導先行法を組み合わせて提案する。
  論文  参考訳（メタデータ） (2023-07-05T16:53:31Z)
• Posterior-Aided Regularization for Likelihood-Free Inference [23.708122045184698]
  後補助正規化(PAR)は,モデル構造に関係なく,密度推定器の学習に適用可能である。 単一のニューラルネットワークを用いて逆KL項と相互情報項の両方を推定するPARの統一推定方法を提供する。
  論文  参考訳（メタデータ） (2021-02-15T16:59:30Z)
• Statistical optimality and stability of tangent transform algorithms in logit models [6.9827388859232045]
  我々は,データ生成過程の条件として,ロジカルオプティマによって引き起こされるリスクに対して,非漸近上界を導出する。 特に,データ生成過程の仮定なしにアルゴリズムの局所的変動を確立する。 我々は,大域収束が得られる半直交設計を含む特別な場合について検討する。
  論文  参考訳（メタデータ） (2020-10-25T05:15:13Z)
• Autoregressive Score Matching [113.4502004812927]
  自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。 本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:01:24Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• Nonparametric Score Estimators [49.42469547970041]
  未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。 正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。 カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
  論文  参考訳（メタデータ） (2020-05-20T15:01:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。