論文の概要: Functional Bias and Tangent-Space Geometry in Variational Inference

• arxiv url: http://arxiv.org/abs/2603.08925v1
• Date: Mon, 09 Mar 2026 20:52:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-11 15:25:23.823103
• Title: Functional Bias and Tangent-Space Geometry in Variational Inference
• Title（参考訳）: 変分推論における機能バイアスとタンジェント空間幾何学
• Authors: Sean Plummer,
• Abstract要約: 後続汎関数の先行次偏差は、変動族によって誘導される変分接空間の成分によって決定されることを示す。 さらに、関数のバイアスに対する明示的な拡張を導出し、省略された相互作用方向がクロスブロック依存尺度の1次歪みを生じさせることを示す。
• 参考スコア（独自算出の注目度）: 0.12183405753834557
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Variational inference approximates Bayesian posterior distributions by projecting onto a tractable family of distributions. While most theoretical analyses evaluate the quality of this approximation using global divergence measures, many applications rely on specific posterior summaries such as expectations, variances, or tail probabilities. We develop a geometric framework for analyzing the bias of posterior functionals under variational approximations. We show that the leading-order bias of a posterior functional is determined by its component orthogonal to the variational tangent space induced by the variational family. Functionals aligned with this space incur only second-order bias. For structured mean-field variational families we characterize the tangent space explicitly and show that it consists of block-additive functions of the parameter blocks, while interaction components determine the leading-order bias. Under standard local asymptotic normality conditions we further derive explicit asymptotic expansions for the bias of posterior functionals and show that omitted interaction directions produce first-order distortion of cross-block dependence measures. These results provide a geometric explanation for several well-known properties of mean-field variational inference, including the systematic distortion of cross-block dependencies.
• Abstract（参考訳）: 変分推論は、抽出可能な分布の族に射影することでベイズ分布を近似する。 ほとんどの理論的分析は、この近似の質を大域的偏差測度を用いて評価するが、多くの応用は期待、分散、尾の確率といった特定の後続の要約に依存する。 本研究では,後方関数の偏りを変動近似で解析するための幾何学的枠組みを開発する。 後続汎関数の先行次偏差は、変動族によって誘導される変分接空間に直交する成分によって決定されることを示す。 この空間に沿う関数は二階偏差しか生じない。 構造的平均場変動族に対しては、接空間を明示的に特徴付け、それがパラメータブロックのブロック付加関数から構成されていることを示し、相互作用成分が先行次バイアスを決定する。 標準的な局所漸近正規性条件の下では、後続関数のバイアスに対する明示的な漸近展開を導出し、省略された相互作用方向がクロスブロック依存尺度の1次歪みを生み出すことを示す。 これらの結果は、クロスブロック依存関係の体系的歪みを含む平均場変分推論のよく知られたいくつかの特性に関する幾何学的説明を提供する。

関連論文リスト

• Implicit bias as a Gauge correction: Theory and Inverse Design [2.9379512315137117]
  機械学習理論の中心的な問題は、学習力学が学習目標と互換性のある特定のソリューションをどのように選択するかを特徴づけることである。 我々は、暗黙のバイアスの出現に対する学習力学の明示的な修正という観点から、一般的なメカニズムを同定する。 我々は、様々な力学の帰納バイアスを計算し、いくつかのよく知られた結果が単一の統一されたフレームワークにどのように適合するかを示した。
  論文  参考訳（メタデータ） (2026-01-10T15:33:09Z)
• Theory and computation for structured variational inference [13.739142487196034]
  我々は,変分近似の存在,特異性,自己整合性に関する最初の結果を証明する。 そこで我々は,変分近似の計算の保証を保証した勾配に基づくアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2025-11-13T02:57:54Z)
• Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
  乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。 以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
  論文  参考訳（メタデータ） (2025-10-22T19:06:39Z)
• Geometric Prior Guided Feature Representation Learning for Long-Tailed Classification [47.09355487357069]
  そこで,本論文では,よく表現されたヘッドクラスの特徴分布の幾何学的情報を活用し,モデルにテールクラスの基盤となる分布を学習させる手法を提案する。 パータード機能は、可能な限りテールクラスの基盤となる分布をカバーし、テスト領域におけるモデルの一般化性能を向上させることを目的としている。
  論文  参考訳（メタデータ） (2024-01-21T09:16:29Z)
• Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
  この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。 本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。 学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
  論文  参考訳（メタデータ） (2024-01-10T02:38:21Z)
• Spectrum-Aware Debiasing: A Modern Inference Framework with Applications to Principal Components Regression [1.342834401139078]
  本稿では,高次元回帰のための新しい手法であるSpectrumAware Debiasingを紹介する。 我々のアプローチは、構造的、重く、低ランクな構造に関する問題に適用できる。 シミュレーションおよび実データ実験により本手法を実証する。
  論文  参考訳（メタデータ） (2023-09-14T15:58:30Z)
• Data-Driven Influence Functions for Optimization-Based Causal Inference [105.5385525290466]
  統計的汎関数に対するガトー微分を有限差分法で近似する構成的アルゴリズムについて検討する。 本研究では,確率分布を事前知識がないが,データから推定する必要がある場合について検討する。
  論文  参考訳（メタデータ） (2022-08-29T16:16:22Z)
• Amortized backward variational inference in nonlinear state-space models [0.0]
  変分推論を用いた一般状態空間モデルにおける状態推定の問題点を考察する。 仮定を混合することにより、加法的状態汎関数の期待の変動近似が、観測数において最も直線的に増加する誤差を誘導することを初めて確立した。
  論文  参考訳（メタデータ） (2022-06-01T08:35:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。