論文の概要: Information Geometry of Message Passing
- arxiv url: http://arxiv.org/abs/2608.15922v2
- Date: Fri, 21 Aug 2026 14:34:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-24 14:49:31.667514
- Title: Information Geometry of Message Passing
- Title(参考訳): メッセージパッシングの情報幾何学
- Abstract要約: 変分推論の自然な段階的定常条件はForney型因子グラフ上にエッジ局所形式を持つことを示す。
結果のスキームをNGMP(Natural-gradient message passing)と呼ぶ。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We show that the natural-gradient stationary condition of variational inference has an edge-local form on a Forney-style factor graph. We start from the Bethe free energy and constrain a selected edge marginal to an exponential family. At a stationary point, the natural parameter of that edge equals the sum of two projected messages, one from each incident factor. Each projected message is the natural-gradient projection of the exact belief-propagation log-message at the current receiving marginal, or equivalently, the gradient of its expectation in the so-called mean coordinates. We call the resulting scheme natural-gradient message passing (NGMP). The rule is local; each edge may carry its own exponential family, and the message a factor sends depends on the marginal that receives it. Compared with variational message passing, NGMP keeps the part of the exact message that the receiving family can represent instead of averaging the factor under the neighboring beliefs. The two coincide when the uncertainty on the edges entering a non-conjugate factor vanishes, and NGMP is more accurate when that uncertainty persists, for example, along a partially observed latent chain or when parameters are filtered through successive data batches. Experiments on Poisson smoothing, heteroskedastic regression, and hourly ETTh forecasting confirm this and show that the gain appears mainly in uncertainty calibration.
- Abstract(参考訳): 変分推論の自然な段階的定常条件はForney型因子グラフ上にエッジ局所形式を持つことを示す。
我々はBethe自由エネルギーから始まり、選択された辺辺を指数族に制限する。
定常点において、そのエッジの自然なパラメータは、各インシデント係数から1つずつ、投影された2つのメッセージの合計と等しい。
それぞれのプロジェクテッドメッセージは、現在の受信限界における正確な信念伝達対数メッセージの自然な段階的な投影、すなわち、いわゆる平均座標における期待の勾配である。
結果のスキームをNGMP(Natural-gradient message passing)と呼ぶ。
ルールは局所的であり、それぞれのエッジは独自の指数族を持ち、その要素が送信するメッセージはそれを受信する限界に依存する。
変分メッセージパッシングと比較して、NGMPは、受信した家族が近隣の信念の下にある因子を平均化するのではなく、表現できる正確なメッセージの一部を保持する。
この2つは、非共役因子に入るエッジの不確かさが消え、NGMPは不確実性が部分的に観察された潜在鎖に沿って持続する場合や、連続したデータバッチを通してパラメータがフィルタリングされる場合など、より正確である。
ポアソンの平滑化, ヘテロスケダスティック回帰, および時間毎ETTh予測実験により, このことが確認され, 主に不確実なキャリブレーションの結果が得られた。
関連論文リスト
- One-step lowest-variance selection in a Gaussian random-field model motivated by masked diffusion: Total correlation and a square root collision threshold [8.230831152671708]
マスク付き離散拡散における信頼誘導型並列アンマスキングの動機付けにより、スタイリングされたガウス確率場モデルにおける1つの選択ステップについて検討する。
その結果、マスク付き離散拡散における厳密な信頼幾何と空間相関が一段階選択に結びついている。
論文 参考訳(メタデータ) (2026-07-20T03:56:34Z) - Finite-Sample Selected Covariance Spectra in Classical Shadows [45.85698554568285]
主定理は任意のシャドウプロトコルに適用される。
固定された局所的次元を持つ一般の局所積影プロトコルでは、有限重積オブザーバブルは、サポートサイズと局所再構成係数によって制御される境界に導かれる。
偏りのある局所パウリ影に対しては、選択されたパウリ支援と局所基底選択確率から閉形式の有界性を評価する。
論文 参考訳(メタデータ) (2026-05-30T04:46:49Z) - Composing Non-Conjugate Factor Graphs with Closed-Form Variational Inference [2.3394807949932495]
因子グラフプリミティブから構成される任意のモデルが、クローズドフォームの変分メッセージパッシングを許容することを示す。
それぞれのプリミティブがメッセージファミリの小さなセットを保存するため、構築は機能する。
静的アンサンブルから入力依存ゲーティング,スプリットブランチルーティングに至るまで,コンポジションの深さが増大する様子を実演する。
論文 参考訳(メタデータ) (2026-05-28T06:59:35Z) - SEED: Targeted Data Selection by Weighted Independent Set [76.68391670109433]
我々はSEEDと呼ばれる堅牢でスケーラブルなデータ選択パイプラインを開発した。
SEEDは、命令チューニング、視覚的命令チューニング、セマンティックセグメンテーションにおける最先端の手法を一貫して上回っている。
論文 参考訳(メタデータ) (2026-05-15T07:26:54Z) - Conditional Diffusion Under Linear Constraints: Langevin Mixing and Information-Theoretic Guarantees [10.73598638822051]
線形逆問題に対する事前学習拡散モデルを用いたゼロショット条件付きサンプリングについて検討する。
このスコアを無条件の接点スコアで置き換える誤差は、観測されたコンポーネントと観測されていないコンポーネントの間の次元自由条件の相互情報によって上限づけられていることを証明する。
論文 参考訳(メタデータ) (2026-05-06T19:19:54Z) - Conformal changepoint localization [36.191356601153146]
配電系統におけるオフライン変更点の局所化問題について検討する。
我々は、他の仮定をせずに変化が起こる指数に対して有限サンプルの信頼セットを生成する。
実験によると、CONCHは画像やテキストを含む困難な設定であっても、正確な信頼セットを提供する。
論文 参考訳(メタデータ) (2026-02-05T23:50:53Z) - Efficient and Sharp Off-Policy Evaluation in Robust Markov Decision Processes [44.974100402600165]
意思決定プロセス(MDP)に対する最良パラメトリックかつ最悪の摂動の評価について検討する。
我々は、元のMDPからの遷移観測を用いて、それらが同一または異なるポリシーの下で生成されるかのどちらかを判断する。
我々の推定器はウォルドの信頼区間を用いた統計的推測も行う。
論文 参考訳(メタデータ) (2024-03-29T18:11:49Z) - Theory of free fermions dynamics under partial post-selected monitoring [49.1574468325115]
連続弱測定の顕微鏡的記述に基づく部分選択後のシュルディンガー方程式を導出する。
監視された普遍性への通路は, 有限部分選択で突然発生することを示す。
我々の手法は、量子軌道の任意の部分集合に対するMIPTの研究方法を確立する。
論文 参考訳(メタデータ) (2023-12-21T16:53:42Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - The $s$-value: evaluating stability with respect to distributional shifts [3.330229314824913]
実際には、場所と時間の間で分布が変化するため、データセット間で伝達される知識の収集が困難になる。
本論文では,Kulback-Leibler分散に対する統計的パラメータの分布不安定度を定量化する不安定度尺度を提案する。
提案手法の有効性を実データ上で評価し,パラメータの分布不安定性をあるシフトに対して解明可能であることを示す。
論文 参考訳(メタデータ) (2021-05-07T05:18:12Z) - Parzen Window Approximation on Riemannian Manifold [5.600982367387833]
グラフモチベーション学習では、ラベルの伝搬は、連結されたデータポイント間のエッジとして表されるデータ親和性に大きく依存する。
不規則なサンプリング効果を考慮して正確なラベル伝播を得る親和性測定法を提案する。
論文 参考訳(メタデータ) (2020-12-29T08:52:31Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。