論文の概要: Score-Based Martingale Posteriors for Deep Neural Networks
- arxiv url: http://arxiv.org/abs/2606.15725v1
- Date: Sun, 14 Jun 2026 10:18:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.809101
- Title: Score-Based Martingale Posteriors for Deep Neural Networks
- Title(参考訳): ディープニューラルネットワークのためのスコアベースMartingale Posterior
- Abstract要約: スコアベース・マーチンゲール後部(SMP)の有効性について検討した。
本稿では,ディープニューラルネットワーク(DNN)のパラメータ推定のためのSMPについて検討する。
- 参考スコア(独自算出の注目度): 0.8166364251367626
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper we investigate the efficacy of the score-based martingale posteriors (SMP) (Cui & Walker, 2025; Fong et al., 2023) in the context of modern and large-scale machine learning problems and its potential for meaningful uncertainty quantification. SMPs work with a stochastic gradient ascent-type recursion on the parameter space of stochastic models and construct a martingale on the parameter space. Under simple mathematical assumptions, the recursion can be built so that the parameters form a martingale sequence which possesses a limiting, in time, random variable, the latter of which can be simulated very quickly, in contrast to Monte Carlo-based methods such as Markov chain Monte Carlo. In this expository paper we explore the SMP for inferring the parameters of deep neural networks (DNNs) and, where feasible, compare our results to the state-of-the-art Monte Carlo methods aimed at inferring conventional Bayesian posteriors.
- Abstract(参考訳): 本稿では,現代および大規模機械学習問題におけるスコアベース・マーチンゲール後部(SMP,Cui & Walker, 2025, Fong et al , 2023)の有効性と,その有意な不確実性定量化の可能性について検討する。
SMP は確率勾配上昇型再帰を確率モデルのパラメータ空間上で行い、パラメータ空間上のマーチンゲールを構成する。
単純な数学的仮定の下で、再帰は、パラメータが、マルコフ連鎖モンテカルロのようなモンテカルロに基づく手法とは対照的に、制限のある時間的確率変数を持つマーチンゲール列を形成するように構成できる。
本稿では、ディープニューラルネットワーク(DNN)のパラメータを推定するためのSMPについて検討し、その結果を従来のベイズ後部推定を目的とした最先端のモンテカルロ法と比較する。
関連論文リスト
- Investigating Batch Inference in a Sequential Monte Carlo Framework for Neural Networks [1.8129328638036128]
ベイズ推論により、汎用ニューラルネットワーク(NN)の重みに対する後部分布を定義することができる
そのような近似の1つ、変分推論は、ミニバッチ勾配勾配を用いた場合、計算的に効率的である。
NNを用いたベンチマーク画像分類問題において,精度の低下を最小限に抑えながら,最大6倍の高速トレーニングを実現できることがわかった。
論文 参考訳(メタデータ) (2026-01-29T16:59:31Z) - Efficient Inference for Coupled Hidden Markov Models in Continuous Time and Discrete Space [13.537748779869615]
本稿では,システム内の各マルコフ連鎖の生成元をパラメータ化するモデルクラスであるLatent Interacting Particle Systemsを紹介する。
提案手法は,グラフ上の潜伏SIRSモデルに対する挑戦的後部推論タスクと,実データに基づいて訓練された山火事拡散動態のニューラルモデルに有効であることを示す。
論文 参考訳(メタデータ) (2025-10-14T18:42:12Z) - Utilising Gradient-Based Proposals Within Sequential Monte Carlo Samplers for Training of Partial Bayesian Neural Networks [3.2254941904559917]
部分ベイズニューラルネットワーク(pBNN)は完全にベイズニューラルネットワークと競合することが示されている。
我々は、ガイド付き提案を活用し、勾配ベースのMarkovカーネルを組み込むことにより、新しいSMCベースのpBNNトレーニング手法を提案する。
提案手法は,予測性能と最適損失の点で最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2025-05-01T20:05:38Z) - Generalized Bayesian deep reinforcement learning [2.469908534801392]
マルコフ依存を前提として,未知環境のダイナミクスを深層生成モデルを用いてモデル化することを提案する。
これらのモデルに可能性関数が存在しない場合、一般化された予測順序(または述語)スコアリング規則(SR)を学習して訓練する。
政策学習では,後部分布に関する期待値関数を最大化することにより,最適な政策を学習するためのトンプソンサンプリング(ETS)を提案する。
論文 参考訳(メタデータ) (2024-12-16T13:02:17Z) - BINDy -- Bayesian identification of nonlinear dynamics with reversible-jump Markov-chain Monte-Carlo [0.0]
モデルパーシモニーは、データ駆動型モデリングにおける重要な認識バイアスであり、解釈可能性を助け、過度な適合を防ぐのに役立つ。
非線形力学(SINDy)法のスパース同定は、データから直接複素力学のスパース表現を学習することができる。
SINDyの代替として,辞書学習システム識別のベイズ的新しい治療法が提案されている。
論文 参考訳(メタデータ) (2024-08-15T10:03:30Z) - Bayesian Circular Regression with von Mises Quasi-Processes [57.88921637944379]
本研究では、円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
後部推論のために,高速ギブズサンプリングに寄与するストラトノビッチ様拡張法を導入する。
本研究では,このモデルを用いて風向予測と走行歩行周期のパーセンテージを関節角度の関数として適用する実験を行った。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Joint Bayesian Inference of Graphical Structure and Parameters with a
Single Generative Flow Network [59.79008107609297]
本稿では,ベイジアンネットワークの構造上の結合後部を近似する手法を提案する。
サンプリングポリシが2フェーズプロセスに従う単一のGFlowNetを使用します。
パラメータは後部分布に含まれるため、これは局所確率モデルに対してより柔軟である。
論文 参考訳(メタデータ) (2023-05-30T19:16:44Z) - Towards Efficient MCMC Sampling in Bayesian Neural Networks by
Exploiting Symmetry [1.7942265700058988]
理論的には、ベイズニューラルネットワークの後方予測密度は対称性のないパラメータ参照セットに制限可能である。
実験の結果, 効率的なサンプリングが可能であることが示唆され, 深層学習における正確な不確実性定量化への道が開かれた。
論文 参考訳(メタデータ) (2023-04-06T07:20:57Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Inverting brain grey matter models with likelihood-free inference: a
tool for trustable cytoarchitecture measurements [62.997667081978825]
脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。
我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。
次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
論文 参考訳(メタデータ) (2021-11-15T09:08:27Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳(メタデータ) (2021-04-29T15:38:46Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。