論文の概要: JaxSGMC: Modular stochastic gradient MCMC in JAX
- arxiv url: http://arxiv.org/abs/2505.11190v1
- Date: Fri, 16 May 2025 12:49:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-19 14:36:14.974587
- Title: JaxSGMC: Modular stochastic gradient MCMC in JAX
- Title(参考訳): JaxSGMC:JAXにおけるモジュール確率勾配MCMC
- Authors: Stephan Thaler, Paul Fuchs, Ana Cukarska, Julija Zavadlav,
- Abstract要約: JaxSGMCは、JAXにおけるマルコフ勾配連鎖モンテカルロ(SG-MCMC)のアプリケーションに依存しないライブラリである。
ディープラーニングにおける不確実性定量化(UQ)を促進するために、最先端のSG-MCMCサンプルをいくつか実装している。
JaxSGMCは、標準のSG-MCMCビルディングブロックからカスタムサンプルを作成できる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present JaxSGMC, an application-agnostic library for stochastic gradient Markov chain Monte Carlo (SG-MCMC) in JAX. SG-MCMC schemes are uncertainty quantification (UQ) methods that scale to large datasets and high-dimensional models, enabling trustworthy neural network predictions via Bayesian deep learning. JaxSGMC implements several state-of-the-art SG-MCMC samplers to promote UQ in deep learning by reducing the barriers of entry for switching from stochastic optimization to SG-MCMC sampling. Additionally, JaxSGMC allows users to build custom samplers from standard SG-MCMC building blocks. Due to this modular structure, we anticipate that JaxSGMC will accelerate research into novel SG-MCMC schemes and facilitate their application across a broad range of domains.
- Abstract(参考訳): 本稿では,確率勾配マルコフ連鎖モンテカルロ (SG-MCMC) のアプリケーション依存ライブラリであるJaxSGMCについてJAXで紹介する。
SG-MCMCスキームは、大規模なデータセットや高次元モデルにスケールする不確実量化(UQ)手法であり、ベイズ深層学習による信頼できるニューラルネットワーク予測を可能にする。
JaxSGMCは、確率最適化からSG-MCMCサンプリングへの遷移障壁を減らし、ディープラーニングにおけるUQを促進するために、最先端のSG-MCMCサンプリング器をいくつか実装している。
さらに、JoxSGMCでは、標準のSG-MCMCビルディングブロックからカスタムのサンプルを作成できる。
このようなモジュラー構造のため、JaxSGMCは新たなSG-MCMCスキームの研究を加速し、幅広い領域にまたがる適用を促進することを期待する。
関連論文リスト
- Tuning Sequential Monte Carlo Samplers via Greedy Incremental Divergence Minimization [21.206714676842317]
本稿では,SMCサンプリング器のMarkovカーネルをチューニングするための一般的な適応フレームワークを提案する。
本稿では,Langevin Monte Carlo (LMC) などのカーネルに適用可能な勾配およびチューニング不要なアルゴリズムを提案する。
我々の実装では、数回のバニラSMC実行を犠牲にして、チューニングされたパラメータの完全なテキストスケジュールを得ることができる。
論文 参考訳(メタデータ) (2025-03-19T21:35:02Z) - AutoStep: Locally adaptive involutive MCMC [51.186543293659376]
AutoStep MCMCは、ターゲット分布の局所幾何学に適合したイテレーション毎に適切なステップサイズを選択する。
本稿では,AutoStep MCMCが,単位コスト当たりの有効サンプルサイズの観点から,最先端の手法と競合することを示す。
論文 参考訳(メタデータ) (2024-10-24T17:17:11Z) - MCMC-driven learning [64.94438070592365]
この論文はモンテカルロのハンドブックの章として登場することを意図している。
本研究の目的はマルコフ連鎖学習の共通点における様々な問題を統一することである。
論文 参考訳(メタデータ) (2024-02-14T22:10:42Z) - PINA: Leveraging Side Information in eXtreme Multi-label Classification
via Predicted Instance Neighborhood Aggregation [105.52660004082766]
eXtreme Multi-label Classification(XMC)問題は、非常に大きなラベル空間から関連するラベルを見つけることを目指している。
一般XMC問題に対するデータ強化手法であるPINA(Predicted Instance Neighborhood Aggregation)を提案する。
ラベルと入力インスタンスを機能のないインジケータと独立したエントリとして扱う既存のほとんどのXMCフレームワークとは異なり、PINAはラベルメタデータとトレーニングインスタンス間の相関関係から情報を抽出する。
論文 参考訳(メタデータ) (2023-05-21T05:00:40Z) - Knowledge Removal in Sampling-based Bayesian Inference [86.14397783398711]
単一のデータ削除要求が来ると、企業は大量のリソースで学んだモデル全体を削除する必要があるかもしれない。
既存の研究は、明示的にパラメータ化されたモデルのためにデータから学んだ知識を取り除く方法を提案する。
本稿では,MCMCのための機械学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-03-24T10:03:01Z) - Reversible Genetically Modified ModeJumping MCMC [8.981611730153546]
複雑なモデル空間における後部モデル確率を推定するために,遺伝的に修飾されたモードジャンプ型モンテカルロアルゴリズム (GMJMCMC) の可逆バージョンを導入する。
論文 参考訳(メタデータ) (2021-10-11T14:35:15Z) - Variational Combinatorial Sequential Monte Carlo Methods for Bayesian
Phylogenetic Inference [4.339931151475307]
Vari Combinatorial Monte Carlo (VCSMC) は複雑な構造について学習するための変分探索を確立する強力なフレームワークである。
本稿では,VCSMC と CSMC が,従来のタスクよりも高い確率空間を探索できることを示す。
論文 参考訳(メタデータ) (2021-05-31T19:44:24Z) - Non-convex Learning via Replica Exchange Stochastic Gradient MCMC [25.47669573608621]
本稿では,適応的複製交換SGMCMC(reSGMCMC)を提案し,バイアスを自動的に補正し,対応する特性について検討する。
実験では,様々な設定の広範囲な実験を通じてアルゴリズムを検証し,その結果を得た。
論文 参考訳(メタデータ) (2020-08-12T15:02:59Z) - Involutive MCMC: a Unifying Framework [64.46316409766764]
iMCMCでは,幅広いMCMCアルゴリズムについて述べる。
我々は、新しいMCMCアルゴリズムを開発するための設計原則として使用できる多くのトリックを定式化する。
後者は、既知の可逆MCMCアルゴリズムをより効率的な可逆アルゴリズムに変換する2つの例で示す。
論文 参考訳(メタデータ) (2020-06-30T10:21:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。