論文の概要: Unbiased Monte Carlo Cluster Updates with Autoregressive Neural Networks
- arxiv url: http://arxiv.org/abs/2105.05650v1
- Date: Wed, 12 May 2021 13:31:12 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-13 18:33:47.807663
- Title: Unbiased Monte Carlo Cluster Updates with Autoregressive Neural Networks
- Title(参考訳): 自己回帰型ニューラルネットワークによるモンテカルロクラスタ更新
- Authors: Dian Wu, Riccardo Rossi, Giuseppe Carleo
- Abstract要約: マルコフ連鎖モンテカルロを用いた変分近似に付随する固有バイアスを除去する体系的手法を提案する。
提案手法は,条件付き確率のニューラルネットワーク表現に基づく対称性強化クラスタ更新に基づく。
このような有限クラスタ更新は、グローバルな神経更新に関連する人間工学的問題を回避するために重要であることを実証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Efficient sampling of complex high-dimensional probability densities is a
central task in computational science. Machine Learning techniques based on
autoregressive neural networks have been recently shown to provide good
approximations of probability distributions of interest in physics. In this
work, we propose a systematic way to remove the intrinsic bias associated with
these variational approximations, combining it with Markov-chain Monte Carlo in
an automatic scheme to efficiently generate cluster updates, which is
particularly useful for models for which no efficient cluster update scheme is
known. Our approach is based on symmetry-enforced cluster updates building on
the neural-network representation of conditional probabilities. We demonstrate
that such finite-cluster updates are crucial to circumvent ergodicity problems
associated with global neural updates. We test our method for first- and
second-order phase transitions in classical spin systems, proving in particular
its viability for critical systems, or in the presence of metastable states.
- Abstract(参考訳): 複雑な高次元確率密度の効率的なサンプリングは計算科学における中心的な課題である。
自己回帰型ニューラルネットワークに基づく機械学習技術は、物理学に興味を持つ確率分布のよい近似を提供することが最近示されている。
本研究では,これらの変分近似に関連する固有バイアスを除去し,マルコフ鎖モンテカルロと組み合わせ,クラスタ更新を効率的に生成するシステムを提案する。
提案手法は,条件付き確率のニューラルネットワーク表現に基づく対称性強化クラスタ更新に基づく。
このような有限クラスタ更新は、グローバルなニューラルアップデートに関連するエルゴディダリティ問題を回避するために不可欠であることを示す。
古典スピン系における一階および二階相転移の手法をテストし、特に臨界系におけるその生存可能性、あるいは準安定状態の存在を証明した。
関連論文リスト
- Nonlinear subspace clustering by functional link neural networks [22.49976785146764]
フィードフォワードニューラルネットワークに基づくサブスペースクラスタリングは、いくつかの高度なサブスペースクラスタリングアルゴリズムよりも優れたクラスタリング精度を提供することを示した。
我々は,データサンプルを非線形領域に変換するために,関数型リンクニューラルネットワークを用いる。
本稿では,線形サブスペースクラスタリング手法と関数型リンクニューラルネットワークサブスペースクラスタリング手法を組み合わせた凸結合サブスペースクラスタリング手法を提案する。
論文 参考訳(メタデータ) (2024-02-03T06:01:21Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - High Accuracy Uncertainty-Aware Interatomic Force Modeling with
Equivariant Bayesian Neural Networks [3.028098724882708]
原子間力学習のための新しいモンテカルロマルコフ連鎖サンプリングアルゴリズムを提案する。
さらに、NequIPアーキテクチャに基づくニューラルネットワークモデルを導入し、新しいサンプリングアルゴリズムと組み合わせることで、最先端の精度で予測が得られ、不確実性の優れた指標が得られることを示す。
論文 参考訳(メタデータ) (2023-04-05T10:39:38Z) - ConCerNet: A Contrastive Learning Based Framework for Automated
Conservation Law Discovery and Trustworthy Dynamical System Prediction [82.81767856234956]
本稿では,DNNに基づく動的モデリングの信頼性を向上させるために,ConCerNetという新しい学習フレームワークを提案する。
本手法は, 座標誤差と保存量の両方において, ベースラインニューラルネットワークよりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2023-02-11T21:07:30Z) - On the adaptation of recurrent neural networks for system identification [2.5234156040689237]
本稿では,動的システムのリカレントニューラルネットワーク(RNN)モデルの高速かつ効率的な適応を可能にするトランスファー学習手法を提案する。
その後、システムダイナミクスが変化すると仮定され、摂動系における名目モデルの性能が不可避的に低下する。
ミスマッチに対処するため、新しい動的状態からの新鮮なデータに基づいてトレーニングされた付加的補正項でモデルを拡張する。
論文 参考訳(メタデータ) (2022-01-21T12:04:17Z) - Stochastic Recurrent Neural Network for Multistep Time Series
Forecasting [0.0]
我々は、時系列予測のための繰り返しニューラルネットワークの適応を提案するために、深部生成モデルと状態空間モデルの概念の進歩を活用する。
私たちのモデルは、すべての関連情報が隠された状態でカプセル化されるリカレントニューラルネットワークのアーキテクチャ的な動作を保ち、この柔軟性により、モデルはシーケンシャルモデリングのために任意のディープアーキテクチャに簡単に統合できます。
論文 参考訳(メタデータ) (2021-04-26T01:43:43Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Kernel and Rich Regimes in Overparametrized Models [69.40899443842443]
過度にパラメータ化された多層ネットワーク上の勾配勾配は、RKHSノルムではないリッチな暗黙バイアスを誘発できることを示す。
また、より複雑な行列分解モデルと多層非線形ネットワークに対して、この遷移を実証的に示す。
論文 参考訳(メタデータ) (2020-02-20T15:43:02Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。