論文の概要: Unbiased Monte Carlo Cluster Updates with Autoregressive Neural Networks
- arxiv url: http://arxiv.org/abs/2105.05650v1
- Date: Wed, 12 May 2021 13:31:12 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-13 18:33:47.807663
- Title: Unbiased Monte Carlo Cluster Updates with Autoregressive Neural Networks
- Title(参考訳): 自己回帰型ニューラルネットワークによるモンテカルロクラスタ更新
- Authors: Dian Wu, Riccardo Rossi, Giuseppe Carleo
- Abstract要約: マルコフ連鎖モンテカルロを用いた変分近似に付随する固有バイアスを除去する体系的手法を提案する。
提案手法は,条件付き確率のニューラルネットワーク表現に基づく対称性強化クラスタ更新に基づく。
このような有限クラスタ更新は、グローバルな神経更新に関連する人間工学的問題を回避するために重要であることを実証する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Efficient sampling of complex high-dimensional probability densities is a
central task in computational science. Machine Learning techniques based on
autoregressive neural networks have been recently shown to provide good
approximations of probability distributions of interest in physics. In this
work, we propose a systematic way to remove the intrinsic bias associated with
these variational approximations, combining it with Markov-chain Monte Carlo in
an automatic scheme to efficiently generate cluster updates, which is
particularly useful for models for which no efficient cluster update scheme is
known. Our approach is based on symmetry-enforced cluster updates building on
the neural-network representation of conditional probabilities. We demonstrate
that such finite-cluster updates are crucial to circumvent ergodicity problems
associated with global neural updates. We test our method for first- and
second-order phase transitions in classical spin systems, proving in particular
its viability for critical systems, or in the presence of metastable states.
- Abstract(参考訳): 複雑な高次元確率密度の効率的なサンプリングは計算科学における中心的な課題である。
自己回帰型ニューラルネットワークに基づく機械学習技術は、物理学に興味を持つ確率分布のよい近似を提供することが最近示されている。
本研究では,これらの変分近似に関連する固有バイアスを除去し,マルコフ鎖モンテカルロと組み合わせ,クラスタ更新を効率的に生成するシステムを提案する。
提案手法は,条件付き確率のニューラルネットワーク表現に基づく対称性強化クラスタ更新に基づく。
このような有限クラスタ更新は、グローバルなニューラルアップデートに関連するエルゴディダリティ問題を回避するために不可欠であることを示す。
古典スピン系における一階および二階相転移の手法をテストし、特に臨界系におけるその生存可能性、あるいは準安定状態の存在を証明した。
関連論文リスト
- Automatic Construction of Pattern Classifiers Capable of Continuous Incremental Learning and Unlearning Tasks Based on Compact-Sized Probabilistic Neural Network [0.0]
本稿では,確率論的ニューラルネットワークモデルを用いたパターン分類手法を提案する。
この戦略は、連続的な漸進的な学習と未学習タスクが可能な、コンパクトな確率的ニューラルネットワークに基づいている。
論文 参考訳(メタデータ) (2025-01-01T05:02:53Z) - Neural Conformal Control for Time Series Forecasting [54.96087475179419]
非定常環境における適応性を高める時系列のニューラルネットワーク共形予測手法を提案する。
提案手法は,ニューラルネットワークエンコーダを用いた補助的マルチビューデータを活用することにより,望ましい対象範囲を達成するために設計されたニューラルネットワークコントローラとして機能する。
予測間隔の整合性に優れたキャリブレーションを組み合わさった手法は, 適用範囲と確率的精度の大幅な向上を実証的に示す。
論文 参考訳(メタデータ) (2024-12-24T03:56:25Z) - Learning to Continually Learn with the Bayesian Principle [36.75558255534538]
本研究では、ニューラルネットワークの強力な表現力と、忘れることに対する単純な統計モデルの堅牢性を組み合わせたメタラーニングパラダイムを採用する。
ニューラルネットワークは継続学習中に固定されているため、破滅的な忘れ物から保護されている。
論文 参考訳(メタデータ) (2024-05-29T04:53:31Z) - Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。
我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。
本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文 参考訳(メタデータ) (2024-05-22T17:23:15Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - High Accuracy Uncertainty-Aware Interatomic Force Modeling with
Equivariant Bayesian Neural Networks [3.028098724882708]
原子間力学習のための新しいモンテカルロマルコフ連鎖サンプリングアルゴリズムを提案する。
さらに、NequIPアーキテクチャに基づくニューラルネットワークモデルを導入し、新しいサンプリングアルゴリズムと組み合わせることで、最先端の精度で予測が得られ、不確実性の優れた指標が得られることを示す。
論文 参考訳(メタデータ) (2023-04-05T10:39:38Z) - On the adaptation of recurrent neural networks for system identification [2.5234156040689237]
本稿では,動的システムのリカレントニューラルネットワーク(RNN)モデルの高速かつ効率的な適応を可能にするトランスファー学習手法を提案する。
その後、システムダイナミクスが変化すると仮定され、摂動系における名目モデルの性能が不可避的に低下する。
ミスマッチに対処するため、新しい動的状態からの新鮮なデータに基づいてトレーニングされた付加的補正項でモデルを拡張する。
論文 参考訳(メタデータ) (2022-01-21T12:04:17Z) - Stochastic Recurrent Neural Network for Multistep Time Series
Forecasting [0.0]
我々は、時系列予測のための繰り返しニューラルネットワークの適応を提案するために、深部生成モデルと状態空間モデルの概念の進歩を活用する。
私たちのモデルは、すべての関連情報が隠された状態でカプセル化されるリカレントニューラルネットワークのアーキテクチャ的な動作を保ち、この柔軟性により、モデルはシーケンシャルモデリングのために任意のディープアーキテクチャに簡単に統合できます。
論文 参考訳(メタデータ) (2021-04-26T01:43:43Z) - Kernel and Rich Regimes in Overparametrized Models [69.40899443842443]
過度にパラメータ化された多層ネットワーク上の勾配勾配は、RKHSノルムではないリッチな暗黙バイアスを誘発できることを示す。
また、より複雑な行列分解モデルと多層非線形ネットワークに対して、この遷移を実証的に示す。
論文 参考訳(メタデータ) (2020-02-20T15:43:02Z) - Model Fusion via Optimal Transport [64.13185244219353]
ニューラルネットワークのための階層モデル融合アルゴリズムを提案する。
これは、不均一な非i.d.データに基づいてトレーニングされたニューラルネットワーク間での"ワンショット"な知識伝達に成功していることを示す。
論文 参考訳(メタデータ) (2019-10-12T22:07:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。