論文の概要: Inferring effective couplings with Restricted Boltzmann Machines
- arxiv url: http://arxiv.org/abs/2309.02292v3
- Date: Wed, 24 Jan 2024 11:10:07 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-25 17:29:32.046400
- Title: Inferring effective couplings with Restricted Boltzmann Machines
- Title(参考訳): 制限ボルツマンマシンによる有効結合の推論
- Authors: Aur\'elien Decelle, Cyril Furtlehner, Alfonso De Jesus Navas G\'omez,
Beatriz Seoane
- Abstract要約: 生成モデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルで観測された相関を符号化しようとする。
制限ボルツマンマシンと有効イジングスピンハミルトニアンとの直接写像を実装した解を提案する。
- 参考スコア(独自算出の注目度): 3.150368120416908
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Generative models offer a direct way of modeling complex data. Energy-based
models attempt to encode the statistical correlations observed in the data at
the level of the Boltzmann weight associated with an energy function in the
form of a neural network. We address here the challenge of understanding the
physical interpretation of such models. In this study, we propose a simple
solution by implementing a direct mapping between the Restricted Boltzmann
Machine and an effective Ising spin Hamiltonian. This mapping includes
interactions of all possible orders, going beyond the conventional pairwise
interactions typically considered in the inverse Ising (or Boltzmann Machine)
approach, and allowing the description of complex datasets. Earlier works
attempted to achieve this goal, but the proposed mappings were inaccurate for
inference applications, did not properly treat the complexity of the problem,
or did not provide precise prescriptions for practical application. To validate
our method, we performed several controlled inverse numerical experiments in
which we trained the RBMs using equilibrium samples of predefined models with
local external fields, 2-body and 3-body interactions in different sparse
topologies. The results demonstrate the effectiveness of our proposed approach
in learning the correct interaction network and pave the way for its
application in modeling interesting binary variable datasets. We also evaluate
the quality of the inferred model based on different training methods.
- Abstract(参考訳): 生成モデルは複雑なデータを直接モデリングする方法を提供する。
エネルギーベースのモデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルでのデータで観測される統計的相関を符号化しようとする。
我々は,このようなモデルの物理的解釈を理解することの難しさについて論じる。
本研究では,制限ボルツマン機械と有効イジングスピンハミルトニアンとの直接マッピングを実現することで,簡単な解法を提案する。
このマッピングは、全ての可能な順序の相互作用を含み、逆イジング(またはボルツマン機械)アプローチで一般的に考慮される通常のペアワイズ相互作用を超えて、複雑なデータセットの記述を可能にする。
初期の研究はこの目標を達成しようとしたが、提案されたマッピングは推論アプリケーションには不正確であり、問題の複雑さを適切に扱えなかった。
提案手法を検証するために,我々は,局所的な外部場を持つモデルと,異なるスパーストポロジーにおける2体および3体相互作用の平衡サンプルを用いて,RCMを訓練する制御逆数値実験を行った。
その結果,提案手法が正しいインタラクションネットワークを学習する上での有効性を示し,興味深いバイナリ変数データセットのモデリングに応用できることを示す。
また,異なるトレーニング手法を用いて,推定モデルの品質を評価する。
関連論文リスト
- Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳(メタデータ) (2024-03-03T04:21:21Z) - Efficient Training of Energy-Based Models Using Jarzynski Equality [13.636994997309307]
エネルギーベースモデル(英: Energy-based model、EBM)は、統計物理学にインスパイアされた生成モデルである。
モデルパラメータに対する勾配の計算には、モデルの分布をサンプリングする必要がある。
ここでは、ジャジンスキーの等式に基づく非平衡熱力学の結果を用いて、この計算を効率的に行う方法を示す。
論文 参考訳(メタデータ) (2023-05-30T21:07:52Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - Learning Dynamics from Noisy Measurements using Deep Learning with a
Runge-Kutta Constraint [9.36739413306697]
そこで本研究では,雑音と疎サンプルを用いた微分方程式の学習手法について論じる。
我々の方法論では、ディープニューラルネットワークと古典的な数値積分法の統合において、大きな革新が見られる。
論文 参考訳(メタデータ) (2021-09-23T15:43:45Z) - A data-driven peridynamic continuum model for upscaling molecular
dynamics [3.1196544696082613]
分子動力学データから最適線形ペリダイナミックソリッドモデルを抽出する学習フレームワークを提案する。
我々は,符号変化の影響関数を持つ離散化LPSモデルに対して,十分な適切な正当性条件を提供する。
このフレームワークは、結果のモデルが数学的に適切であり、物理的に一貫したものであり、トレーニング中に使用するものと異なる設定によく当てはまることを保証します。
論文 参考訳(メタデータ) (2021-08-04T07:07:47Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - A Twin Neural Model for Uplift [59.38563723706796]
Upliftは条件付き治療効果モデリングの特定のケースです。
相対リスクのベイズ解釈との関連性を利用して定義した新たな損失関数を提案する。
本提案手法は,シミュレーション設定の最先端と大規模ランダム化実験による実データとの競合性を示す。
論文 参考訳(メタデータ) (2021-05-11T16:02:39Z) - Leveraging Global Parameters for Flow-based Neural Posterior Estimation [90.21090932619695]
実験観測に基づくモデルのパラメータを推定することは、科学的方法の中心である。
特に困難な設定は、モデルが強く不確定であるとき、すなわち、パラメータの異なるセットが同一の観測をもたらすときである。
本稿では,グローバルパラメータを共有する観測の補助的セットによって伝達される付加情報を利用して,その不確定性を破る手法を提案する。
論文 参考訳(メタデータ) (2021-02-12T12:23:13Z) - Reconstruction of Pairwise Interactions using Energy-Based Models [3.553493344868414]
ペアワイズモデルとニューラルネットワークを組み合わせたハイブリッドモデルは,ペアワイズインタラクションの再構築において有意な改善をもたらす可能性があることを示す。
これは、単純な解釈可能なモデルと複雑なブラックボックスモデルが必ずしも二分法ではないという一般的な考え方と一致している。
論文 参考訳(メタデータ) (2020-12-11T20:15:10Z) - Combining data assimilation and machine learning to emulate a dynamical
model from sparse and noisy observations: a case study with the Lorenz 96
model [0.0]
この方法は、アンサンブルカルマンフィルタとニューラルネットワークを反復的にデータ同化ステップで適用することで構成される。
データ同化は、代理モデルとスパースデータとを最適に組み合わせるために用いられる。
出力分析は空間的に完全であり、サロゲートモデルを更新するためのニューラルネットワークによるトレーニングセットとして使用される。
カオス的な40変数Lorenz 96モデルを用いて数値実験を行い、提案手法の収束と統計的スキルの両立を証明した。
論文 参考訳(メタデータ) (2020-01-06T12:26:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。