論文の概要: Inferring effective couplings with Restricted Boltzmann Machines
- arxiv url: http://arxiv.org/abs/2309.02292v3
- Date: Wed, 24 Jan 2024 11:10:07 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-25 17:29:32.046400
- Title: Inferring effective couplings with Restricted Boltzmann Machines
- Title（参考訳）: 制限ボルツマンマシンによる有効結合の推論
- Authors: Aur\'elien Decelle, Cyril Furtlehner, Alfonso De Jesus Navas G\'omez,
Beatriz Seoane
- Abstract要約: 生成モデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルで観測された相関を符号化しようとする。
制限ボルツマンマシンと有効イジングスピンハミルトニアンとの直接写像を実装した解を提案する。
- 参考スコア（独自算出の注目度）: 3.150368120416908
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Generative models offer a direct way of modeling complex data. Energy-based
models attempt to encode the statistical correlations observed in the data at
the level of the Boltzmann weight associated with an energy function in the
form of a neural network. We address here the challenge of understanding the
physical interpretation of such models. In this study, we propose a simple
solution by implementing a direct mapping between the Restricted Boltzmann
Machine and an effective Ising spin Hamiltonian. This mapping includes
interactions of all possible orders, going beyond the conventional pairwise
interactions typically considered in the inverse Ising (or Boltzmann Machine)
approach, and allowing the description of complex datasets. Earlier works
attempted to achieve this goal, but the proposed mappings were inaccurate for
inference applications, did not properly treat the complexity of the problem,
or did not provide precise prescriptions for practical application. To validate
our method, we performed several controlled inverse numerical experiments in
which we trained the RBMs using equilibrium samples of predefined models with
local external fields, 2-body and 3-body interactions in different sparse
topologies. The results demonstrate the effectiveness of our proposed approach
in learning the correct interaction network and pave the way for its
application in modeling interesting binary variable datasets. We also evaluate
the quality of the inferred model based on different training methods.
- Abstract（参考訳）: 生成モデルは複雑なデータを直接モデリングする方法を提供する。
エネルギーベースのモデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルでのデータで観測される統計的相関を符号化しようとする。
我々は,このようなモデルの物理的解釈を理解することの難しさについて論じる。
本研究では,制限ボルツマン機械と有効イジングスピンハミルトニアンとの直接マッピングを実現することで,簡単な解法を提案する。
このマッピングは、全ての可能な順序の相互作用を含み、逆イジング(またはボルツマン機械)アプローチで一般的に考慮される通常のペアワイズ相互作用を超えて、複雑なデータセットの記述を可能にする。
初期の研究はこの目標を達成しようとしたが、提案されたマッピングは推論アプリケーションには不正確であり、問題の複雑さを適切に扱えなかった。
提案手法を検証するために,我々は,局所的な外部場を持つモデルと,異なるスパーストポロジーにおける2体および3体相互作用の平衡サンプルを用いて,RCMを訓練する制御逆数値実験を行った。
その結果,提案手法が正しいインタラクションネットワークを学習する上での有効性を示し,興味深いバイナリ変数データセットのモデリングに応用できることを示す。
また,異なるトレーニング手法を用いて,推定モデルの品質を評価する。
関連論文リスト
- Conditional score-based diffusion models for solving inverse problems in mechanics [6.319616423658121]
条件付きスコアベース拡散モデルを用いてベイズ推定を行う枠組みを提案する。
条件付きスコアベース拡散モデルは条件分布のスコア関数を近似する生成モデルである。
メカニクスにおける高次元逆問題に対して提案手法の有効性を示す。
論文 参考訳（メタデータ） (2024-06-19T02:09:15Z) - Integrating GNN and Neural ODEs for Estimating Non-Reciprocal Two-Body Interactions in Mixed-Species Collective Motion [0.0]
本稿では,観測軌道から基礎となる運動方程式を推定するための新しいディープラーニングフレームワークを提案する。
本フレームワークは,グラフニューラルネットワークとニューラルディファレンシャル方程式を統合し,二体相互作用の効果的な予測を可能にする。
論文 参考訳（メタデータ） (2024-05-26T09:47:17Z) - Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳（メタデータ） (2024-03-03T04:21:21Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文 参考訳（メタデータ） (2024-02-19T02:08:09Z) - Efficient Training of Energy-Based Models Using Jarzynski Equality [13.636994997309307]
エネルギーベースモデル(英: Energy-based model、EBM)は、統計物理学にインスパイアされた生成モデルである。
モデルパラメータに対する勾配の計算には、モデルの分布をサンプリングする必要がある。
ここでは、ジャジンスキーの等式に基づく非平衡熱力学の結果を用いて、この計算を効率的に行う方法を示す。
論文 参考訳（メタデータ） (2023-05-30T21:07:52Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳（メタデータ） (2023-04-08T07:55:36Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-02-18T22:41:51Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳（メタデータ） (2021-06-03T12:59:16Z) - A Twin Neural Model for Uplift [59.38563723706796]
Upliftは条件付き治療効果モデリングの特定のケースです。
相対リスクのベイズ解釈との関連性を利用して定義した新たな損失関数を提案する。
本提案手法は,シミュレーション設定の最先端と大規模ランダム化実験による実データとの競合性を示す。
論文 参考訳（メタデータ） (2021-05-11T16:02:39Z) - Reconstruction of Pairwise Interactions using Energy-Based Models [3.553493344868414]
ペアワイズモデルとニューラルネットワークを組み合わせたハイブリッドモデルは,ペアワイズインタラクションの再構築において有意な改善をもたらす可能性があることを示す。
これは、単純な解釈可能なモデルと複雑なブラックボックスモデルが必ずしも二分法ではないという一般的な考え方と一致している。
論文 参考訳（メタデータ） (2020-12-11T20:15:10Z) - Combining data assimilation and machine learning to emulate a dynamical
model from sparse and noisy observations: a case study with the Lorenz 96
model [0.0]
この方法は、アンサンブルカルマンフィルタとニューラルネットワークを反復的にデータ同化ステップで適用することで構成される。
データ同化は、代理モデルとスパースデータとを最適に組み合わせるために用いられる。
出力分析は空間的に完全であり、サロゲートモデルを更新するためのニューラルネットワークによるトレーニングセットとして使用される。
カオス的な40変数Lorenz 96モデルを用いて数値実験を行い、提案手法の収束と統計的スキルの両立を証明した。
論文 参考訳（メタデータ） (2020-01-06T12:26:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。