論文の概要: Inferring effective couplings with Restricted Boltzmann Machines
- arxiv url: http://arxiv.org/abs/2309.02292v1
- Date: Tue, 5 Sep 2023 14:55:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-06 14:14:54.108135
- Title: Inferring effective couplings with Restricted Boltzmann Machines
- Title(参考訳): 制限ボルツマンマシンによる有効結合の推論
- Authors: Aur\'elien Decelle, Cyril Furtlehner, Alfonso De Jesus Navas G\'omez,
Beatriz Seoane
- Abstract要約: 生成モデルは、複雑なデータをモデル化する直接的な方法を提供する。
一つの課題は、そのようなモデルの物理的解釈を理解することである。
制限ボルツマンマシンのエネルギー関数と有効イジングスピンハミルトニアンとの直接写像を実装した簡単な解を提案する。
- 参考スコア(独自算出の注目度): 3.150368120416908
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative models offer a direct way to model complex data. Among them,
energy-based models provide us with a neural network model that aims to
accurately reproduce all statistical correlations observed in the data at the
level of the Boltzmann weight of the model. However, one challenge is to
understand the physical interpretation of such models. In this study, we
propose a simple solution by implementing a direct mapping between the energy
function of the Restricted Boltzmann Machine and an effective Ising spin
Hamiltonian that includes high-order interactions between spins. This mapping
includes interactions of all possible orders, going beyond the conventional
pairwise interactions typically considered in the inverse Ising approach, and
allowing the description of complex datasets. Earlier work attempted to achieve
this goal, but the proposed mappings did not do properly treat the complexity
of the problem or did not contain direct prescriptions for practical
application. To validate our method, we perform several controlled numerical
experiments where the training samples are equilibrium samples of predefined
models containing local external fields, two-body and three-body interactions
in various low-dimensional topologies. The results demonstrate the
effectiveness of our proposed approach in learning the correct interaction
network and pave the way for its application in modeling interesting datasets.
We also evaluate the quality of the inferred model based on different training
methods.
- Abstract(参考訳): 生成モデルは複雑なデータを直接モデル化する方法を提供する。
それらのうち、エネルギーベースのモデルは、モデルのボルツマン重みのレベルでデータで観測されたすべての統計相関を正確に再現することを目的としたニューラルネットワークモデルを提供する。
しかし、一つの課題はそのようなモデルの物理的解釈を理解することである。
本研究では、制限ボルツマン機械のエネルギー関数と、スピン間の高次相互作用を含む効果的なイジングスピンハミルトニアンとの直接マッピングを実装することで、簡単な解法を提案する。
このマッピングは、全ての可能な順序の相互作用を含み、逆イジングアプローチで一般的に考慮される通常のペアワイズ相互作用を超えて、複雑なデータセットの記述を可能にする。
初期の研究は、この目標を達成しようとしたが、提案されたマッピングは問題の複雑さを適切に扱うことができず、また実践的な応用のための直接処方薬を含まない。
本手法を検証するために,各低次元トポロジーにおける局所外部場,2体および3体相互作用を含む事前定義されたモデルの平衡サンプルをトレーニングサンプルとする,いくつかの制御された数値実験を行った。
その結果,提案手法が適切なインタラクションネットワークを学習し,興味深いデータセットをモデル化する方法について検討した。
また,異なるトレーニング手法を用いて,推定モデルの品質を評価する。
関連論文リスト
- Conditional score-based diffusion models for solving inverse problems in mechanics [6.319616423658121]
条件付きスコアベース拡散モデルを用いてベイズ推定を行う枠組みを提案する。
条件付きスコアベース拡散モデルは条件分布のスコア関数を近似する生成モデルである。
メカニクスにおける高次元逆問題に対して提案手法の有効性を示す。
論文 参考訳(メタデータ) (2024-06-19T02:09:15Z) - Integrating GNN and Neural ODEs for Estimating Non-Reciprocal Two-Body Interactions in Mixed-Species Collective Motion [0.0]
本稿では,観測軌道から基礎となる運動方程式を推定するための新しいディープラーニングフレームワークを提案する。
本フレームワークは,グラフニューラルネットワークとニューラルディファレンシャル方程式を統合し,二体相互作用の効果的な予測を可能にする。
論文 参考訳(メタデータ) (2024-05-26T09:47:17Z) - Fusion of Gaussian Processes Predictions with Monte Carlo Sampling [61.31380086717422]
科学と工学において、私たちはしばしば興味のある変数の正確な予測のために設計されたモデルで作業します。
これらのモデルが現実の近似であることを認識し、複数のモデルを同じデータに適用し、結果を統合することが望ましい。
論文 参考訳(メタデータ) (2024-03-03T04:21:21Z) - Towards Theoretical Understandings of Self-Consuming Generative Models [56.84592466204185]
本稿では,自己消費ループ内で生成モデルを訓練する新たな課題に取り組む。
我々は,このトレーニングが将来のモデルで学習したデータ分布に与える影響を厳格に評価するための理論的枠組みを構築した。
カーネル密度推定の結果は,混合データトレーニングがエラー伝播に与える影響など,微妙な洞察を与える。
論文 参考訳(メタデータ) (2024-02-19T02:08:09Z) - Efficient Training of Energy-Based Models Using Jarzynski Equality [13.636994997309307]
エネルギーベースモデル(英: Energy-based model、EBM)は、統計物理学にインスパイアされた生成モデルである。
モデルパラメータに対する勾配の計算には、モデルの分布をサンプリングする必要がある。
ここでは、ジャジンスキーの等式に基づく非平衡熱力学の結果を用いて、この計算を効率的に行う方法を示す。
論文 参考訳(メタデータ) (2023-05-30T21:07:52Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Mixed Effects Neural ODE: A Variational Approximation for Analyzing the
Dynamics of Panel Data [50.23363975709122]
パネルデータ解析に(固定・ランダムな)混合効果を取り入れたME-NODEという確率モデルを提案する。
我々は、Wong-Zakai定理によって提供されるSDEの滑らかな近似を用いて、我々のモデルを導出できることを示す。
次に、ME-NODEのためのエビデンスに基づく下界を導出し、(効率的な)トレーニングアルゴリズムを開発する。
論文 参考訳(メタデータ) (2022-02-18T22:41:51Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳(メタデータ) (2021-06-03T12:59:16Z) - A Twin Neural Model for Uplift [59.38563723706796]
Upliftは条件付き治療効果モデリングの特定のケースです。
相対リスクのベイズ解釈との関連性を利用して定義した新たな損失関数を提案する。
本提案手法は,シミュレーション設定の最先端と大規模ランダム化実験による実データとの競合性を示す。
論文 参考訳(メタデータ) (2021-05-11T16:02:39Z) - Reconstruction of Pairwise Interactions using Energy-Based Models [3.553493344868414]
ペアワイズモデルとニューラルネットワークを組み合わせたハイブリッドモデルは,ペアワイズインタラクションの再構築において有意な改善をもたらす可能性があることを示す。
これは、単純な解釈可能なモデルと複雑なブラックボックスモデルが必ずしも二分法ではないという一般的な考え方と一致している。
論文 参考訳(メタデータ) (2020-12-11T20:15:10Z) - Combining data assimilation and machine learning to emulate a dynamical
model from sparse and noisy observations: a case study with the Lorenz 96
model [0.0]
この方法は、アンサンブルカルマンフィルタとニューラルネットワークを反復的にデータ同化ステップで適用することで構成される。
データ同化は、代理モデルとスパースデータとを最適に組み合わせるために用いられる。
出力分析は空間的に完全であり、サロゲートモデルを更新するためのニューラルネットワークによるトレーニングセットとして使用される。
カオス的な40変数Lorenz 96モデルを用いて数値実験を行い、提案手法の収束と統計的スキルの両立を証明した。
論文 参考訳(メタデータ) (2020-01-06T12:26:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。