論文の概要: Inferring High-Order Couplings with Neural Networks
- arxiv url: http://arxiv.org/abs/2501.06108v1
- Date: Fri, 10 Jan 2025 17:01:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-13 15:26:03.493679
- Title: Inferring High-Order Couplings with Neural Networks
- Title（参考訳）: ニューラルネットワークによる高次結合の推論
- Authors: Aurélien Decelle, Alfonso de Jesús Navas Gómez, Beatriz Seoane,
- Abstract要約: 制限ボルツマンマシンを任意の高次相互作用を持つ一般化ポッツモデルに正確にマッピングする手法を提案する。
合成データセットから2体・3体インタラクションを正確に回収し,本手法の有効性を検証した。
タンパク質配列データへの我々のフレームワークの適用は、タンパク質接触マップの再構築におけるその効果を示し、最先端の逆ポッツモデルに匹敵する性能を達成する。
- 参考スコア（独自算出の注目度）: 3.55026004901472
- License:
- Abstract: Maximum-entropy methods, rooted in the inverse Ising/Potts problem from statistical mechanics, have become indispensable tools for modeling pairwise interactions in disciplines such as bioinformatics, ecology, and neuroscience. Despite their remarkable success, these methods often overlook high-order interactions that may be crucial in complex systems. Conversely, while modern machine learning approaches can capture such interactions, existing interpretable frameworks are computationally expensive, making it impractical to assess the relevance of high-order interactions in real-world scenarios. Restricted Boltzmann Machines (RBMs) offer a computationally efficient alternative by encoding statistical correlations via hidden nodes in a bipartite neural network. Here, we present a method that maps RBMs exactly onto generalized Potts models with interactions of arbitrary high order. This approach leverages large-$N$ approximations, facilitated by the simple architecture of the RBM, to enable the efficient extraction of effective many-body couplings with minimal computational cost. This mapping also enables the development of a general formal framework for the extraction of effective higher-order interactions in arbitrarily complex probabilistic models. Additionally, we introduce a robust formalism for gauge fixing within the generalized Potts model. We validate our method by accurately recovering two- and three-body interactions from synthetic datasets. Additionally, applying our framework to protein sequence data demonstrates its effectiveness in reconstructing protein contact maps, achieving performance comparable to state-of-the-art inverse Potts models. These results position RBMs as a powerful and efficient tool for investigating high-order interactions in complex systems.
- Abstract（参考訳）: 統計力学から逆イジング・ポッツ問題に根ざした最大エントロピー法は、バイオインフォマティクス、生態学、神経科学などの分野における相互相互作用をモデル化するための必要不可欠なツールとなっている。
その顕著な成功にもかかわらず、これらの手法は複雑なシステムにおいて重要な高次相互作用をしばしば見落としている。
逆に、現代の機械学習アプローチはそのような相互作用を捉えることができるが、既存の解釈可能なフレームワークは計算に高価であり、現実のシナリオにおける高次相互作用の関連性を評価することは不可能である。
Restricted Boltzmann Machines (RBMs) は、二部ネットワーク内の隠れノードを介して統計的相関を符号化することで、計算的に効率的な代替手段を提供する。
本稿では、RBMを任意の高次相互作用を持つ一般化ポッツモデルに正確にマッピングする手法を提案する。
このアプローチは、RBMの単純なアーキテクチャによって促進される大きな$N$近似を利用して、計算コストを最小限に抑えた効率的な多体カップリングの効率的な抽出を可能にする。
この写像はまた、任意の複素確率モデルにおける効果的な高次相互作用を抽出するための一般的な公式なフレームワークの開発を可能にする。
さらに、一般化ポッツモデル内にゲージ固定のための頑健な定式化を導入する。
合成データセットから2体・3体インタラクションを正確に回収し,本手法の有効性を検証した。
さらに,本フレームワークをタンパク質配列データに適用することにより,タンパク質接触マップの再構成の有効性を実証し,最先端の逆ポッツモデルに匹敵する性能を実現する。
これらの結果は、複雑なシステムにおける高次相互作用を研究するための強力で効率的なツールとして、RBMを位置づけている。
関連論文リスト
- MaD-Scientist: AI-based Scientist solving Convection-Diffusion-Reaction Equations Using Massive PINN-Based Prior Data [22.262191225577244]
科学的基礎モデル(SFM)にも同様のアプローチが適用できるかどうかを考察する。
数学辞書の任意の線形結合によって構築された偏微分方程式(PDE)の解の形で、低コストな物理情報ニューラルネットワーク(PINN)に基づく近似された事前データを収集する。
本研究では,1次元対流拡散反応方程式に関する実験的な証拠を提供する。
論文 参考訳（メタデータ） (2024-10-09T00:52:00Z) - Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。
学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。
In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文 参考訳（メタデータ） (2023-10-17T01:05:28Z) - Inferring effective couplings with Restricted Boltzmann Machines [3.150368120416908]
生成モデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルで観測された相関を符号化しようとする。
制限ボルツマンマシンと有効イジングスピンハミルトニアンとの直接写像を実装した解を提案する。
論文 参考訳（メタデータ） (2023-09-05T14:55:09Z) - Interaction Measures, Partition Lattices and Kernel Tests for High-Order
Interactions [1.9457612782595313]
2つ以上の変数のグループ間の非自明な依存関係は、そのようなシステムの分析とモデリングにおいて重要な役割を果たす。
我々は、結合確率分布の因数分解をますます含む、$d$-order$d geq 2$)相互作用測度の階層を導入する。
また、相互作用測度とそれらの複合置換試験の導出を解明する格子理論と数学的リンクを確立する。
論文 参考訳（メタデータ） (2023-06-01T16:59:37Z) - Variational Hierarchical Mixtures for Probabilistic Learning of Inverse
Dynamics [20.953728061894044]
適切に校正された確率回帰モデルは、データセットが急速に成長し、タスクがより複雑になるにつれて、ロボットアプリケーションにおいて重要な学習要素である。
計算効率のよい表現と計算複雑性の正規化を両世界の利点と組み合わせた確率論的階層的モデリングパラダイムを考察する。
これらの表現を学習するための2つの効率的な変分推論手法を導出し、階層的無限局所回帰モデルの利点を強調する。
論文 参考訳（メタデータ） (2022-11-02T13:54:07Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Inducing Gaussian Process Networks [80.40892394020797]
本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。
特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。
実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
論文 参考訳（メタデータ） (2022-04-21T05:27:09Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳（メタデータ） (2021-07-08T18:01:02Z) - Weighted Ensemble-model and Network Analysis: A method to predict fluid
intelligence via naturalistic functional connectivity [2.66512000865131]
重み付きアンサンブルモデルとネットワーク解析という新しい手法を提案する。
機械学習とグラフ理論を組み合わせて、流体知能の予測を改善する。
提案手法は平均絶対偏差 3.85,相関係数 0.66,r-二乗係数 0.42 で最適性能を得た。
論文 参考訳（メタデータ） (2021-01-06T11:17:49Z) - Coded Stochastic ADMM for Decentralized Consensus Optimization with Edge
Computing [113.52575069030192]
セキュリティ要件の高いアプリケーションを含むビッグデータは、モバイルデバイスやドローン、車両など、複数の異種デバイスに収集され、格納されることが多い。
通信コストとセキュリティ要件の制限のため、核融合センターにデータを集約するのではなく、分散的に情報を抽出することが最重要となる。
分散エッジノードを介してデータを局所的に処理するマルチエージェントシステムにおいて,モデルパラメータを学習する問題を考える。
分散学習モデルを開発するために,乗算器アルゴリズムの最小バッチ交互方向法(ADMM)のクラスについて検討した。
論文 参考訳（メタデータ） (2020-10-02T10:41:59Z) - Exact representations of many body interactions with RBM neural networks [77.34726150561087]
我々は、RBMの表現力を利用して、多体接触相互作用を1体演算子に正確に分解する。
この構成は、ハバードモデルでよく知られたヒルシュの変換を、核物理学におけるピオンレスFTのようなより複雑な理論に一般化する。
論文 参考訳（メタデータ） (2020-05-07T15:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。