論文の概要: Inferring High-Order Couplings with Neural Networks
- arxiv url: http://arxiv.org/abs/2501.06108v2
- Date: Mon, 10 Feb 2025 15:28:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-11 14:23:31.577848
- Title: Inferring High-Order Couplings with Neural Networks
- Title（参考訳）: ニューラルネットワークによる高次結合の推論
- Authors: Aurélien Decelle, Alfonso de Jesús Navas Gómez, Beatriz Seoane,
- Abstract要約: 本稿では,制限ボルツマンマシンを一般化ポッツモデルにマッピングし,任意の順序の相互作用を抽出する手法を提案する。
合成データセットに対する検証では,2体と3体の相互作用を正確に再現できることが確認された。
タンパク質配列データに適用すると、このフレームワークはタンパク質接触マップを能動的に再構築し、最高の逆ポッツモデルに匹敵する性能を提供する。
- 参考スコア（独自算出の注目度）: 3.55026004901472
- License:
- Abstract: Maximum entropy methods, based on the inverse Ising/Potts problem from statistical mechanics, are essential for modeling interactions between pairs of variables in data-driven problems across disciplines such as bioinformatics, ecology, and neuroscience. Despite their considerable success, these methods typically fail to capture higher-order interactions that are often essential for understanding complex systems. Conversely, modern machine learning methods capture these complex interactions, but the computational cost of interpretable frameworks makes them impractical for real-world applications. Restricted Boltzmann Machines (RBMs) provide a computationally efficient way to capture statistical correlations using hidden nodes in a bipartite neural network. In this study, we introduce a new method that maps RBMs to generalized Potts models, allowing for the extraction of interactions up to any specified order. This method utilizes large-$N$ approximations, enabled by the RBM's simple structure, to extract effective many-body couplings with minimal computational effort. Furthermore, we propose a robust framework for extracting higher-order interactions in more complex probabilistic models and a simple gauge-fixing method within the effective many-body Potts model. Our validation on synthetic datasets confirms the method's ability to recover two- and three-body interactions accurately. When applied to protein sequence data, the framework competently reconstructs protein contact maps and provides performance comparable to the best inverse Potts models. These findings confirm that RBMs are an effective and streamlined tool for exploring higher-order interactions within complex systems.
- Abstract（参考訳）: 統計力学の逆イジング・ポッツ問題に基づく最大エントロピー法は、バイオインフォマティクス、生態学、神経科学といった分野にわたるデータ駆動問題における変数のペア間の相互作用をモデル化するために不可欠である。
その成功にもかかわらず、これらの手法は一般に複雑なシステムを理解するのに不可欠な高次相互作用を捉えるのに失敗する。
逆に、現代の機械学習手法はこれらの複雑な相互作用を捉えるが、解釈可能なフレームワークの計算コストは現実のアプリケーションでは実用的ではない。
Restricted Boltzmann Machines (RBMs) は、二部体ニューラルネットワークの隠れノードを用いて統計的相関を計算的に効率的に捉える方法を提供する。
本研究では,RBMを一般化されたポッツモデルにマッピングし,任意の順序の相互作用を抽出する手法を提案する。
この方法は、RBMの単純な構造によって実現された大額N$近似を用いて、計算の最小限の労力で効率的な多体結合を抽出する。
さらに,より複雑な確率モデルにおける高次相互作用を抽出するためのロバストなフレームワークと,実効多体ポッツモデルにおける単純なゲージ固定法を提案する。
合成データセットに対する検証では,2体と3体の相互作用を正確に再現できることが確認された。
タンパク質配列データに適用すると、このフレームワークはタンパク質接触マップを能動的に再構築し、最高の逆ポッツモデルに匹敵する性能を提供する。
これらの結果から,RCMは複雑なシステム内の高次相互作用を探索する上で,効果的かつ合理的なツールであることが確認された。
関連論文リスト
- MaD-Scientist: AI-based Scientist solving Convection-Diffusion-Reaction Equations Using Massive PINN-Based Prior Data [22.262191225577244]
科学的基礎モデル(SFM)にも同様のアプローチが適用できるかどうかを考察する。
数学辞書の任意の線形結合によって構築された偏微分方程式(PDE)の解の形で、低コストな物理情報ニューラルネットワーク(PINN)に基づく近似された事前データを収集する。
本研究では,1次元対流拡散反応方程式に関する実験的な証拠を提供する。
論文 参考訳（メタデータ） (2024-10-09T00:52:00Z) - Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。
学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。
In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文 参考訳（メタデータ） (2023-10-17T01:05:28Z) - Inferring effective couplings with Restricted Boltzmann Machines [3.150368120416908]
生成モデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルで観測された相関を符号化しようとする。
制限ボルツマンマシンと有効イジングスピンハミルトニアンとの直接写像を実装した解を提案する。
論文 参考訳（メタデータ） (2023-09-05T14:55:09Z) - Interaction Measures, Partition Lattices and Kernel Tests for High-Order
Interactions [1.9457612782595313]
2つ以上の変数のグループ間の非自明な依存関係は、そのようなシステムの分析とモデリングにおいて重要な役割を果たす。
我々は、結合確率分布の因数分解をますます含む、$d$-order$d geq 2$)相互作用測度の階層を導入する。
また、相互作用測度とそれらの複合置換試験の導出を解明する格子理論と数学的リンクを確立する。
論文 参考訳（メタデータ） (2023-06-01T16:59:37Z) - Variational Hierarchical Mixtures for Probabilistic Learning of Inverse
Dynamics [20.953728061894044]
適切に校正された確率回帰モデルは、データセットが急速に成長し、タスクがより複雑になるにつれて、ロボットアプリケーションにおいて重要な学習要素である。
計算効率のよい表現と計算複雑性の正規化を両世界の利点と組み合わせた確率論的階層的モデリングパラダイムを考察する。
これらの表現を学習するための2つの効率的な変分推論手法を導出し、階層的無限局所回帰モデルの利点を強調する。
論文 参考訳（メタデータ） (2022-11-02T13:54:07Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳（メタデータ） (2022-06-15T19:10:35Z) - Inducing Gaussian Process Networks [80.40892394020797]
本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。
特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。
実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
論文 参考訳（メタデータ） (2022-04-21T05:27:09Z) - Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。
我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。
コア最適化問題の実用的なパラメトリゼーションを提供する。
論文 参考訳（メタデータ） (2021-07-08T18:01:02Z) - Weighted Ensemble-model and Network Analysis: A method to predict fluid
intelligence via naturalistic functional connectivity [2.66512000865131]
重み付きアンサンブルモデルとネットワーク解析という新しい手法を提案する。
機械学習とグラフ理論を組み合わせて、流体知能の予測を改善する。
提案手法は平均絶対偏差 3.85,相関係数 0.66,r-二乗係数 0.42 で最適性能を得た。
論文 参考訳（メタデータ） (2021-01-06T11:17:49Z) - Coded Stochastic ADMM for Decentralized Consensus Optimization with Edge
Computing [113.52575069030192]
セキュリティ要件の高いアプリケーションを含むビッグデータは、モバイルデバイスやドローン、車両など、複数の異種デバイスに収集され、格納されることが多い。
通信コストとセキュリティ要件の制限のため、核融合センターにデータを集約するのではなく、分散的に情報を抽出することが最重要となる。
分散エッジノードを介してデータを局所的に処理するマルチエージェントシステムにおいて,モデルパラメータを学習する問題を考える。
分散学習モデルを開発するために,乗算器アルゴリズムの最小バッチ交互方向法(ADMM)のクラスについて検討した。
論文 参考訳（メタデータ） (2020-10-02T10:41:59Z) - Exact representations of many body interactions with RBM neural networks [77.34726150561087]
我々は、RBMの表現力を利用して、多体接触相互作用を1体演算子に正確に分解する。
この構成は、ハバードモデルでよく知られたヒルシュの変換を、核物理学におけるピオンレスFTのようなより複雑な理論に一般化する。
論文 参考訳（メタデータ） (2020-05-07T15:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。