論文の概要: Inferring Higher-Order Couplings with Neural Networks
- arxiv url: http://arxiv.org/abs/2501.06108v3
- Date: Tue, 24 Jun 2025 17:51:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-25 15:36:08.005328
- Title: Inferring Higher-Order Couplings with Neural Networks
- Title(参考訳): ニューラルネットワークによる高次結合の推論
- Authors: Aurélien Decelle, Alfonso de Jesús Navas Gómez, Beatriz Seoane,
- Abstract要約: 最大エントロピー法は複雑な系におけるペアワイズ相互作用のモデル化に広く用いられている。
現代の機械学習手法はそのような相互作用をモデル化することができるが、その解釈可能性はしばしば計算コストを禁ずる。
本研究では,制限ボルツマンマシンを一般化ポッツモデルにマッピングし,任意の順序で相互作用を体系的に抽出する手法を提案する。
- 参考スコア(独自算出の注目度): 3.55026004901472
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Maximum entropy methods, rooted in the inverse Ising/Potts problem from statistical physics, are widely used to model pairwise interactions in complex systems across disciplines such as bioinformatics and neuroscience. While successful, these approaches often fail to capture higher-order interactions that are critical for understanding collective behavior. In contrast, modern machine learning methods can model such interactions, but their interpretability often comes at a prohibitive computational cost. Restricted Boltzmann Machines (RBMs) provide a computationally efficient alternative by encoding statistical correlations through hidden units in a bipartite architecture. In this work, we introduce a method that maps RBMs onto generalized Potts models, enabling the systematic extraction of interactions up to arbitrary order. Leveraging large-$N$ approximations -- made tractable by the RBM's structure -- we extract effective many-body couplings with minimal computational effort. We further propose a robust framework for recovering higher-order interactions in more complex generative models, and introduce a simple gauge-fixing scheme for the effective Potts representation. Validation on synthetic data demonstrates accurate recovery of two- and three-body interactions. Applied to protein sequence data, our method reconstructs contact maps with high fidelity and outperforms state-of-the-art inverse Potts models. These results establish RBMs as a powerful and efficient tool for modeling higher-order structure in high-dimensional categorical data.
- Abstract(参考訳): 統計物理学から逆イジング・ポッツ問題に根ざした最大エントロピー法は、バイオインフォマティクスや神経科学などの分野にわたる複雑なシステムにおけるペアワイズ相互作用をモデル化するために広く用いられている。
成功しながらも、これらのアプローチは集団行動を理解する上で重要な高次相互作用を捉えるのに失敗することが多い。
対照的に、現代の機械学習手法はそのような相互作用をモデル化することができるが、その解釈可能性はしばしば計算コストの禁止によって生じる。
Restricted Boltzmann Machines (RBMs) は、二部構造において隠れた単位を通して統計的相関を符号化することで、計算的に効率的な代替手段を提供する。
本研究では,RBMを一般化ポッツモデルにマッピングし,任意の順序で相互作用を体系的に抽出する手法を提案する。
大規模N$近似の活用 -- RBMの構造で抽出可能な -- は、計算の最小限の労力で効率的な多体結合を抽出する。
さらに、より複雑な生成モデルにおける高次相互作用を復元するためのロバストなフレームワークを提案し、有効ポッツ表現のための単純なゲージ固定スキームを導入する。
合成データの検証は、2体と3体の相互作用の正確な回復を示す。
本手法は, タンパク質配列データに適用し, 高忠実度で接触マップを再構成し, 最先端の逆ポッツモデルより優れていることを示す。
これらの結果は、高次元分類データの高次構造をモデル化するための強力で効率的なツールとしてRBMを確立している。
関連論文リスト
- MaD-Scientist: AI-based Scientist solving Convection-Diffusion-Reaction Equations Using Massive PINN-Based Prior Data [22.262191225577244]
科学的基礎モデル(SFM)にも同様のアプローチが適用できるかどうかを考察する。
数学辞書の任意の線形結合によって構築された偏微分方程式(PDE)の解の形で、低コストな物理情報ニューラルネットワーク(PINN)に基づく近似された事前データを収集する。
本研究では,1次元対流拡散反応方程式に関する実験的な証拠を提供する。
論文 参考訳(メタデータ) (2024-10-09T00:52:00Z) - Discovering physical laws with parallel combinatorial tree search [57.05912962368898]
記号回帰は、データから簡潔で解釈可能な数学的表現を発見する能力のおかげで、科学研究において重要な役割を果たす。
既存のアルゴリズムは10年以上にわたって精度と効率の重大なボトルネックに直面してきた。
制約データから汎用数学的表現を効率的に抽出する並列木探索(PCTS)モデルを提案する。
論文 参考訳(メタデータ) (2024-07-05T10:41:15Z) - Multi-Agent Dynamic Relational Reasoning for Social Robot Navigation [50.01551945190676]
社会ロボットナビゲーションは、日常生活の様々な状況において有用であるが、安全な人間とロボットの相互作用と効率的な軌道計画が必要である。
本稿では, 動的に進化する関係構造を明示的に推論した系統的関係推論手法を提案する。
マルチエージェント軌道予測とソーシャルロボットナビゲーションの有効性を実証する。
論文 参考訳(メタデータ) (2024-01-22T18:58:22Z) - Heterogenous Memory Augmented Neural Networks [84.29338268789684]
ニューラルネットワークのための新しいヘテロジニアスメモリ拡張手法を提案する。
学習可能なメモリトークンをアテンション機構付きで導入することにより、膨大な計算オーバーヘッドを伴わずに性能を効果的に向上させることができる。
In-distriion (ID) と Out-of-distriion (OOD) の両方の条件下での様々な画像およびグラフベースのタスクに対するアプローチを示す。
論文 参考訳(メタデータ) (2023-10-17T01:05:28Z) - Inferring effective couplings with Restricted Boltzmann Machines [3.150368120416908]
生成モデルは、ニューラルネットワークの形でエネルギー関数に関連するボルツマン重みのレベルで観測された相関を符号化しようとする。
制限ボルツマンマシンと有効イジングスピンハミルトニアンとの直接写像を実装した解を提案する。
論文 参考訳(メタデータ) (2023-09-05T14:55:09Z) - Interaction Measures, Partition Lattices and Kernel Tests for High-Order
Interactions [1.9457612782595313]
2つ以上の変数のグループ間の非自明な依存関係は、そのようなシステムの分析とモデリングにおいて重要な役割を果たす。
我々は、結合確率分布の因数分解をますます含む、$d$-order$d geq 2$)相互作用測度の階層を導入する。
また、相互作用測度とそれらの複合置換試験の導出を解明する格子理論と数学的リンクを確立する。
論文 参考訳(メタデータ) (2023-06-01T16:59:37Z) - Linear Self-Attention Approximation via Trainable Feedforward Kernel [77.34726150561087]
高速な計算を追求する中で、効率的なトランスフォーマーは印象的な様々なアプローチを実証している。
我々は,トランスフォーマーアーキテクチャの自己保持機構を近似するために,トレーニング可能なカーネルメソッドのアイデアを拡張することを目指している。
論文 参考訳(メタデータ) (2022-11-08T08:14:11Z) - Variational Hierarchical Mixtures for Probabilistic Learning of Inverse
Dynamics [20.953728061894044]
適切に校正された確率回帰モデルは、データセットが急速に成長し、タスクがより複雑になるにつれて、ロボットアプリケーションにおいて重要な学習要素である。
計算効率のよい表現と計算複雑性の正規化を両世界の利点と組み合わせた確率論的階層的モデリングパラダイムを考察する。
これらの表現を学習するための2つの効率的な変分推論手法を導出し、階層的無限局所回帰モデルの利点を強調する。
論文 参考訳(メタデータ) (2022-11-02T13:54:07Z) - HyperImpute: Generalized Iterative Imputation with Automatic Model
Selection [77.86861638371926]
カラムワイズモデルを適応的かつ自動的に構成するための一般化反復計算フレームワークを提案する。
既製の学習者,シミュレータ,インターフェースを備えた具体的な実装を提供する。
論文 参考訳(メタデータ) (2022-06-15T19:10:35Z) - Inducing Gaussian Process Networks [80.40892394020797]
本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。
特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。
実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
論文 参考訳(メタデータ) (2022-04-21T05:27:09Z) - Principled inference of hyperedges and overlapping communities in
hypergraphs [0.0]
本稿では,ハイパーグラフの構造的構造を特徴付けるための統計的推測に基づく枠組みを提案する。
我々は,ハイパーエッジ予測タスクにおいて強い性能を示し,相互作用によってもたらされる情報に順応したコミュニティの検出,ノイズの多いハイパーエッジの追加に対する堅牢性を示した。
論文 参考訳(メタデータ) (2022-04-12T09:13:46Z) - Weighted Ensemble-model and Network Analysis: A method to predict fluid
intelligence via naturalistic functional connectivity [2.66512000865131]
重み付きアンサンブルモデルとネットワーク解析という新しい手法を提案する。
機械学習とグラフ理論を組み合わせて、流体知能の予測を改善する。
提案手法は平均絶対偏差 3.85,相関係数 0.66,r-二乗係数 0.42 で最適性能を得た。
論文 参考訳(メタデータ) (2021-01-06T11:17:49Z) - Coded Stochastic ADMM for Decentralized Consensus Optimization with Edge
Computing [113.52575069030192]
セキュリティ要件の高いアプリケーションを含むビッグデータは、モバイルデバイスやドローン、車両など、複数の異種デバイスに収集され、格納されることが多い。
通信コストとセキュリティ要件の制限のため、核融合センターにデータを集約するのではなく、分散的に情報を抽出することが最重要となる。
分散エッジノードを介してデータを局所的に処理するマルチエージェントシステムにおいて,モデルパラメータを学習する問題を考える。
分散学習モデルを開発するために,乗算器アルゴリズムの最小バッチ交互方向法(ADMM)のクラスについて検討した。
論文 参考訳(メタデータ) (2020-10-02T10:41:59Z) - Exact representations of many body interactions with RBM neural networks [77.34726150561087]
我々は、RBMの表現力を利用して、多体接触相互作用を1体演算子に正確に分解する。
この構成は、ハバードモデルでよく知られたヒルシュの変換を、核物理学におけるピオンレスFTのようなより複雑な理論に一般化する。
論文 参考訳(メタデータ) (2020-05-07T15:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。