論文の概要: Higher-order interactions in statistical physics and machine learning: A
model-independent solution to the inverse problem at equilibrium
- arxiv url: http://arxiv.org/abs/2006.06010v2
- Date: Tue, 29 Dec 2020 23:04:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-23 06:17:01.346245
- Title: Higher-order interactions in statistical physics and machine learning: A
model-independent solution to the inverse problem at equilibrium
- Title(参考訳): 統計物理学と機械学習における高次相互作用--平衡における逆問題に対するモデル非依存解
- Authors: Sjoerd Viktor Beentjes, Ava Khamseh
- Abstract要約: 複素系における対方向と高次の相互作用を推論する逆問題は、多くの分野において基本的な問題である。
我々は、全階対称相互作用の普遍的、モデルに依存しない、基本的に偏りのない推定器を導入する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The problem of inferring pair-wise and higher-order interactions in complex
systems involving large numbers of interacting variables, from observational
data, is fundamental to many fields. Known to the statistical physics community
as the inverse problem, it has become accessible in recent years due to real
and simulated 'big' data being generated. Current approaches to the inverse
problem rely on parametric assumptions, physical approximations, e.g.
mean-field theory, and ignoring higher-order interactions which may lead to
biased or incorrect estimates. We bypass these shortcomings using a
cross-disciplinary approach and demonstrate that none of these assumptions and
approximations are necessary: We introduce a universal, model-independent, and
fundamentally unbiased estimator of all-order symmetric interactions, via the
non-parametric framework of Targeted Learning, a subfield of mathematical
statistics. Due to its universality, our definition is readily applicable to
any system at equilibrium with binary and categorical variables, be it magnetic
spins, nodes in a neural network, or protein networks in biology. Our approach
is targeted, not requiring fitting unnecessary parameters. Instead, it expends
all data on estimating interactions, hence substantially increasing accuracy.
We demonstrate the generality of our technique both analytically and
numerically on (i) the 2-dimensional Ising model, (ii) an Ising-like model with
4-point interactions, (iii) the Restricted Boltzmann Machine, and (iv)
simulated individual-level human DNA variants and representative traits. The
latter demonstrates the applicability of this approach to discover epistatic
interactions causal of disease in population biomedicine.
- Abstract(参考訳): 観測データから多数の相互作用変数を含む複雑なシステムにおいて、ペアワイズおよび高次相互作用を推定する問題は、多くの分野において基礎的である。
統計物理学のコミュニティでは逆問題として知られ、現実の「大きな」データが生成され、近年はアクセス可能になっている。
現在の逆問題へのアプローチは、パラメトリックな仮定、例えば平均場理論のような物理的近似、偏りや不正確な推定につながる高次相互作用を無視している。
数学的統計学のサブフィールドであるTargeted Learningの非パラメトリックフレームワークを通じて、全階対称相互作用の普遍的、モデル非依存的で、基本的に偏りのない推定器を導入する。
その普遍性から、この定義は、磁気スピン、ニューラルネットワークのノード、生物学におけるタンパク質ネットワークなど、バイナリ変数とカテゴリ変数の平衡にある任意のシステムに適用することができる。
我々のアプローチはターゲットであり、不必要なパラメータは不要である。
代わりに、相互作用を推定するすべてのデータを出力し、その結果、精度を大幅に向上させる。
本手法の一般性を解析的および数値的に示す。
(i)二次元イジングモデル。
(ii) 4点相互作用をもつイジング様モデル
(iii)制限ボルツマン機及び
(iv) 個体レベルのヒトDNA変異体および代表形質のシミュレート。
後者は、集団の生医学における疾患の原因となるエピスタティック相互作用を発見するためのこのアプローチの適用性を示すものである。
関連論文リスト
- Seeing Unseen: Discover Novel Biomedical Concepts via
Geometry-Constrained Probabilistic Modeling [53.7117640028211]
同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。
構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。
スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
論文 参考訳(メタデータ) (2024-03-02T00:56:05Z) - Interaction Measures, Partition Lattices and Kernel Tests for High-Order
Interactions [1.9457612782595313]
2つ以上の変数のグループ間の非自明な依存関係は、そのようなシステムの分析とモデリングにおいて重要な役割を果たす。
我々は、結合確率分布の因数分解をますます含む、$d$-order$d geq 2$)相互作用測度の階層を導入する。
また、相互作用測度とそれらの複合置換試験の導出を解明する格子理論と数学的リンクを確立する。
論文 参考訳(メタデータ) (2023-06-01T16:59:37Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳(メタデータ) (2023-06-01T10:51:58Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Learning Physical Dynamics with Subequivariant Graph Neural Networks [99.41677381754678]
グラフニューラルネットワーク(GNN)は、物理力学を学習するための一般的なツールとなっている。
物理法則は、モデル一般化に必須な帰納バイアスである対称性に従属する。
本モデルは,RigidFall上でのPhysylonと2倍低ロールアウトMSEの8つのシナリオにおいて,平均3%以上の接触予測精度の向上を実現している。
論文 参考訳(メタデータ) (2022-10-13T10:00:30Z) - Complexity from Adaptive-Symmetries Breaking: Global Minima in the
Statistical Mechanics of Deep Neural Networks [0.0]
深部ニューラルネットワーク(DNN)を理解するために、物理における保守対称性への適応対称性というアンチセティカル概念を提案する。
我々はDNNシステムの最適化過程を適応対称性破りの拡張プロセスとして特徴付けている。
より具体的には、この過程は統計物理学の一般化として評価できる統計力学モデルによって特徴づけられる。
論文 参考訳(メタデータ) (2022-01-03T09:06:44Z) - The Causal Neural Connection: Expressiveness, Learnability, and
Inference [125.57815987218756]
構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。
本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。
我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
論文 参考訳(メタデータ) (2021-07-02T01:55:18Z) - Data-driven discovery of interacting particle systems using Gaussian
processes [3.0938904602244346]
本研究では,2次相互作用粒子系における距離に基づく相互作用則の発見について検討する。
本稿では,潜在相互作用カーネル関数をガウス過程としてモデル化する学習手法を提案する。
異なる集団行動を示すシステムにおける数値的な結果から,ノイズの少ない軌道データから,我々のアプローチを効果的に学習することを示す。
論文 参考訳(メタデータ) (2021-06-04T22:00:53Z) - Orthogonal Statistical Inference for Multimodal Data Analysis [5.010425616264462]
マルチモーダルイメージングは神経科学の研究を変えた。
単純な関連モデルに起因する解釈可能性の利点と、高度に適応的な非線形モデルによって達成される柔軟性を組み合わせることは困難です。
論文 参考訳(メタデータ) (2021-03-12T05:04:31Z) - Learning Theory for Inferring Interaction Kernels in Second-Order
Interacting Agent Systems [17.623937769189364]
推定器の強い一貫性と最適非パラメトリック min-max 収束率を確立する完全学習理論を開発する。
推定器を構築するための数値アルゴリズムは並列化可能であり、高次元問題に対してよく機能し、複雑な力学系上で実証される。
論文 参考訳(メタデータ) (2020-10-08T02:07:53Z) - Machine learning for causal inference: on the use of cross-fit
estimators [77.34726150561087]
より優れた統計特性を得るために、二重ローバストなクロスフィット推定器が提案されている。
平均因果効果(ACE)に対する複数の推定器の性能評価のためのシミュレーション研究を行った。
機械学習で使用する場合、二重確率のクロスフィット推定器は、バイアス、分散、信頼区間のカバレッジで他のすべての推定器よりも大幅に優れていた。
論文 参考訳(メタデータ) (2020-04-21T23:09:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。