論文の概要: On the Tractability of Neural Causal Inference

• arxiv url: http://arxiv.org/abs/2110.12052v1
• Date: Fri, 22 Oct 2021 20:38:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-26 14:09:24.029767
• Title: On the Tractability of Neural Causal Inference
• Title（参考訳）: 神経因果推論のトラクタビリティについて
• Authors: Matej Ze\v{c}evi\'c and Devendra Singh Dhami and Kristian Kersting
• Abstract要約: sum-product Network (SPN) は線形時間複雑性を提供する。 ニューラル因果モデル(NCM)は最近勢いを増し、機械学習に対する因果関係の緊密な統合を要求している。 我々は,SPNに基づく因果推論が標準的NCMとは対照的に,一般的には抽出可能であることを証明した。
• 参考スコア（独自算出の注目度）: 19.417231973682366
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Roth (1996) proved that any form of marginal inference with probabilistic graphical models (e.g. Bayesian Networks) will at least be NP-hard. Introduced and extensively investigated in the past decade, the neural probabilistic circuits known as sum-product network (SPN) offers linear time complexity. On another note, research around neural causal models (NCM) recently gained traction, demanding a tighter integration of causality for machine learning. To this end, we present a theoretical investigation of if, when, how and under what cost tractability occurs for different NCM. We prove that SPN-based causal inference is generally tractable, opposed to standard MLP-based NCM. We further introduce a new tractable NCM-class that is efficient in inference and fully expressive in terms of Pearl's Causal Hierarchy. Our comparative empirical illustration on simulations and standard benchmarks validates our theoretical proofs.
• Abstract（参考訳）: Roth (1996) は、確率的グラフィカルモデル(例えばベイズ・ネットワーク)による任意の辺推論は少なくともNPハードであることが証明した。 過去10年間に導入され、広範囲に研究され、SPN(Sum-product Network)として知られる神経確率回路は線形時間複雑性を提供する。 また、ニューラル因果モデル(NCM)に関する研究は、最近勢いを増し、機械学習の因果関係のより緊密な統合を要求している。 この目的のために、異なるNCMに対して、いつ、どのように、どのように、どのように、どのコストがかかるかに関する理論的研究を行う。 我々は,SPNに基づく因果推論が通常のMLPベースのNCMとは対照的に,一般的には抽出可能であることを証明した。 さらに,PearlのCausal Hierarchyの観点から,推論が効率的で,完全に表現可能な新しいトラクタブルNCMクラスを導入する。 シミュレーションと標準ベンチマークに関する比較実証図は、我々の理論的証明を検証する。

関連論文リスト

• Consistency of Neural Causal Partial Identification [17.503562318576414]
  因果モデル(Causal Models)の最近の進歩は、因果効果の同定と部分的同定が神経生成モデルによって自動的に行われるかを示した。 連続変数とカテゴリー変数の両方を持つ一般設定において、NCMによる部分的識別の整合性を証明する。 結果は、深さと接続性の観点から、基盤となるニューラルネットワークアーキテクチャの設計の影響を強調している。
  論文  参考訳（メタデータ） (2024-05-24T16:12:39Z)
• Neural Networks Asymptotic Behaviours for the Resolution of Inverse Problems [0.0]
  本稿では,畳み込み逆問題に対するニューラルネットワーク(NN)手法の有効性について検討する。 NNのパラメータの非線形性を無視できるGaussian Processs(GP)に対応するNNの制限について検討する。 格子上のモンテカルロ法でシミュレートされた量子調和振動子の場合、デコンボリューション逆問題に対処する。
  論文  参考訳（メタデータ） (2024-02-14T17:42:24Z)
• Towards Demystifying the Generalization Behaviors When Neural Collapse Emerges [132.62934175555145]
  Neural Collapse(NC)は、トレーニング末期(TPT)におけるディープニューラルネットワークのよく知られた現象である 本稿では,列車の精度が100%に達した後も,継続訓練がテストセットの精度向上に繋がる理由を理論的に説明する。 我々はこの新たに発見された性質を「非保守的一般化」と呼ぶ。
  論文  参考訳（メタデータ） (2023-10-12T14:29:02Z)
• Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
  データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。 よりスムーズな関数との補間により、より一般化できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T19:37:44Z)
• Learning Low Dimensional State Spaces with Overparameterized Recurrent Neural Nets [57.06026574261203]
  我々は、長期記憶をモデル化できる低次元状態空間を学習するための理論的証拠を提供する。 実験は、線形RNNと非線形RNNの両方で低次元状態空間を学習することで、我々の理論を裏付けるものである。
  論文  参考訳（メタデータ） (2022-10-25T14:45:15Z)
• Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a Polynomial Net Study [55.12108376616355]
  NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。 本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。 我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
  論文  参考訳（メタデータ） (2022-09-16T06:36:06Z)
• Uniform Generalization Bounds for Overparameterized Neural Networks [5.945320097465419]
  カーネルシステムにおけるオーバーパラメータ化ニューラルネットワークに対する一様一般化バウンダリを証明した。 我々の境界は、アクティベーション関数の微分可能性に応じて正確な誤差率をキャプチャする。 NTカーネルに対応するRKHSと、Mat'ernカーネルのファミリーに対応するRKHSの等価性を示す。
  論文  参考訳（メタデータ） (2021-09-13T16:20:13Z)
• Relating Graph Neural Networks to Structural Causal Models [17.276657786213015]
  因果関係は、興味のある変数とその力学関係に関する情報を伝達する構造因果モデル(SCM)によって記述することができる。 本稿では,GNNとSCMの新たな接続を確立する理論解析について述べる。 次に、GNNに基づく因果推論のための新しいモデルクラスを構築し、因果効果の同定に十分である。
  論文  参考訳（メタデータ） (2021-09-09T11:16:31Z)
• The Causal Neural Connection: Expressiveness, Learnability, and Inference [125.57815987218756]
  構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。 本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。 我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
  論文  参考訳（メタデータ） (2021-07-02T01:55:18Z)
• Regularizing Recurrent Neural Networks via Sequence Mixup [7.036759195546171]
  我々は、元々フィードフォワードニューラルネットワークのために提案された一連の有望な正規化手法を拡張した。 提案手法は,単純なニューラルネットワークアーキテクチャの性能を生かしながら,複雑性の実装が容易である。
  論文  参考訳（メタデータ） (2020-11-27T05:43:40Z)
• A Chain Graph Interpretation of Real-World Neural Networks [58.78692706974121]
  本稿では,NNを連鎖グラフ(CG)、フィードフォワードを近似推論手法として識別する別の解釈を提案する。 CG解釈は、確率的グラフィカルモデルのリッチな理論的枠組みの中で、各NNコンポーネントの性質を規定する。 我々は,CG解釈が様々なNN技術に対する新しい理論的支援と洞察を提供することを示す具体例を実例で示す。
  論文  参考訳（メタデータ） (2020-06-30T14:46:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。