論文の概要: Score-informed Neural Operator for Enhancing Ordering-based Causal Discovery

• arxiv url: http://arxiv.org/abs/2508.12650v1
• Date: Mon, 18 Aug 2025 06:25:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-19 14:49:10.989011
• Title: Score-informed Neural Operator for Enhancing Ordering-based Causal Discovery
• Title（参考訳）: オーダリングに基づく因果発見の強化のためのスコアインフォームドニューラル演算子
• Authors: Jiyeon Kang, Songseong Kim, Chanhui Lee, Doyeong Hwang, Joanie Hayoun Chung, Yunkyung Ko, Sumin Lee, Sungwoong Kim, Sungbin Lim,
• Abstract要約: 因果グラフのヘッセン対角線を近似するスコアインフォームドニューラル演算子(SciNO)を提案する。 SciNOは、合成グラフで42.7%、現実世界のデータセットで31.5%のオーダー分散をDiffANと比較する。 また、SciNOの確率推定と自己回帰モデル事前を統合した自己回帰モデルを用いた因果推論の確率論的制御アルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 8.577830923004205
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Ordering-based approaches to causal discovery identify topological orders of causal graphs, providing scalable alternatives to combinatorial search methods. Under the Additive Noise Model (ANM) assumption, recent causal ordering methods based on score matching require an accurate estimation of the Hessian diagonal of the log-densities. However, previous approaches mainly use Stein gradient estimators, which are computationally expensive and memory-intensive. Although DiffAN addresses these limitations by substituting kernel-based estimates with diffusion models, it remains numerically unstable due to the second-order derivatives of score models. To alleviate these problems, we propose Score-informed Neural Operator (SciNO), a probabilistic generative model in smooth function spaces designed to stably approximate the Hessian diagonal and to preserve structural information during the score modeling. Empirical results show that SciNO reduces order divergence by 42.7% on synthetic graphs and by 31.5% on real-world datasets on average compared to DiffAN, while maintaining memory efficiency and scalability. Furthermore, we propose a probabilistic control algorithm for causal reasoning with autoregressive models that integrates SciNO's probability estimates with autoregressive model priors, enabling reliable data-driven causal ordering informed by semantic information. Consequently, the proposed method enhances causal reasoning abilities of LLMs without additional fine-tuning or prompt engineering.
• Abstract（参考訳）: 因果探索に対する順序付けに基づくアプローチは因果グラフのトポロジ的順序を特定し、組合せ探索法に代わるスケーラブルな代替手段を提供する。 加法雑音モデル (ANM) の仮定の下では, スコアマッチングに基づく最近の因果順序付け手法では, 対数密度のヘッセン対角線を正確に推定する必要がある。 しかし、従来の手法は主に、計算に高価でメモリ集約的なスタイン勾配推定器を用いていた。 DiffANは、カーネルベースの推定を拡散モデルに置き換えることでこれらの制限に対処するが、スコアモデルの2階微分のために数値的に不安定なままである。 これらの問題を緩和するため,スムーズな関数空間における確率的生成モデルであるScore-informed Neural Operator (SciNO)を提案する。 実証的な結果から、SciNOは、メモリ効率とスケーラビリティを維持しながら、合成グラフ上で42.7%、DiffANよりも平均して現実世界のデータセットで31.5%のオーダー分散を減少させることが示された。 さらに,SciNOの確率推定を自己回帰モデルと統合した自己回帰モデルを用いた因果推論のための確率論的制御アルゴリズムを提案する。 その結果, LLMの因果推論能力は, 微調整や急進的なエンジニアリングを伴わずに向上することがわかった。

関連論文リスト

• Adaptive Bayesian Optimization for Robust Identification of Stochastic Dynamical Systems [4.0148499400442095]
  本稿では,システム係数と雑音分散を含む線形導出システムの同定について述べる。 ベイズ最適化に基づく標本効率のよい大域最適化法を提案する。 実験により、EGPに基づくBOは定常フィルタリングと期待最大化によりMLEを一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2025-03-09T01:38:21Z)
• Estimating Causal Effects from Learned Causal Networks [56.14597641617531]
  本稿では、離散可観測変数に対する因果影響クエリに応答する代替パラダイムを提案する。 観測データから直接因果ベイズネットワークとその共起潜伏変数を学習する。 本手法は, 推定手法よりも有効であることを示す。
  論文  参考訳（メタデータ） (2024-08-26T08:39:09Z)
• Operator-Informed Score Matching for Markov Diffusion Models [9.680266522150495]
  拡散モデルは一般にスコアマッチングを用いて訓練される。 この論文は、マルコフノゲティング過程は、ノゲティング過程を支配するマルコフ作用素がよく理解されているため、代替よりも有利であると主張している。
  論文  参考訳（メタデータ） (2024-06-13T13:07:52Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Score-based Diffusion Models in Function Space [137.70916238028306]
  拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。 この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。 データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
  論文  参考訳（メタデータ） (2023-02-14T23:50:53Z)
• Diffusion Causal Models for Counterfactual Estimation [18.438307666925425]
  本稿では,観測画像データから因果構造を推定する作業について考察する。 Diff-SCMは,近年の発電エネルギーモデルの発展を基盤とした構造因果モデルである。 Diff-SCMはMNISTデータに基づくベースラインよりも現実的で最小限のデファクトアルを生成しており、ImageNetデータにも適用可能である。
  論文  参考訳（メタデータ） (2022-02-21T12:23:01Z)
• Information Theoretic Structured Generative Modeling [13.117829542251188]
  構造生成モデル (Structured Generative Model, SGM) と呼ばれる新しい生成モデルフレームワークが提案され, 簡単な最適化が可能となった。 この実装では、無限のガウス混合モデルを学習するために適合した単一白色ノイズ源への正則入力によって駆動される1つのニューラルネットワークを採用している。 予備的な結果は、SGMがデータ効率と分散、従来のガウス混合モデルと変分混合モデル、および敵ネットワークのトレーニングにおいてMINE推定を著しく改善することを示している。
  論文  参考訳（メタデータ） (2021-10-12T07:44:18Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Autoregressive Score Matching [113.4502004812927]
  自動回帰条件スコアモデル(AR-CSM)を提案する。 AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。 本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
  論文  参考訳（メタデータ） (2020-10-24T07:01:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。