論文の概要: Causal Inference via Predictive Coding

• arxiv url: http://arxiv.org/abs/2306.15479v1
• Date: Tue, 27 Jun 2023 13:57:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-28 13:23:11.295231
• Title: Causal Inference via Predictive Coding
• Title（参考訳）: 予測符号化による因果推論
• Authors: Tommaso Salvatori, Luca Pinchetti, Amine M'Charrak, Beren Millidge, Thomas Lukasiewicz
• Abstract要約: 因果グラフが知られているシナリオにおいて、予測符号化の推論過程における単純な変化が介入的および反事実的推論を可能にすることを示す。 その結果、予測符号化に基づく構造因果モデルにおいて、エンドツーエンドの因果推論を可能にする、新規で簡単な手法が得られた。
• 参考スコア（独自算出の注目度）: 37.650855720435516
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Bayesian and causal inference are fundamental processes for intelligence. Bayesian inference models observations: what can be inferred about y if we observe a related variable x? Causal inference models interventions: if we directly change x, how will y change? Predictive coding is a neuroscience-inspired method for performing Bayesian inference on continuous state variables using local information only. In this work, we go beyond Bayesian inference, and show how a simple change in the inference process of predictive coding enables interventional and counterfactual inference in scenarios where the causal graph is known. We then extend our results, and show how predictive coding can be generalized to cases where this graph is unknown, and has to be inferred from data, hence performing causal discovery. What results is a novel and straightforward technique that allows us to perform end-to-end causal inference on predictive-coding-based structural causal models, and demonstrate its utility for potential applications in machine learning.
• Abstract（参考訳）: ベイジアンと因果推論は知能の基本的なプロセスである。 ベイズ推論モデル 観測: 関連する変数 x を観測すれば y について何を推測できるだろうか? 因果推論モデル 介入: 直接 x を変更すると、y はどのように変化するか? 予測符号化は、局所情報のみを使用して連続状態変数のベイズ推論を実行するための神経科学に触発された手法である。 本研究では,ベイズ推定を超越し,因果グラフが知られているシナリオにおいて,予測符号化の推論過程の単純な変化が介入的および反事実的推論を可能にしていることを示す。 そして、この結果を拡張し、このグラフが未知のケースにどのように予測的コーディングを一般化できるかを示し、データから推論し、因果発見を行う。 結果は、予測コーディングに基づく構造因果モデルでエンドツーエンド因果推論を実行し、機械学習の潜在的な用途にその有用性を示す、新規で分かりやすいテクニックである。

関連論文リスト

• Predicting Probabilities of Error to Combine Quantization and Early Exiting: QuEE [68.6018458996143]
  本稿では,量子化と早期出口動的ネットワークを組み合わせたより一般的な動的ネットワークQuEEを提案する。 我々のアルゴリズムは、ソフトアーリーエグジットや入力依存圧縮の一形態と見なすことができる。 提案手法の重要な要素は、さらなる計算によって実現可能な潜在的な精度向上の正確な予測である。
  論文  参考訳（メタデータ） (2024-06-20T15:25:13Z)
• Learning-Augmented Algorithms with Explicit Predictors [67.02156211760415]
  アルゴリズム設計の最近の進歩は、過去のデータと現在のデータから得られた機械学習モデルによる予測の活用方法を示している。 この文脈における以前の研究は、予測器が過去のデータに基づいて事前訓練され、ブラックボックスとして使用されるパラダイムに焦点を当てていた。 本研究では,予測器を解き,アルゴリズムの課題の中で生じる学習問題を統合する。
  論文  参考訳（メタデータ） (2024-03-12T08:40:21Z)
• Leveraging Task Structures for Improved Identifiability in Neural Network Representations [31.863998589693065]
  教師あり学習における識別可能性の理論を,タスクの分布にアクセスできる結果を考慮して拡張する。 一般マルチタスク回帰設定において線形識別性が達成可能であることを示す。
  論文  参考訳（メタデータ） (2023-06-26T17:16:50Z)
• New metrics and search algorithms for weighted causal DAGs [7.424262881242935]
  ノード依存コストの適応的介入による因果グラフ発見について検討する。 検索アルゴリズムの最悪の介入コストをキャプチャする新しいベンチマークを定義する。 本研究では,様々な条件下で対数近似を実現する適応探索アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-05-08T03:48:37Z)
• Neural Algorithmic Reasoning with Causal Regularisation [18.299363749150093]
  我々は重要な観察を行う: アルゴリズムが特定の中間計算を同一に実行する多くの異なる入力が存在する。 この洞察により、アルゴリズムの中間軌道が与えられた場合、ターゲットアルゴリズムが全く同じ次の軌道ステップを持つような入力を生成するデータ拡張手順を開発することができる。 我々は、Hint-Relicと呼ばれる結果の手法が、推論器のOOD一般化能力を改善することを証明した。
  論文  参考訳（メタデータ） (2023-02-20T19:41:15Z)
• A Meta-Reinforcement Learning Algorithm for Causal Discovery [3.4806267677524896]
  因果構造は、モデルが純粋な相関に基づく推論を超えることを可能にする。 データから因果構造を見つけることは、計算の労力と精度の両方において大きな課題となる。 我々は,介入を学習することで因果発見を行うメタ強化学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-07-18T09:26:07Z)
• Hybrid Predictive Coding: Inferring, Fast and Slow [62.997667081978825]
  本稿では,反復型と償却型の両方を原則的に組み合わせたハイブリッド予測符号化ネットワークを提案する。 我々は,本モデルが本質的に不確実性に敏感であり,最小計算費用を用いて正確な信念を得るためにバランスを適応的にバランスさせることを実証した。
  論文  参考訳（メタデータ） (2022-04-05T12:52:45Z)
• Non-Clairvoyant Scheduling with Predictions Revisited [77.86290991564829]
  非論理的スケジューリングでは、優先度不明な処理条件でジョブをスケジューリングするためのオンライン戦略を見つけることが課題である。 我々はこのよく研究された問題を、アルゴリズム設計に(信頼できない)予測を統合する、最近人気の高い学習強化された設定で再検討する。 これらの予測には所望の特性があり, 高い性能保証を有するアルゴリズムと同様に, 自然な誤差測定が可能であることを示す。
  論文  参考訳（メタデータ） (2022-02-21T13:18:11Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。