論文の概要: On the Relationship Between Explanation and Prediction: A Causal View

• arxiv url: http://arxiv.org/abs/2212.06925v4
• Date: Fri, 12 May 2023 21:24:33 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-16 23:54:57.775534
• Title: On the Relationship Between Explanation and Prediction: A Causal View
• Title（参考訳）: 説明と予測の関係について:因果的考察
• Authors: Amir-Hossein Karimi, Krikamol Muandet, Simon Kornblith, Bernhard Sch\"olkopf, Been Kim
• Abstract要約: 説明(E)と予測(Y)の関係について検討する。 この結果は、E と Y の関係は理想とは程遠いことを示唆している。 私たちの研究は、EとYの関係を定量的に測定する第一歩として有望です。
• 参考スコア（独自算出の注目度）: 32.559697523249035
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Being able to provide explanations for a model's decision has become a central requirement for the development, deployment, and adoption of machine learning models. However, we are yet to understand what explanation methods can and cannot do. How do upstream factors such as data, model prediction, hyperparameters, and random initialization influence downstream explanations? While previous work raised concerns that explanations (E) may have little relationship with the prediction (Y), there is a lack of conclusive study to quantify this relationship. Our work borrows tools from causal inference to systematically assay this relationship. More specifically, we study the relationship between E and Y by measuring the treatment effect when intervening on their causal ancestors, i.e., on hyperparameters and inputs used to generate saliency-based Es or Ys. Our results suggest that the relationships between E and Y is far from ideal. In fact, the gap between 'ideal' case only increase in higher-performing models -- models that are likely to be deployed. Our work is a promising first step towards providing a quantitative measure of the relationship between E and Y, which could also inform the future development of methods for E with a quantitative metric.
• Abstract（参考訳）: モデルの決定に対して説明を提供することは、機械学習モデルの開発、デプロイ、導入の中心的な要件となっている。 しかし、説明法ができることとできないことはまだ分かっていない。 データやモデル予測、ハイパーパラメータ、ランダム初期化といった上流要因は下流の説明にどのように影響するのか? 前回の研究では、説明(E)が予測(Y)とはほとんど関係がないという懸念が持ち上がったが、この関係を定量化するための決定的な研究が欠如している。 私たちの仕事は因果推論からツールを借りて、この関係を体系的に確認します。 より具体的には, 因果祖先に介入する際の治療効果, すなわち過度パラメータおよび塩分濃度に基づくEsまたはYsの生成に使用される入力を計測することにより, EとYの関係について検討する。 この結果は、E と Y の関係は理想とは程遠いことを示唆している。 実際、"理想"ケース間のギャップは、高いパフォーマンスモデル -- デプロイされる可能性のあるモデルでのみ増加する。 我々の研究は、E と Y の関係の定量的な尺度を提供するための有望な第一歩である。

関連論文リスト

• SLEM: Machine Learning for Path Modeling and Causal Inference with Super Learner Equation Modeling [3.988614978933934]
  因果推論は科学の重要な目標であり、研究者は観測データを使って意味のある結論に達することができる。 経路モデル、構造方程式モデル(SEM)および指向非巡回グラフ(DAG)は、現象の根底にある因果構造に関する仮定を明確に特定する手段を提供する。 本稿では,機械学習のスーパーラーナーアンサンブルを統合したパスモデリング手法であるSuper Learner Equation Modelingを提案する。
  論文  参考訳（メタデータ） (2023-08-08T16:04:42Z)
• On the Joint Interaction of Models, Data, and Features [82.60073661644435]
  本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。 これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。 この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
  論文  参考訳（メタデータ） (2023-06-07T21:35:26Z)
• Active Bayesian Causal Inference [72.70593653185078]
  因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。 我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-04T22:38:57Z)
• Variational Causal Networks: Approximate Bayesian Inference over Causal Structures [132.74509389517203]
  離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。 実験では,提案した変分後部が真の後部を良好に近似できることを示した。
  論文  参考訳（メタデータ） (2021-06-14T17:52:49Z)
• Disentangling Observed Causal Effects from Latent Confounders using Method of Moments [67.27068846108047]
  我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。 我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
  論文  参考訳（メタデータ） (2021-01-17T07:48:45Z)
• Latent Causal Invariant Model [128.7508609492542]
  現在の教師付き学習は、データ適合プロセス中に急激な相関を学習することができる。 因果予測を求める潜在因果不変モデル(LaCIM)を提案する。
  論文  参考訳（メタデータ） (2020-11-04T10:00:27Z)
• Information-Theoretic Approximation to Causal Models [0.0]
  有限標本から2つの確率変数間の因果方向と因果効果を推定する問題の解法が可能であることを示す。 X と Y のサンプルから生じる分布を高次元確率空間に埋め込む。 本稿では, 線形最適化問題を解くことにより, 因果モデル(IACM)に対する情報理論近似が可能であることを示す。
  論文  参考訳（メタデータ） (2020-07-29T18:34:58Z)
• Causal Discovery in Physical Systems from Videos [123.79211190669821]
  因果発見は人間の認知の中心にある。 本研究では,ビデオの因果発見の課題を,地層構造を監督せずにエンドツーエンドで検討する。
  論文  参考訳（メタデータ） (2020-07-01T17:29:57Z)
• CausaLM: Causal Model Explanation Through Counterfactual Language Models [33.29636213961804]
  CausaLMは、対実言語表現モデルを用いた因果モデル説明を作成するためのフレームワークである。 本稿では,BERT のような言語表現モデルが,ある意味ある概念に対する対実表現を効果的に学習できることを示す。 本手法の副産物は,テストされた概念の影響を受けない言語表現モデルである。
  論文  参考訳（メタデータ） (2020-05-27T15:06:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。