論文の概要: On the Relationship Between Explanation and Prediction: A Causal View

• arxiv url: http://arxiv.org/abs/2212.06925v1
• Date: Tue, 13 Dec 2022 22:42:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-15 14:45:32.513964
• Title: On the Relationship Between Explanation and Prediction: A Causal View
• Title（参考訳）: 説明と予測の関係について:因果的考察
• Authors: Amir-Hossein Karimi, Krikamol Muandet, Simon Kornblith, Bernhard Sch\"olkopf, Been Kim
• Abstract要約: 機械学習モデルにおける説明(E)と予測(Y)の関係を計測する。 Y の E への相対的な直接的影響は奇パターンに従っており、その影響は中間性能モデルよりも最低性能モデルにおいて高く、次いで上位性能モデルにおいて減少する。
• 参考スコア（独自算出の注目度）: 32.559697523249035
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Explainability has become a central requirement for the development, deployment, and adoption of machine learning (ML) models and we are yet to understand what explanation methods can and cannot do. Several factors such as data, model prediction, hyperparameters used in training the model, and random initialization can all influence downstream explanations. While previous work empirically hinted that explanations (E) may have little relationship with the prediction (Y), there is a lack of conclusive study to quantify this relationship. Our work borrows tools from causal inference to systematically assay this relationship. More specifically, we measure the relationship between E and Y by measuring the treatment effect when intervening on their causal ancestors (hyperparameters) (inputs to generate saliency-based Es or Ys). We discover that Y's relative direct influence on E follows an odd pattern; the influence is higher in the lowest-performing models than in mid-performing models, and it then decreases in the top-performing models. We believe our work is a promising first step towards providing better guidance for practitioners who can make more informed decisions in utilizing these explanations by knowing what factors are at play and how they relate to their end task.
• Abstract（参考訳）: 説明可能性は、機械学習(ml)モデルの開発、デプロイ、導入において中心的な要件となり、説明方法が何が可能で何ができないのか、まだ理解できていない。 データ、モデル予測、モデルのトレーニングに使用されるハイパーパラメータ、ランダム初期化といったいくつかの要因は、すべて下流の説明に影響を与える可能性がある。 以前の研究は、説明(E)が予測(Y)とはほとんど関係がないことを実証的に示唆していたが、この関係を定量化する決定的な研究が欠如している。 私たちの仕事は因果推論からツールを借りて、この関係を体系的に確認します。 より具体的には, 因果祖先(ハイパーパラメータ)に介入する際の治療効果を測定することにより, E と Y の関係を計測する(塩分濃度に基づく Es または Ys を生成する入力)。 e に対する y の相対的直接的影響は奇なパターンをたどっており、その影響は中パフォーマンスモデルよりも低パフォーマンスモデルの方が高く、トップパフォーマンスモデルでは減少する。 当社の作業は,これらの説明を活用する上で,どのような要因と最終課題との関連性を知ることによって,より深い判断を下せるような実践者に対して,よりよいガイダンスを提供するための,有望な第一歩だと思います。

関連論文リスト

• SLEM: Machine Learning for Path Modeling and Causal Inference with Super Learner Equation Modeling [3.988614978933934]
  因果推論は科学の重要な目標であり、研究者は観測データを使って意味のある結論に達することができる。 経路モデル、構造方程式モデル(SEM)および指向非巡回グラフ(DAG)は、現象の根底にある因果構造に関する仮定を明確に特定する手段を提供する。 本稿では,機械学習のスーパーラーナーアンサンブルを統合したパスモデリング手法であるSuper Learner Equation Modelingを提案する。
  論文  参考訳（メタデータ） (2023-08-08T16:04:42Z)
• On the Joint Interaction of Models, Data, and Features [82.60073661644435]
  本稿では,データとモデル間の相互作用を実験的に解析する新しいツールであるインタラクションテンソルを紹介する。 これらの観測に基づいて,特徴学習のための概念的枠組みを提案する。 この枠組みの下では、一つの仮説に対する期待された精度と一対の仮説に対する合意はどちらも閉形式で導出することができる。
  論文  参考訳（メタデータ） (2023-06-07T21:35:26Z)
• Active Bayesian Causal Inference [72.70593653185078]
  因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。 我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-04T22:38:57Z)
• Variational Causal Networks: Approximate Bayesian Inference over Causal Structures [132.74509389517203]
  離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。 実験では,提案した変分後部が真の後部を良好に近似できることを示した。
  論文  参考訳（メタデータ） (2021-06-14T17:52:49Z)
• Disentangling Observed Causal Effects from Latent Confounders using Method of Moments [67.27068846108047]
  我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。 我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
  論文  参考訳（メタデータ） (2021-01-17T07:48:45Z)
• Latent Causal Invariant Model [128.7508609492542]
  現在の教師付き学習は、データ適合プロセス中に急激な相関を学習することができる。 因果予測を求める潜在因果不変モデル(LaCIM)を提案する。
  論文  参考訳（メタデータ） (2020-11-04T10:00:27Z)
• Information-Theoretic Approximation to Causal Models [0.0]
  有限標本から2つの確率変数間の因果方向と因果効果を推定する問題の解法が可能であることを示す。 X と Y のサンプルから生じる分布を高次元確率空間に埋め込む。 本稿では, 線形最適化問題を解くことにより, 因果モデル(IACM)に対する情報理論近似が可能であることを示す。
  論文  参考訳（メタデータ） (2020-07-29T18:34:58Z)
• Causal Discovery in Physical Systems from Videos [123.79211190669821]
  因果発見は人間の認知の中心にある。 本研究では,ビデオの因果発見の課題を,地層構造を監督せずにエンドツーエンドで検討する。
  論文  参考訳（メタデータ） (2020-07-01T17:29:57Z)
• CausaLM: Causal Model Explanation Through Counterfactual Language Models [33.29636213961804]
  CausaLMは、対実言語表現モデルを用いた因果モデル説明を作成するためのフレームワークである。 本稿では,BERT のような言語表現モデルが,ある意味ある概念に対する対実表現を効果的に学習できることを示す。 本手法の副産物は,テストされた概念の影響を受けない言語表現モデルである。
  論文  参考訳（メタデータ） (2020-05-27T15:06:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。