論文の概要: Diverse Explanations from Data-driven and Domain-driven Perspectives for
Machine Learning Models
- arxiv url: http://arxiv.org/abs/2402.00347v1
- Date: Thu, 1 Feb 2024 05:28:28 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-02 16:25:33.294020
- Title: Diverse Explanations from Data-driven and Domain-driven Perspectives for
Machine Learning Models
- Title(参考訳): 機械学習モデルのためのデータ駆動およびドメイン駆動の観点からの多様な説明
- Authors: Sichao Li and Amanda Barnard
- Abstract要約: 機械学習モデルの解説は特に化学、生物学、物理学などの科学分野において重要である。
本稿では,機械学習モデルや,特定のニーズやニーズ,目的を持ったさまざまな利害関係者に対して,正確で誤解を招くような不整合性への注意を喚起する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Explanations of machine learning models are important, especially in
scientific areas such as chemistry, biology, and physics, where they guide
future laboratory experiments and resource requirements. These explanations can
be derived from well-trained machine learning models (data-driven perspective)
or specific domain knowledge (domain-driven perspective). However, there exist
inconsistencies between these perspectives due to accurate yet misleading
machine learning models and various stakeholders with specific needs, wants, or
aims. This paper calls attention to these inconsistencies and suggests a way to
find an accurate model with expected explanations that reinforce physical laws
and meet stakeholders' requirements from a set of equally-good models, also
known as Rashomon sets. Our goal is to foster a comprehensive understanding of
these inconsistencies and ultimately contribute to the integration of
eXplainable Artificial Intelligence (XAI) into scientific domains.
- Abstract(参考訳): 機械学習モデルの解説は特に化学、生物学、物理学などの科学分野において重要であり、将来の実験実験と資源要求を導く。
これらの説明は、よく訓練された機械学習モデル(データ駆動の視点)や特定のドメイン知識(ドメイン駆動の視点)から導き出すことができる。
しかし、正確だが誤解を招く機械学習モデルと、特定のニーズ、願望、目的を持つ様々な利害関係者によって、これらの視点には矛盾がある。
本稿では、これらの矛盾に注意を向け、物理法則を補強し、利害関係者の要求を等質なラーショモン集合(rashomon set)から満たした正確なモデルを見つける方法を提案する。
我々の目標は、これらの矛盾を包括的に理解し、最終的に科学領域へのeXplainable Artificial Intelligence(XAI)の統合に寄与することです。
関連論文リスト
- Physics-Inspired Interpretability Of Machine Learning Models [0.0]
機械学習モデルによる意思決定を説明する能力は、AIの普及に最も大きなハードルのひとつだ。
本研究では,エネルギー景観分野の手法にインスパイアされた入力データの特徴を同定する手法を提案する。
論文 参考訳(メタデータ) (2023-04-05T11:35:17Z) - Synthetic Model Combination: An Instance-wise Approach to Unsupervised
Ensemble Learning [92.89846887298852]
ラベル付きデータのトレーニングセットから学ぶ機会のない、新しいテストデータに対する予測を検討する。
専門家モデルのセットと予測へのアクセスと、トレーニングに使用するデータセットに関する制限された情報を提供すること。
論文 参考訳(メタデータ) (2022-10-11T10:20:31Z) - Interpretable and Explainable Machine Learning for Materials Science and
Chemistry [2.2175470459999636]
材料科学・化学における解釈可能性および説明可能性技術の応用を概説する。
材料科学における機械学習の解釈に関する様々な課題について論じる。
我々は、物質科学や化学問題における解釈可能性に恩恵をもたらす可能性のある、他の分野における多くのエキサイティングな展開を紹介します。
論文 参考訳(メタデータ) (2021-11-01T15:40:36Z) - Model-agnostic multi-objective approach for the evolutionary discovery
of mathematical models [55.41644538483948]
現代のデータ科学では、どの部分がより良い結果を得るために置き換えられるかというモデルの性質を理解することがより興味深い。
合成データ駆動型モデル学習において,多目的進化最適化を用いてアルゴリズムの所望特性を求める。
論文 参考訳(メタデータ) (2021-07-07T11:17:09Z) - Importance measures derived from random forests: characterisation and
extension [0.2741266294612776]
この論文は、機械学習アルゴリズムの特定のファミリーによって構築されたモデルの解釈可能性を改善することを目的としている。
これらのモデルを解釈するためにいくつかのメカニズムが提案されており、この理論に沿ってそれらの理解を改善することを目指している。
論文 参考訳(メタデータ) (2021-06-17T13:23:57Z) - Individual Explanations in Machine Learning Models: A Survey for
Practitioners [69.02688684221265]
社会的関連性の高い領域の決定に影響を与える洗練された統計モデルの使用が増加しています。
多くの政府、機関、企業は、アウトプットが人間の解釈可能な方法で説明しにくいため、採用に消極的です。
近年,機械学習モデルに解釈可能な説明を提供する方法として,学術文献が多数提案されている。
論文 参考訳(メタデータ) (2021-04-09T01:46:34Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳(メタデータ) (2021-03-18T12:57:34Z) - Physics-Integrated Variational Autoencoders for Robust and Interpretable
Generative Modeling [86.9726984929758]
我々は、不完全物理モデルの深部生成モデルへの統合に焦点を当てる。
本稿では,潜在空間の一部が物理によって基底づけられたVAEアーキテクチャを提案する。
合成および実世界のデータセットの集合に対して生成的性能改善を示す。
論文 参考訳(メタデータ) (2021-02-25T20:28:52Z) - Knowledge as Invariance -- History and Perspectives of
Knowledge-augmented Machine Learning [69.99522650448213]
機械学習の研究は転換点にある。
研究の関心は、高度にパラメータ化されたモデルのパフォーマンス向上から、非常に具体的なタスクへとシフトしている。
このホワイトペーパーは、機械学習研究におけるこの新興分野の紹介と議論を提供する。
論文 参考訳(メタデータ) (2020-12-21T15:07:19Z) - Differential Replication in Machine Learning [0.90238471756546]
我々は、すでにデプロイされた機械学習モデルによって得られた知識を再利用したソリューションを提案する。
これは機械学習モデルの差分複製の背景にある考え方である。
論文 参考訳(メタデータ) (2020-07-15T20:26:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。