論文の概要: Topological Interpretability for Deep-Learning
- arxiv url: http://arxiv.org/abs/2305.08642v1
- Date: Mon, 15 May 2023 13:38:13 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-16 14:25:57.953124
- Title: Topological Interpretability for Deep-Learning
- Title（参考訳）: 深層学習におけるトポロジカル解釈可能性
- Authors: Adam Spannaus, Heidi A.Hanson, Lynne Penberthy, and Georgia Tourassi
- Abstract要約: ディープラーニング(DL)モデルは、予測の確実性を定量化できない。
本研究は,臨床および非臨床のテキストに基づいて訓練された2つのDL分類モデルにおいて,特徴を推測する手法を提案する。
- 参考スコア（独自算出の注目度）: 0.2519906683279153
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the increasing adoption of AI-based systems across everyday life, the
need to understand their decision-making mechanisms is correspondingly
accelerating. The level at which we can trust the statistical inferences made
from AI-based decision systems is an increasing concern, especially in
high-risk systems such as criminal justice or medical diagnosis, where
incorrect inferences may have tragic consequences. Despite their successes in
providing solutions to problems involving real-world data, deep learning (DL)
models cannot quantify the certainty of their predictions. And are frequently
quite confident, even when their solutions are incorrect.
This work presents a method to infer prominent features in two DL
classification models trained on clinical and non-clinical text by employing
techniques from topological and geometric data analysis. We create a graph of a
model's prediction space and cluster the inputs into the graph's vertices by
the similarity of features and prediction statistics. We then extract subgraphs
demonstrating high-predictive accuracy for a given label. These subgraphs
contain a wealth of information about features that the DL model has recognized
as relevant to its decisions. We infer these features for a given label using a
distance metric between probability measures, and demonstrate the stability of
our method compared to the LIME interpretability method. This work demonstrates
that we may gain insights into the decision mechanism of a DL model, which
allows us to ascertain if the model is making its decisions based on
information germane to the problem or identifies extraneous patterns within the
data.
- Abstract（参考訳）: 日常的にAIベースのシステムが普及するにつれ、意思決定メカニズムを理解する必要性が増している。
aiベースの意思決定システムから得られる統計的推論を信頼できるレベルは、特に刑事司法や医療診断のようなリスクの高いシステムでは、悲劇的な結果をもたらす可能性がある、という懸念が高まっている。
現実世界のデータに関わる問題に対する解決策を提供することに成功したにもかかわらず、ディープラーニング(DL)モデルは予測の確実性を定量化できない。
そして、ソリューションが間違っていても、しばしば非常に自信があります。
本研究は,2つのDL分類モデルにおいて,トポロジカルおよび幾何学的データ解析の手法を用いて臨床および非臨床テキストで訓練された特徴を推測する手法を提案する。
モデルの予測空間のグラフを作成し、特徴量と予測統計量の類似性により入力をグラフの頂点にクラスタ化する。
次に,与えられたラベルに対して高い予測精度を示す部分グラフを抽出する。
これらのサブグラフにはdlモデルが決定に関連すると認識した特徴に関する豊富な情報が含まれている。
これらの特徴を確率測度間の距離メトリックを用いて推算し, ライム解釈法と比較し, 提案手法の安定性を示す。
この研究は、dlモデルの決定メカニズムに関する洞察を得ることを実証するものであり、モデルが問題に関する情報に基づいて決定を行っているか、あるいはデータ内の余分なパターンを特定することができる。
関連論文リスト
- Unified Explanations in Machine Learning Models: A Perturbation Approach [0.0]
XAIとモデリング技術の不整合は、これらの説明可能性アプローチの有効性に疑念を投げかけるという望ましくない効果をもたらす可能性がある。
我々はXAI, SHapley Additive exPlanations (Shap) において, 一般的なモデルに依存しない手法に対する系統的摂動解析を提案する。
我々は、一般的な機械学習とディープラーニングの手法のスイートと、静的ケースホールドで生成された説明の正確さを定量化するためのメトリクスの中で、動的推論の設定において、相対的な特徴重要度を生成するアルゴリズムを考案した。
論文 参考訳（メタデータ） (2024-05-30T16:04:35Z) - Overlap Number of Balls Model-Agnostic CounterFactuals (ONB-MACF): A Data-Morphology-based Counterfactual Generation Method for Trustworthy Artificial Intelligence [15.415120542032547]
XAIはAIシステムをより理解しやすく信頼性の高いものにしようとしている。
本研究は,データ形態学戦略の価値を解析し,反実的説明を生成する。
ボールのオーバーラップ数(Overlap Number of Balls Model-Agnostic CounterFactuals,ONB-MACF)法を導入している。
論文 参考訳（メタデータ） (2024-05-20T18:51:42Z) - Unified Uncertainty Estimation for Cognitive Diagnosis Models [70.46998436898205]
本稿では,幅広い認知診断モデルに対する統一的不確実性推定手法を提案する。
診断パラメータの不確かさをデータ・アスペクトとモデル・アスペクトに分解する。
本手法は有効であり,認知診断の不確実性に関する有用な知見を提供することができる。
論文 参考訳（メタデータ） (2024-03-09T13:48:20Z) - LaPLACE: Probabilistic Local Model-Agnostic Causal Explanations [1.0370398945228227]
本稿では,機械学習モデルに対する確率論的原因・効果説明を提供するLaPLACE-Explainerを紹介する。
LaPLACE-Explainerコンポーネントはマルコフ毛布の概念を利用して、関連する特徴と非関連する特徴の間の統計的境界を確立する。
提案手法は,LIME と SHAP の局所的精度と特徴の整合性の観点から,因果的説明と性能を向上する。
論文 参考訳（メタデータ） (2023-10-01T04:09:59Z) - Explainable Machine Learning for Hydrocarbon Prospect Risking [14.221460375400692]
我々は、LIMEがドメイン知識に整合した意思決定プロセスを明らかにすることによって、モデルの決定に対する信頼をいかに引き起こすかを示す。
データやトレーニングデータセットの異常なパターンによる誤予測をデバッグする可能性がある。
論文 参考訳（メタデータ） (2022-12-15T00:38:14Z) - Distributionally Robust Semi-Supervised Learning Over Graphs [68.29280230284712]
グラフ構造化データに対する半教師付き学習(SSL)は、多くのネットワークサイエンスアプリケーションに現れる。
グラフ上の学習を効率的に管理するために,近年,グラフニューラルネットワーク(GNN)の変種が開発されている。
実際に成功したにも拘わらず、既存の手法のほとんどは、不確実な結節属性を持つグラフを扱うことができない。
ノイズ測定によって得られたデータに関連する分布の不確実性によっても問題が発生する。
分散ロバストな学習フレームワークを開発し,摂動に対する定量的ロバスト性を示すモデルを訓練する。
論文 参考訳（メタデータ） (2021-10-20T14:23:54Z) - The Causal Neural Connection: Expressiveness, Learnability, and
Inference [125.57815987218756]
構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。
本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。
我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
論文 参考訳（メタデータ） (2021-07-02T01:55:18Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳（メタデータ） (2021-03-18T12:57:34Z) - Leveraging Expert Consistency to Improve Algorithmic Decision Support [62.61153549123407]
建設のギャップを狭めるために観測結果と組み合わせることができる情報源として,歴史専門家による意思決定の利用について検討する。
本研究では,データ内の各ケースが1人の専門家によって評価された場合に,専門家の一貫性を間接的に推定する影響関数に基づく手法を提案する。
本研究は, 児童福祉領域における臨床現場でのシミュレーションと実世界データを用いて, 提案手法が構成ギャップを狭めることに成功していることを示す。
論文 参考訳（メタデータ） (2021-01-24T05:40:29Z) - Learning while Respecting Privacy and Robustness to Distributional
Uncertainties and Adversarial Data [66.78671826743884]
分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。
目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。
提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
論文 参考訳（メタデータ） (2020-07-07T18:25:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。