論文の概要: Ontology-based Interpretable Machine Learning for Textual Data
- arxiv url: http://arxiv.org/abs/2004.00204v1
- Date: Wed, 1 Apr 2020 02:51:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-17 17:43:37.134541
- Title: Ontology-based Interpretable Machine Learning for Textual Data
- Title(参考訳): オントロジーに基づくテキストデータの解釈型機械学習
- Authors: Phung Lai, NhatHai Phan, Han Hu, Anuja Badeti, David Newman, Dejing
Dou
- Abstract要約: 本稿では,予測モデルを説明するためのサンプリング手法に基づいて,解釈可能なモデルを学習する新しい解釈フレームワークを提案する。
説明のために探索空間を狭めるために,学習可能なアンカーアルゴリズムを設計する。
さらに、学習された解釈可能な表現とアンカーを組み合わせることで、理解可能な説明を生成する一連の規則が導入された。
- 参考スコア(独自算出の注目度): 35.01650633374998
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we introduce a novel interpreting framework that learns an
interpretable model based on an ontology-based sampling technique to explain
agnostic prediction models. Different from existing approaches, our algorithm
considers contextual correlation among words, described in domain knowledge
ontologies, to generate semantic explanations. To narrow down the search space
for explanations, which is a major problem of long and complicated text data,
we design a learnable anchor algorithm, to better extract explanations locally.
A set of regulations is further introduced, regarding combining learned
interpretable representations with anchors to generate comprehensible semantic
explanations. An extensive experiment conducted on two real-world datasets
shows that our approach generates more precise and insightful explanations
compared with baseline approaches.
- Abstract(参考訳): 本稿では,オントロジーに基づくサンプリング手法を用いて解釈可能なモデルを学習し,未知の予測モデルを説明する新しい解釈フレームワークを提案する。
既存の手法と異なり,本アルゴリズムはドメイン知識オントロジーに記述された単語間の文脈的相関を考慮し,意味的説明を生成する。
長く複雑なテキストデータの大きな問題である説明のための検索空間を狭めるために,学習可能なアンカーアルゴリズムを設計し,説明を局所的に抽出する。
さらに、学習された解釈可能な表現とアンカーを組み合わせることで理解可能な意味的説明を生成する一連の規則が導入された。
2つの実世界のデータセットに対して行われた広範な実験により、我々のアプローチはベースラインアプローチよりも正確で洞察に富んだ説明を生成する。
関連論文リスト
- Explainability for Large Language Models: A Survey [59.67574757137078]
大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。
本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
論文 参考訳(メタデータ) (2023-09-02T22:14:26Z) - Explaining Explainability: Towards Deeper Actionable Insights into Deep
Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。
そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文 参考訳(メタデータ) (2023-06-14T23:24:01Z) - Unsupervised Interpretable Basis Extraction for Concept-Based Visual
Explanations [53.973055975918655]
提案手法を用いて抽出したベースに変換すると,中間層表現がより解釈可能であることを示す。
提案手法は,提案手法を教師付きアプローチから抽出したベースと,教師付き手法から抽出したベースを比較した結果,教師なし手法は教師付き手法の限界を構成する強みを有し,今後の研究の方向性を示す。
論文 参考訳(メタデータ) (2023-03-19T00:37:19Z) - Topological Data Analysis for Word Sense Disambiguation [0.0]
我々は,単語知覚誘導と曖昧化のための新しい教師なしアルゴリズムを開発し,検証する。
提案手法は,単語知覚誘導タスクのためのクラスタのよりリッチな概念化を提供するトポロジの分野における高度な数学的概念に依存している。
このことは、自然言語処理のためのトポロジカルアルゴリズムの約束を示し、この将来的な領域における今後の研究を提唱する。
論文 参考訳(メタデータ) (2022-03-01T15:41:54Z) - RELAX: Representation Learning Explainability [10.831313203043514]
本稿では、帰属に基づく表現の説明のための最初のアプローチであるRELAXを提案する。
ReLAXは、入力とマスクアウトされた自身のバージョンの間の表現空間における類似性を測定することで表現を説明する。
我々はRELAXの理論的解釈を提供し、教師なし学習を用いて訓練された特徴抽出器を新規に解析する。
論文 参考訳(メタデータ) (2021-12-19T14:51:31Z) - Interpretable Deep Learning: Interpretations, Interpretability,
Trustworthiness, and Beyond [49.93153180169685]
一般に混同される2つの基本的な概念(解釈と解釈可能性)を紹介・明らかにする。
我々は,新しい分類法を提案することにより,異なる視点から,最近のいくつかの解釈アルゴリズムの設計を詳細に述べる。
信頼される」解釈アルゴリズムを用いてモデルの解釈可能性を評価する上での既存の作業をまとめる。
論文 参考訳(メタデータ) (2021-03-19T08:40:30Z) - A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
既存の説明可能性技術を評価するための診断特性のリストを作成する。
そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
論文 参考訳(メタデータ) (2020-09-25T12:01:53Z) - Probably Approximately Correct Explanations of Machine Learning Models
via Syntax-Guided Synthesis [6.624726878647541]
本稿では、おそらくほぼ正解学習(PAC)と構文誘導合成(SyGuS)という論理推論手法を組み合わせて、複雑な機械学習モデル(ディープニューラルネットワークなど)の意思決定を理解するための新しいアプローチを提案する。
提案手法は,高い確率で誤りが少ないことを証明し,人間の解釈可能な小さな説明を生成するのに有効であることを実証的に示す。
論文 参考訳(メタデータ) (2020-09-18T12:10:49Z) - How Far are We from Effective Context Modeling? An Exploratory Study on
Semantic Parsing in Context [59.13515950353125]
文法に基づく意味解析を行い,その上に典型的な文脈モデリング手法を適用する。
我々は,2つの大きなクロスドメインデータセットに対して,13のコンテキストモデリング手法を評価した。
論文 参考訳(メタデータ) (2020-02-03T11:28:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。