論文の概要: Generating Contrastive Explanations for Inductive Logic Programming Based on a Near Miss Approach

• arxiv url: http://arxiv.org/abs/2106.08064v1
• Date: Tue, 15 Jun 2021 11:42:05 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-16 15:30:16.563298
• Title: Generating Contrastive Explanations for Inductive Logic Programming Based on a Near Miss Approach
• Title（参考訳）: 近似ミスアプローチに基づく帰納的論理プログラミングのための対比的説明の生成
• Authors: Johannes Rabold, Michael Siebers, Ute Schmid
• Abstract要約: Inductive Logic Programming (textscGeNME) を用いて学習した関係概念のための説明生成アルゴリズムを提案する。 近いミスをカバーするが、元のインスタンスではない修正されたルールが説明として与えられる。 また,ルールベース,例に基づく人間の嗜好と,家族やアーチ領域におけるミスに近い説明とを比較検討した心理実験を行った。
• 参考スコア（独自算出の注目度）: 0.7734726150561086
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent research, human-understandable explanations of machine learning models have received a lot of attention. Often explanations are given in form of model simplifications or visualizations. However, as shown in cognitive science as well as in early AI research, concept understanding can also be improved by the alignment of a given instance for a concept with a similar counterexample. Contrasting a given instance with a structurally similar example which does not belong to the concept highlights what characteristics are necessary for concept membership. Such near misses have been proposed by Winston (1970) as efficient guidance for learning in relational domains. We introduce an explanation generation algorithm for relational concepts learned with Inductive Logic Programming (\textsc{GeNME}). The algorithm identifies near miss examples from a given set of instances and ranks these examples by their degree of closeness to a specific positive instance. A modified rule which covers the near miss but not the original instance is given as an explanation. We illustrate \textsc{GeNME} with the well known family domain consisting of kinship relations, the visual relational Winston arches domain and a real-world domain dealing with file management. We also present a psychological experiment comparing human preferences of rule-based, example-based, and near miss explanations in the family and the arches domains.
• Abstract（参考訳）: 最近の研究では、機械学習モデルの人間の理解可能な説明が注目を集めている。 しばしば、モデルの単純化や視覚化の形で説明される。 しかし、認知科学や初期のAI研究で示されているように、概念理解は、同じ反例を持つ概念に対して与えられたインスタンスのアライメントによって改善することもできる。 概念に属さない構造的に類似した例と、あるインスタンスを対比すると、概念メンバーシップに必要な特徴が強調される。 このような近距離ミスは、関係領域での学習のための効率的なガイダンスとしてWinston (1970) によって提案されている。 Inductive Logic Programming (\textsc{GeNME}) を用いて学習した関係概念に対する説明生成アルゴリズムを提案する。 このアルゴリズムは与えられたインスタンスの集合から近いミス例を特定し、これらの例を特定の正のインスタンスに近接度でランク付けする。 近いミスをカバーするが、元のインスタンスではない修正されたルールが説明として与えられる。 我々は、親族関係、視覚関係winston archesドメイン、ファイル管理を扱う実世界のドメインからなるよく知られたファミリードメインで \textsc{genme} を示す。 また,ルールベース,例に基づく人間の嗜好と,家族やアーチ領域におけるミスに近い説明を比較検討した心理実験を行った。

関連論文リスト

• Natural Example-Based Explainability: a Survey [0.0]
  本稿では,自然例に基づくXAIにおける最先端技術の概要について述べる。 同様の例、反実例、半実例、影響力のある例、プロトタイプ、コンセプトなどです。
  論文  参考訳（メタデータ） (2023-09-05T09:46:20Z)
• Learning Rhetorical Structure Theory-based descriptions of observed behaviour [0.5249805590164901]
  本稿では,エージェントが観察された行動の新たな記述を学習できるようにするための,新しい概念セット,公理スキーマ,アルゴリズムを提案する。 エージェントが学習した記述を表現するために使用する関係は、修辞構造理論(RST)に触発された。 本稿では,実装ソフトウェアを用いた実演シナリオにおける提案提案の結果を示す。
  論文  参考訳（メタデータ） (2022-06-24T13:47:20Z)
• Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
  概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。 次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。 最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
  論文  参考訳（メタデータ） (2022-02-25T01:27:31Z)
• Quantifying and Understanding Adversarial Examples in Discrete Input Spaces [70.18815080530801]
  我々は、任意の離散的な設定で適用される同義的逆例の概念を定式化し、そのような例を構成するための単純なドメインに依存しないアルゴリズムを記述する。 我々の研究は、連続入力と類似した離散逆例のドメインに依存しない処理への一歩である。
  論文  参考訳（メタデータ） (2021-12-12T16:44:09Z)
• On the Connections between Counterfactual Explanations and Adversarial Examples [14.494463243702908]
  本研究は, 対実的説明と敵対的事例との間の関係を定式化するための最初の試みである。 本分析は,いくつかの反事実的説明法と逆例生成法が等価であることを示す。 人工および実世界のデータセットを用いた広範囲な実験により理論的知見を実証的に検証した。
  論文  参考訳（メタデータ） (2021-06-18T08:22:24Z)
• Formalising Concepts as Grounded Abstractions [68.24080871981869]
  このレポートは、表現学習が生データから概念を誘導する方法を示しています。 このレポートの主な技術的目標は、表現学習のテクニックが概念空間の格子理論的定式化とどのように結婚できるかを示すことである。
  論文  参考訳（メタデータ） (2021-01-13T15:22:01Z)
• Evaluating Explanations: How much do explanations from the teacher aid students? [103.05037537415811]
  本研究では,説明が生徒の学習モデルを改善する程度を測る学生-教師パラダイムを用いて,説明の価値を定式化する。 説明を評価するための従来の提案とは異なり、我々のアプローチは容易にゲーム化できず、原則付き、スケーラブルで、属性の自動評価を可能にします。
  論文  参考訳（メタデータ） (2020-12-01T23:40:21Z)
• Towards Interpretable Natural Language Understanding with Explanations as Latent Variables [146.83882632854485]
  そこで本研究では,人間に注釈付き説明文の小さなセットだけを必要とする自然言語理解の枠組みを構築した。 我々のフレームワークは、ニューラルネットワークの基本的な推論過程をモデル化する潜在変数として、自然言語の説明を扱う。
  論文  参考訳（メタデータ） (2020-10-24T02:05:56Z)
• A Diagnostic Study of Explainability Techniques for Text Classification [52.879658637466605]
  既存の説明可能性技術を評価するための診断特性のリストを作成する。 そこで本研究では, モデルの性能と有理性との整合性の関係を明らかにするために, 説明可能性手法によって割り当てられた有理性スコアと有理性入力領域の人間のアノテーションを比較した。
  論文  参考訳（メタデータ） (2020-09-25T12:01:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。