論文の概要: Explaining Explanations in Probabilistic Logic Programming

• arxiv url: http://arxiv.org/abs/2401.17045v5
• Date: Tue, 22 Oct 2024 03:06:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-23 14:24:33.235860
• Title: Explaining Explanations in Probabilistic Logic Programming
• Title（参考訳）: 確率論的論理プログラミングにおける説明
• Authors: Germán Vidal,
• Abstract要約: ほとんどのアプローチでは、システムはブラックボックスと見なされており、適切な説明を生成することは困難である。 確率論的論理プログラミング(PLP)は、知識表現のための論理プログラミングと不確実性をモデル化する確率を組み合わせたパラダイムである。 本稿では,証明に「選択表現」をラベル付けした PLP の新しいクエリ駆動推論機構の定義に基づく説明法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: The emergence of tools based on artificial intelligence has also led to the need of producing explanations which are understandable by a human being. In most approaches, the system is considered a black box, making it difficult to generate appropriate explanations. In this work, though, we consider a setting where models are transparent: probabilistic logic programming (PLP), a paradigm that combines logic programming for knowledge representation and probability to model uncertainty. However, given a query, the usual notion of explanation is associated with a set of choices, one for each random variable of the model. Unfortunately, such a set does not explain why the query is true and, in fact, it may contain choices that are actually irrelevant for the considered query. To improve this situation, we present in this paper an approach to explaining explanations which is based on defining a new query-driven inference mechanism for PLP where proofs are labeled with "choice expressions", a compact and easy to manipulate representation for sets of choices. The combination of proof trees and choice expressions allows us to produce comprehensible query justifications with a causal structure.
• Abstract（参考訳）: 人工知能に基づくツールの出現は、人間によって理解可能な説明を作成する必要ももたらした。 ほとんどのアプローチでは、システムはブラックボックスと見なされており、適切な説明を生成することは困難である。 確率論的論理プログラミング(PLP:probabilistic logic programming)は、知識表現のための論理プログラミングと不確実性をモデル化する確率を組み合わせたパラダイムである。 しかしながら、クエリが与えられた場合、通常の説明の概念は、モデルの各ランダム変数に対して1つの選択の集合に関連付けられている。 残念ながら、そのようなセットは、なぜクエリが真実なのかを説明せず、実際は、検討されたクエリとは無関係な選択肢を含んでいるかもしれない。 この状況を改善するために,我々は,証明に「選択表現」をラベル付けした PLP の新しいクエリ駆動推論機構の定義に基づく説明法を提案する。 証明木と選択式の組み合わせにより、因果構造を持つ理解可能なクエリ正当性を生成することができる。

関連論文リスト

• On Generating Monolithic and Model Reconciling Explanations in Probabilistic Scenarios [46.752418052725126]
  本稿では,確率論的モノリシックな説明とモデル整合的な説明を生成するための新しいフレームワークを提案する。 モノリシックな説明のために,本手法は確率論的論理を利用して不確実性を統合し,説明の確率を増大させる。 モデル整合性の説明のために,モデル整合性問題の論理に基づく変種を拡張し,確率的人間モデルを考慮したフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-05-29T16:07:31Z)
• Even-if Explanations: Formal Foundations, Priorities and Complexity [18.126159829450028]
  線形モデルとツリーモデルの両方がニューラルネットワークよりも厳密に解釈可能であることを示す。 ユーザが好みに基づいて説明をパーソナライズすることのできる、嗜好に基づくフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-17T11:38:58Z)
• Explanation Selection Using Unlabeled Data for Chain-of-Thought Prompting [80.9896041501715]
  非専門家によって書かれたオフ・ザ・シェルフの説明のように、タスクのために"チューニング"されていない説明は、中途半端なパフォーマンスをもたらす可能性がある。 本稿では,ブラックボックス方式で説明拡散プロンプトを最適化する方法の課題に対処する。
  論文  参考訳（メタデータ） (2023-02-09T18:02:34Z)
• On Computing Probabilistic Abductive Explanations [30.325691263226968]
  最も広く研究されているAI(XAI)アプローチは正しくない。 PI説明は重要な欠点も示しており、最も目に見えるものはおそらくその大きさである。 本稿では,多くの広く使用されている分類器に対して,関連する集合を計算するための実践的アプローチについて検討する。
  論文  参考訳（メタデータ） (2022-12-12T15:47:10Z)
• MetaLogic: Logical Reasoning Explanations with Fine-Grained Structure [129.8481568648651]
  複雑な実生活シナリオにおけるモデルの論理的推論能力を調べるためのベンチマークを提案する。 推論のマルチホップ連鎖に基づいて、説明形式は3つの主成分を含む。 この新たな説明形式を用いて,現在のベストモデルの性能を評価した。
  論文  参考訳（メタデータ） (2022-10-22T16:01:13Z)
• Explanations as Programs in Probabilistic Logic Programming [0.0]
  理解可能な説明の生成は、現代の人工知能システムに欠かせない特徴である。 本研究では,関係構造と不確実性を持つドメインをモデル化するのに有用な論理プログラミングの拡張である確率論的論理プログラミングについて考察する。 本稿では,複数の展開型変換によって与えられたクエリから生成されたプログラムとして説明が表現される新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-10-06T16:09:34Z)
• Logical Credal Networks [87.25387518070411]
  本稿では,論理と確率を組み合わせた先行モデルの多くを一般化した表現的確率論的論理である論理的クレダルネットワークを紹介する。 本稿では,不確実性のあるマスターミンドゲームを解くこと,クレジットカード詐欺を検出することを含む,最大後部推論タスクの性能について検討する。
  論文  参考訳（メタデータ） (2021-09-25T00:00:47Z)
• Rationales for Sequential Predictions [117.93025782838123]
  シーケンスモデルは現代のNLPシステムにおいて重要な要素であるが、それらの予測は説明が難しい。 モデル説明は有理だが、個々のモデル予測を説明できる文脈のサブセットを考える。 この目的を近似する効率的なグリードアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-09-14T01:25:15Z)
• Probabilistic Sufficient Explanations [31.08715352013011]
  確率論的に十分な説明を導入し、分類の例を特徴の「最も単純な」部分集合を選ぶものとして記述する。 保証をそのまま保ちつつ、所望の説明を見つけるためのスケーラブルなアルゴリズムを設計する。 本実験は, 十分な説明を求める上でのアルゴリズムの有効性を実証し, アンカーや論理的説明と比較して, その優位性を示すものである。
  論文  参考訳（メタデータ） (2021-05-21T04:03:10Z)
• Contrastive Explanations for Model Interpretability [77.92370750072831]
  分類モデルの対照的説明を生成する手法を提案する。 本手法は潜在空間へのモデル表現の投影に基づいている。 本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
  論文  参考訳（メタデータ） (2021-03-02T00:36:45Z)
• ExplanationLP: Abductive Reasoning for Explainable Science Question Answering [4.726777092009554]
  本稿では,帰納的推論問題としての質問応答について考察する。 それぞれの選択に対して妥当な説明を構築し、最終回答として最適な説明で候補を選択する。 提案システムであるExplainationLPは,各候補の回答に対して,関連事実の重み付きグラフを構築して説明を行う。
  論文  参考訳（メタデータ） (2020-10-25T14:49:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。