論文の概要: Discrete Subgraph Sampling for Interpretable Graph based Visual Question Answering

• arxiv url: http://arxiv.org/abs/2412.08263v1
• Date: Wed, 11 Dec 2024 10:18:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-12 14:02:57.069753
• Title: Discrete Subgraph Sampling for Interpretable Graph based Visual Question Answering
• Title（参考訳）: 解釈可能なグラフに基づく視覚質問応答のための離散サブグラフサンプリング
• Authors: Pascal Tilli, Ngoc Thang Vu,
• Abstract要約: 我々は,個別サブセットサンプリング手法をグラフベースの視覚的質問応答システムに統合する。 本手法は,解釈可能性と解答精度のトレードオフを効果的に緩和することを示す。 また、生成されたサブグラフの解釈可能性を評価するために、人間の評価を行う。
• 参考スコア（独自算出の注目度）: 27.193336817953142
• License:
• Abstract: Explainable artificial intelligence (XAI) aims to make machine learning models more transparent. While many approaches focus on generating explanations post-hoc, interpretable approaches, which generate the explanations intrinsically alongside the predictions, are relatively rare. In this work, we integrate different discrete subset sampling methods into a graph-based visual question answering system to compare their effectiveness in generating interpretable explanatory subgraphs intrinsically. We evaluate the methods on the GQA dataset and show that the integrated methods effectively mitigate the performance trade-off between interpretability and answer accuracy, while also achieving strong co-occurrences between answer and question tokens. Furthermore, we conduct a human evaluation to assess the interpretability of the generated subgraphs using a comparative setting with the extended Bradley-Terry model, showing that the answer and question token co-occurrence metrics strongly correlate with human preferences. Our source code is publicly available.
• Abstract（参考訳）: 説明可能な人工知能(XAI)は、機械学習モデルをより透過的にすることを目的としている。 多くのアプローチはポストホックな説明の生成に重点を置いているが、解釈可能なアプローチは本質的には予測と平行して説明を生成するが、比較的稀である。 本研究では,異なる部分集合サンプリング手法をグラフベースの視覚的質問応答システムに統合し,解釈可能な説明文を本質的に生成する上での有効性を比較する。 本稿では,GQAデータセット上での手法の評価を行い,解答可能性と解答精度のトレードオフを効果的に緩和するとともに,解答トークンと問答トークンの強い共起性を実現していることを示す。 さらに,Bradley-Terryモデルとの比較設定を用いて,生成したサブグラフの解釈可能性を評価するために,人間の評価を行い,回答と質問トークンの共起指標が人間の嗜好と強く相関していることを示す。 私たちのソースコードは公開されています。

関連論文リスト

• Intrinsic Subgraph Generation for Interpretable Graph based Visual Question Answering [27.193336817953142]
  グラフに基づく視覚質問応答(VQA)に対する解釈可能なアプローチを提案する。 本モデルは,問合せ処理中に本質的にサブグラフを生成するように設計されている。 生成した部分グラフを,グラフニューラルネットワークの確立したポストホックな説明可能性法と比較し,人的評価を行う。
  論文  参考訳（メタデータ） (2024-03-26T12:29:18Z)
• Causal Generative Explainers using Counterfactual Inference: A Case Study on the Morpho-MNIST Dataset [5.458813674116228]
  本稿では,視覚的特徴と因果的要因の影響を研究するために,生成的対実的推論手法を提案する。 我々は,OmnixAIオープンソースツールキットの視覚的説明手法を用いて,提案手法との比較を行った。 このことから,本手法は因果的データセットの解釈に極めて適していることが示唆された。
  論文  参考訳（メタデータ） (2024-01-21T04:07:48Z)
• Saliency Map Verbalization: Comparing Feature Importance Representations from Model-free and Instruction-based Methods [6.018950511093273]
  サージェンシマップは、重要な入力特徴を特定することによって、ニューラルネットワークの予測を説明することができる。 我々は,サリエンシマップを自然言語に翻訳する未調査課題を定式化する。 本研究では,従来の特徴強調表現と比較した2つの新手法(検索ベースおよび命令ベース言語化)を比較した。
  論文  参考訳（メタデータ） (2022-10-13T17:48:15Z)
• Measuring the Interpretability of Unsupervised Representations via Quantized Reverse Probing [97.70862116338554]
  本稿では,自己教師付き表現の解釈可能性の測定問題について検討する。 我々は、後者を、表現と手動でラベル付けされた概念の空間の間の相互情報を推定するものとして定式化する。 提案手法は,多人数の自己教師付き表現の評価に利用し,解釈可能性による評価を行う。
  論文  参考訳（メタデータ） (2022-09-07T16:18:50Z)
• Bayesian Graph Contrastive Learning [55.36652660268726]
  本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。 提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。 いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
  論文  参考訳（メタデータ） (2021-12-15T01:45:32Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• From Canonical Correlation Analysis to Self-supervised Graph Neural Networks [99.44881722969046]
  本稿では,グラフデータを用いた自己教師付き表現学習のための概念的単純かつ効果的なモデルを提案する。 古典的カノニカル相関解析にインスパイアされた,革新的な特徴レベルの目的を最適化する。 提案手法は、7つの公開グラフデータセット上で競合的に動作する。
  論文  参考訳（メタデータ） (2021-06-23T15:55:47Z)
• Visualizing Classifier Adjacency Relations: A Case Study in Speaker Verification and Voice Anti-Spoofing [72.4445825335561]
  任意のバイナリ分類器によって生成される検出スコアから2次元表現を導出する簡単な方法を提案する。 ランク相関に基づいて,任意のスコアを用いた分類器の視覚的比較を容易にする。 提案手法は完全に汎用的であり,任意の検出タスクに適用可能だが,自動話者検証と音声アンチスプーフィングシステムによるスコアを用いた手法を実証する。
  論文  参考訳（メタデータ） (2021-06-11T13:03:33Z)
• Have We Learned to Explain?: How Interpretability Methods Can Learn to Encode Predictions in their Interpretations [20.441578071446212]
  解釈を定量的に評価する手法としてEVAL-X、償却説明法としてREAL-Xを紹介します。 EVAL-Xは、予測が解釈にエンコードされたときに検出でき、定量的および放射線学者評価を通じてREAL-Xの利点を示す。
  論文  参考訳（メタデータ） (2021-03-02T17:42:33Z)
• Deep Co-Attention Network for Multi-View Subspace Learning [73.3450258002607]
  マルチビューサブスペース学習のための深層コアテンションネットワークを提案する。 共通情報と相補情報の両方を敵意で抽出することを目的としている。 特に、新しいクロス再構成損失を使用し、ラベル情報を利用して潜在表現の構築を誘導する。
  論文  参考訳（メタデータ） (2021-02-15T18:46:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。