論文の概要: Factor Graph-based Interpretable Neural Networks

• arxiv url: http://arxiv.org/abs/2502.14572v1
• Date: Thu, 20 Feb 2025 13:56:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-21 14:29:02.361120
• Title: Factor Graph-based Interpretable Neural Networks
• Title（参考訳）: 因子グラフに基づく解釈型ニューラルネットワーク
• Authors: Yicong Li, Kuanjiu Zhou, Shuo Yu, Qiang Zhang, Renqiang Luo, Xiaodong Li, Feng Xia,
• Abstract要約: 本稿では,fActor GrAphに基づく解釈型ニューラルネットワークであるAGAINを提案する。 未知の摂動の下で理解可能な説明を生成することができる。
• 参考スコア（独自算出の注目度）: 15.642841753621921
• License:
• Abstract: Comprehensible neural network explanations are foundations for a better understanding of decisions, especially when the input data are infused with malicious perturbations. Existing solutions generally mitigate the impact of perturbations through adversarial training, yet they fail to generate comprehensible explanations under unknown perturbations. To address this challenge, we propose AGAIN, a fActor GrAph-based Interpretable neural Network, which is capable of generating comprehensible explanations under unknown perturbations. Instead of retraining like previous solutions, the proposed AGAIN directly integrates logical rules by which logical errors in explanations are identified and rectified during inference. Specifically, we construct the factor graph to express logical rules between explanations and categories. By treating logical rules as exogenous knowledge, AGAIN can identify incomprehensible explanations that violate real-world logic. Furthermore, we propose an interactive intervention switch strategy rectifying explanations based on the logical guidance from the factor graph without learning perturbations, which overcomes the inherent limitation of adversarial training-based methods in defending only against known perturbations. Additionally, we theoretically demonstrate the effectiveness of employing factor graph by proving that the comprehensibility of explanations is strongly correlated with factor graph. Extensive experiments are conducted on three datasets and experimental results illustrate the superior performance of AGAIN compared to state-of-the-art baselines.
• Abstract（参考訳）: 理解可能なニューラルネットワークの説明は、特に入力データが悪意のある摂動によって注入される場合、決定をよりよく理解するための基盤となる。 既存の解決策は、通常、敵の訓練を通じて摂動の影響を軽減するが、未知の摂動の下で理解可能な説明を生成できない。 この課題に対処するために,fActor GrAphをベースとした解釈型ニューラルネットワークであるAGAINを提案する。 提案したAGAINは、従来のソリューションのように再トレーニングする代わりに、推論中に論理的エラーを識別して修正する論理的ルールを直接統合する。 具体的には、説明とカテゴリ間の論理的規則を表現するための因子グラフを構築する。 論理規則を外生的な知識として扱うことで、AGAINは現実世界の論理に反する理解不能な説明を識別することができる。 さらに,摂動を学習せずに因子グラフから論理的ガイダンスに基づいて説明を補正する対話的介入スイッチ戦略を提案する。 さらに,説明の理解性が因子グラフと強く相関していることを証明することによって,因子グラフの利用の有効性を理論的に実証する。 3つのデータセットで大規模な実験を行い、実験結果は、最先端のベースラインと比較してAGAINの優れた性能を示している。

関連論文リスト

• SES: Bridging the Gap Between Explainability and Prediction of Graph Neural Networks [13.655670509818144]
  本稿では、説明可能性と予測のギャップを埋める自己説明型自己教師型グラフニューラルネットワーク(SES)を提案する。 SESは説明可能なトレーニングと予測学習の2つのプロセスから構成される。
  論文  参考訳（メタデータ） (2024-07-16T03:46:57Z)
• Missed Causes and Ambiguous Effects: Counterfactuals Pose Challenges for Interpreting Neural Networks [14.407025310553225]
  解釈可能性の研究は、当然のことながら因果関係の反事実理論を採っている。 反事実理論は、我々の発見を具体的かつ予測可能な方法でバイアスする問題を持っている。 本稿では,これらの課題が解釈可能性研究者に与える影響について論じる。
  論文  参考訳（メタデータ） (2024-07-05T17:53:03Z)
• Rethinking Dimensional Rationale in Graph Contrastive Learning from Causal Perspective [15.162584339143239]
  グラフコントラスト学習(Graph contrastive learning)は、グラフの様々な摂動から不変情報を捉えるのに優れた一般的な学習パラダイムである。 最近の研究は、グラフから構造的理性を探究することに集中し、不変情報の識別可能性を高める。 本稿では,学習可能な次元理性獲得ネットワークと冗長性低減制約を導入した,次元理性対応グラフコントラスト学習手法を提案する。
  論文  参考訳（メタデータ） (2023-12-16T10:05:18Z)
• Factorized Explainer for Graph Neural Networks [7.382632811417645]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習する能力によって、注目を集めている。 GNN予測を理解するために、ポストホックなインスタンスレベルの説明法が提案されている。 理論的性能保証を伴う新しい因子化説明モデルを提案する。
  論文  参考訳（メタデータ） (2023-12-09T15:29:45Z)
• Interpretable Imitation Learning with Dynamic Causal Relations [65.18456572421702]
  得られた知識を有向非巡回因果グラフの形で公開することを提案する。 また、この因果発見プロセスを状態依存的に設計し、潜在因果グラフのダイナミクスをモデル化する。 提案するフレームワークは,動的因果探索モジュール,因果符号化モジュール,予測モジュールの3つの部分から構成され,エンドツーエンドで訓練される。
  論文  参考訳（メタデータ） (2023-09-30T20:59:42Z)
• Logic-induced Diagnostic Reasoning for Semi-supervised Semantic Segmentation [85.12429517510311]
  LogicDiagは、セマンティックセグメンテーションのためのニューラルネットワークによる半教師付き学習フレームワークである。 私たちの重要な洞察は、記号的知識によって識別される擬似ラベル内の衝突は、強いが一般的に無視される学習信号として機能する、ということです。 本稿では,論理規則の集合として意味論的概念の構造的抽象化を定式化するデータ・ハングリーセグメンテーションシナリオにおけるLogicDiagの実践的応用について紹介する。
  論文  参考訳（メタデータ） (2023-08-24T06:50:07Z)
• Modeling Hierarchical Reasoning Chains by Linking Discourse Units and Key Phrases for Reading Comprehension [80.99865844249106]
  本稿では,論理的推論の基盤として,対話レベルと単語レベルの両方の文脈を扱う総合グラフネットワーク(HGN)を提案する。 具体的には、ノードレベルの関係とタイプレベルの関係は、推論過程におけるブリッジと解釈できるが、階層的な相互作用機構によってモデル化される。
  論文  参考訳（メタデータ） (2023-06-21T07:34:27Z)
• Towards Explanation for Unsupervised Graph-Level Representation Learning [108.31036962735911]
  既存の説明手法は,教師付き設定,例えばノード分類,グラフ分類に重点を置いているが,教師なしグラフレベルの表現学習に関する説明はまだ探索されていない。 本稿では,非教師付きグラフ表現における説明問題に対処するために,インフォメーション・ボトルネックの原則(IB)を推進し,新しい原理であるtextitUnsupervised Subgraph Information Bottleneck(USIB)を導出する。 また,グラフ表現とラベル空間上の説明部分グラフの関連性も理論的に解析し,表現の堅牢性が説明部分グラフの忠実性に寄与することを明らかにする。
  論文  参考訳（メタデータ） (2022-05-20T02:50:15Z)
• Neuro-Symbolic Inductive Logic Programming with Logical Neural Networks [65.23508422635862]
  我々は最近提案された論理ニューラルネットワーク(LNN)を用いた学習規則を提案する。 他のものと比較して、LNNは古典的なブール論理と強く結びついている。 標準ベンチマークタスクの実験では、LNNルールが極めて解釈可能であることを確認した。
  論文  参考訳（メタデータ） (2021-12-06T19:38:30Z)
• Everything Has a Cause: Leveraging Causal Inference in Legal Text Analysis [62.44432226563088]
  因果推論は変数間の因果関係を捉えるプロセスである。 本論文では,事実記述から因果グラフを構築するための新たなグラフベース因果推論フレームワークを提案する。 GCIに含まれる因果知識を強力なニューラルネットワークに効果的に注入することで、パフォーマンスと解釈性が向上します。
  論文  参考訳（メタデータ） (2021-04-19T16:13:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。