論文の概要: Explain Yourself, Briefly! Self-Explaining Neural Networks with Concise Sufficient Reasons

• arxiv url: http://arxiv.org/abs/2502.03391v2
• Date: Fri, 14 Feb 2025 17:39:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-17 18:05:11.468888
• Title: Explain Yourself, Briefly! Self-Explaining Neural Networks with Concise Sufficient Reasons
• Title（参考訳）: 自己説明、簡単に! 簡潔な推論による自己説明型ニューラルネットワーク
• Authors: Shahaf Bassan, Ron Eliav, Shlomit Gur,
• Abstract要約: 出力の不可欠な部分として、予測の簡潔な理由を生成するためにモデルを訓練する。 以上の結果から,本フレームワークは,競合するポストホック法よりも,簡潔で忠実な部分集合をかなり効率的に生成することが示された。
• 参考スコア（独自算出の注目度）: 1.9458156037869137
• License:
• Abstract: *Minimal sufficient reasons* represent a prevalent form of explanation - the smallest subset of input features which, when held constant at their corresponding values, ensure that the prediction remains unchanged. Previous *post-hoc* methods attempt to obtain such explanations but face two main limitations: (1) Obtaining these subsets poses a computational challenge, leading most scalable methods to converge towards suboptimal, less meaningful subsets; (2) These methods heavily rely on sampling out-of-distribution input assignments, potentially resulting in counterintuitive behaviors. To tackle these limitations, we propose in this work a self-supervised training approach, which we term *sufficient subset training* (SST). Using SST, we train models to generate concise sufficient reasons for their predictions as an integral part of their output. Our results indicate that our framework produces succinct and faithful subsets substantially more efficiently than competing post-hoc methods, while maintaining comparable predictive performance.
• Abstract（参考訳）: 入力特徴の最小のサブセットは、対応する値に一定に保持された場合、予測が変わらないことを保証します。 従来の *post-hoc* メソッドは、そのような説明を得ようとするが、2つの主な制限に直面している: 1) これらのサブセットの取得は、最もスケーラブルなメソッドを最適で意味の少ないサブセットに収束させる、という、計算上の課題を生じさせる; (2) これらのメソッドは、アウト・オブ・ディストリビューション(out-of-distriion)な入力代入のサンプリングに大きく依存し、潜在的に非直感的な振る舞いをもたらす。 このような制約に対処するため,本稿では *sufficient subset training* (SST) と呼ぶ自己教師型トレーニングアプローチを提案する。 SSTを用いて、予測を出力の不可欠な部分として簡潔な理由を生成するモデルを訓練する。 以上の結果から,本フレームワークは,競合するポストホック手法よりも,簡潔で忠実なサブセットをかなり効率よく生成する一方で,同等の予測性能を維持していることがわかった。

関連論文リスト

• Sparse Prototype Network for Explainable Pedestrian Behavior Prediction [60.80524827122901]
  Sparse Prototype Network (SPN) は,歩行者の将来の行動,軌道,ポーズを同時に予測するための説明可能な手法である。 モノセマンティリティとクラスタリングの制約によって規則化されたプロトタイプは、一貫性と人間の理解可能な機能を学ぶ。
  論文  参考訳（メタデータ） (2024-10-16T03:33:40Z)
• Selective Explanations [14.312717332216073]
  機械学習モデルは、1つの推論だけで特徴属性スコアを予測するために訓練される。 その効率にもかかわらず、償却された説明者は不正確な予測や誤解を招く説明を生み出すことができる。 そこで本稿では,低品質な説明文を生成する際の特徴帰属手法である選択的説明文を提案する。
  論文  参考訳（メタデータ） (2024-05-29T23:08:31Z)
• Explaining Predictive Uncertainty by Exposing Second-Order Effects [13.83164409095901]
  本稿では,2次効果に基づく予測不確実性を説明する新しい手法を提案する。 提案手法は一般に適用可能であり,一般的な帰属手法を強力な二次不確実性説明器に変換することができる。
  論文  参考訳（メタデータ） (2024-01-30T21:02:21Z)
• Synergies between Disentanglement and Sparsity: Generalization and Identifiability in Multi-Task Learning [79.83792914684985]
  我々は,最大スパース基底予測器が不整合表現をもたらす条件を提供する新しい識別可能性の結果を証明した。 この理論的な結果から,両レベル最適化問題に基づくアンタングル表現学習の実践的アプローチを提案する。
  論文  参考訳（メタデータ） (2022-11-26T21:02:09Z)
• Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
  我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。 アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。 本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
  論文  参考訳（メタデータ） (2022-05-27T17:28:54Z)
• Rationales for Sequential Predictions [117.93025782838123]
  シーケンスモデルは現代のNLPシステムにおいて重要な要素であるが、それらの予測は説明が難しい。 モデル説明は有理だが、個々のモデル予測を説明できる文脈のサブセットを考える。 この目的を近似する効率的なグリードアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-09-14T01:25:15Z)
• When Stability meets Sufficiency: Informative Explanations that do not Overwhelm [15.897648942908747]
  入力の分類を正当化するためには、何が最小限に必要かを強調する特徴に基づく属性法を考える。 最小限の充足性は理解性に類似した魅力的な性質であるが、結果として生じる説明は、人間がモデルの局所的な振る舞いを理解して評価するには不十分であることが多い。 本稿では,与えられた入力に対して,安定かつ十分な説明のシーケンスを出力するPSEM(Path-Sufficient Explanations Method)を提案する。
  論文  参考訳（メタデータ） (2021-09-13T16:06:10Z)
• On Guaranteed Optimal Robust Explanations for NLP Models [16.358394218953833]
  我々は,マシーン学習のための推論に基づく説明を構築し,ニューラルネットワークモデルのための局所的説明を計算する方法を開発した。 我々は,それぞれ暗黙の打撃集合と最大普遍部分集合に基づく2つの解アルゴリズムを提案する。 SST、Twitter、IMDBデータセットから、広く使用されている3つの感情分析タスクと最大100ワードのテキストに基づいてフレームワークを評価します。
  論文  参考訳（メタデータ） (2021-05-08T08:44:48Z)
• The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
  機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。 そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T09:45:23Z)
• An Information Bottleneck Approach for Controlling Conciseness in Rationale Extraction [84.49035467829819]
  我々は,情報ボトルネック(IB)の目的を最適化することで,このトレードオフをよりよく管理できることを示す。 我々の完全教師なしのアプローチは、文上のスパース二項マスクを予測する説明器と、抽出された合理性のみを考慮したエンドタスク予測器を共同で学習する。
  論文  参考訳（メタデータ） (2020-05-01T23:26:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。