論文の概要: From Weight Perturbation to Feature Attribution for Explaining Fully Connected Neural Networks

• arxiv url: http://arxiv.org/abs/2605.15328v1
• Date: Thu, 14 May 2026 18:41:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 03:45:13.128891
• Title: From Weight Perturbation to Feature Attribution for Explaining Fully Connected Neural Networks
• Title（参考訳）: 完全連結ニューラルネットワークの重み摂動から特徴属性へ
• Authors: Thodoris Lymperopoulos, Denia Kanellopoulou,
• Abstract要約: そこで本稿では,特徴量の重み付けにより特徴量の属性を推定する手法を提案する。 この方法では、Added BiasやOut-of-DistributionデータといったOcclusionテクニックの一般的な制限を緩和することを目的とした、新たな視点を提供する。 私たちの研究は、これらの長年の脆弱性に対処する方法を舗装する堅牢なフレームワークを導入することで、Explainabilityの分野に寄与します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Fully Connected Neural Networks (FCNNs) are often regarded as simple and intuitive architectures, yet they serve as the foundation for more complex models. Nonetheless, the lack of consensus on their interpretability continues to pose challenges, underscoring the enduring relevance of simpler, attribution-based approaches for understanding even the most advanced neural architectures. In this regard, we explore a novel idea for estimating feature attribution, by applying perturbation to the features' attached weights instead of their values. This method offers a fresh perspective aimed at mitigating common limitations in Occlusion techniques, such as Added Bias and Out-of-Distribution data. The application of this rule leads to the formation of a pair of novel attribution methods we call XWP and XWP_c. Founded on simple rules, our methods achieve competitive performance in identifying image signals for simple DNNs, competing with the most established attribution methods on standard baseline metrics. Our work thus contributes to the field of Explainability by introducing a robust framework that paves the way for addressing these long-standing vulnerabilities, and leads to more reliable and interpretable model explanations.
• Abstract（参考訳）: 完全な接続ニューラルネットワーク(FCNN)は、しばしば単純で直感的なアーキテクチャとみなされるが、より複雑なモデルの基盤として機能する。 それでも、解釈可能性に関するコンセンサスの欠如は、最も先進的なニューラルネットワークを理解するための、より単純で帰属的なアプローチの持続的妥当性を強調し、課題を提起し続けている。 そこで本稿では,特徴量の重み付けに摂動を適用することで特徴量の属性を推定する新しいアイデアについて検討する。 この方法では、Added BiasやOut-of-DistributionデータといったOcclusionテクニックの一般的な制限を緩和することを目的とした、新たな視点を提供する。 この規則の適用により、XWP と XWP_c と呼ばれる新しい帰属法が形成される。 単純なルールに基づいて構築された本手法は,標準基準基準値上で最も確立された帰属法と競合する,単純なDNNのための画像信号の識別における競合性能を実現する。 私たちの研究は、これらの長年の脆弱性に対処する方法を舗装する堅牢なフレームワークを導入し、より信頼性と解釈可能なモデル説明をもたらすことで、説明可能性の分野に寄与します。

関連論文リスト

• Beyond the Black Box: Identifiable Interpretation and Control in Generative Models via Causal Minimality [52.57416398859353]
  因果的最小性は、明確な因果的解釈と頑健でコンポーネント単位で識別可能な制御を持つ拡散視覚と自己回帰言語モデルの潜在表現を許容できることを示す。 我々は階層的選択モデルのための新しい理論的枠組みを導入し、より高レベルな概念は低レベルの変数の制約された構成から生まれる。 これらの因果的基礎を持つ概念は、きめ細かいモデルステアリングのレバーとして機能し、透明で信頼性の高いシステムへの道を開く。
  論文  参考訳（メタデータ） (2025-12-11T14:59:14Z)
• Provenance Networks: End-to-End Exemplar-Based Explainability [0.0]
  私たちは、エンドツーエンドのトレーニングデータ駆動型説明可能性を提供するように設計された、新しいニューラルネットワークのクラスである、プロフェランスネットワークを紹介します。 確率ネットワークは、モデルの通常の操作の一部として、各予測を支援トレーニングの例に直接リンクすることを学ぶ。 これは、モデル不透明さ、幻覚、データコントリビュータへのクレジットの割り当てなど、現代のディープラーニングにおける重要な課題に対処する。
  論文  参考訳（メタデータ） (2025-10-03T01:48:38Z)
• Shortcuts and Identifiability in Concept-based Models from a Neuro-Symbolic Lens [16.834053030732548]
  概念ベースモデル(concept-based Model)は、入力を高レベルな概念にマッピングする概念抽出器と、これらを予測に変換する推論層を学習するニューラルネットワークである。 概念ベースモデルと推論ショートカット(RS)の新たな接続を確立することでこの問題を研究する。 実験の結果は、RSの影響を浮き彫りにし、既存の手法と複数の自然緩和戦略が組み合わさっても、実際にこれらの条件を満たせない場合が多いことを示している。
  論文  参考訳（メタデータ） (2025-02-16T19:45:09Z)
• Joint Diffusion Processes as an Inductive Bias in Sheaf Neural Networks [14.224234978509026]
  せん断ニューラルネットワーク(SNN)は自然にグラフニューラルネットワーク(GNN)を拡張する 構造図をより直感的に理解するための2つの新しいせん断学習手法を提案する。 評価では,これまでのSNNで使用されている実世界のベンチマークの限界を示す。
  論文  参考訳（メタデータ） (2024-07-30T07:17:46Z)
• Explaining Modern Gated-Linear RNNs via a Unified Implicit Attention Formulation [54.50526986788175]
  効率的なシーケンスモデリングの最近の進歩は、Mamba、RWKV、および様々なゲートRNNのような注意のないレイヤーを生み出している。 我々はこれらのモデルの統一的なビューを示し、暗黙の因果自己注意層のような層を定式化する。 筆者らのフレームワークは,異なるレイヤに対する類似の基盤となるメカニズムを比較検討し,説明可能性の手法を直接適用する手段を提供する。
  論文  参考訳（メタデータ） (2024-05-26T09:57:45Z)
• Contextualizing MLP-Mixers Spatiotemporally for Urban Data Forecast at Scale [54.15522908057831]
  本稿では,STTD予測を大規模に行うためのコンピュータ・ミクサーの適応版を提案する。 我々の結果は、この単純な効率の良いソリューションが、いくつかのトラフィックベンチマークでテストした場合、SOTAベースラインに匹敵する可能性があることを驚くほど示している。 本研究は, 実世界のSTTD予測において, 簡便な有効モデルの探索に寄与する。
  論文  参考訳（メタデータ） (2023-07-04T05:19:19Z)
• Interpretable part-whole hierarchies and conceptual-semantic relationships in neural networks [4.153804257347222]
  本稿では、視覚的手がかりから部分全体階層を表現できるフレームワークであるAgglomeratorについて述べる。 本研究では,SmallNORB,MNIST,FashionMNIST,CIFAR-10,CIFAR-100などの共通データセットを用いて評価を行った。
  論文  参考訳（メタデータ） (2022-03-07T10:56:13Z)
• Developing Constrained Neural Units Over Time [81.19349325749037]
  本稿では,既存のアプローチと異なるニューラルネットワークの定義方法に焦点をあてる。 ニューラルネットワークの構造は、データとの相互作用にも拡張される制約の特別なクラスによって定義される。 提案した理論は時間領域にキャストされ, データを順序づけられた方法でネットワークに提示する。
  論文  参考訳（メタデータ） (2020-09-01T09:07:25Z)
• Local Propagation in Constraint-based Neural Network [77.37829055999238]
  ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。 本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
  論文  参考訳（メタデータ） (2020-02-18T16:47:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。