論文の概要: Post-hoc Self-explanation of CNNs

• arxiv url: http://arxiv.org/abs/2603.28466v1
• Date: Mon, 30 Mar 2026 14:05:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.434279
• Title: Post-hoc Self-explanation of CNNs
• Title（参考訳）: CNNのポストホック自己説明
• Authors: Ahcène Boubekki, Line H. Clemmensen,
• Abstract要約: この研究は、畳み込みニューラルネットワークのための$k$-meansベースのポストホック説明の共通形式を導入している。 最後の3ブロックのような、より浅い、より圧縮されていない機能アクティベーションを使用することで、セマンティックな忠実さと予測性能のわずかに低下するトレードオフが生じる。
• 参考スコア（独自算出の注目度）: 7.186338158934004
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Although standard Convolutional Neural Networks (CNNs) can be mathematically reinterpreted as Self-Explainable Models (SEMs), their built-in prototypes do not on their own accurately represent the data. Replacing the final linear layer with a $k$-means-based classifier addresses this limitation without compromising performance. This work introduces a common formalization of $k$-means-based post-hoc explanations for the classifier, the encoder's final output (B4), and combinations of intermediate feature activations. The latter approach leverages the spatial consistency of convolutional receptive fields to generate concept-based explanation maps, which are supported by gradient-free feature attribution maps. Empirical evaluation with a ResNet34 shows that using shallower, less compressed feature activations, such as those from the last three blocks (B234), results in a trade-off between semantic fidelity and a slight reduction in predictive performance.
• Abstract（参考訳）: 標準的な畳み込みニューラルネットワーク(CNN)は、数学的にSEM(Self-Explainable Models)と解釈できるが、組み込まれたプロトタイプは、正確にデータを表現していない。 最後の線形層を$k$-meansベースの分類器で置き換えると、性能を損なうことなくこの制限に対処する。 この研究は、分類器の$k$-meansに基づくポストホックな説明、エンコーダの最終出力(B4)、中間機能アクティベーションの組み合わせの共通形式化を導入する。 後者のアプローチは、畳み込み受容場の空間的一貫性を利用して、勾配のない特徴属性写像によって支持される概念に基づく説明写像を生成する。 ResNet34による実証的な評価は、最後の3ブロック(B234)のような浅く、圧縮されていない特徴アクティベーションを使用することで、セマンティックな忠実さと予測性能のわずかに低下することを示している。

関連論文リスト

• Learning a Generative Meta-Model of LLM Activations [75.30161960337892]
  ネットワークの内部状態の分布を学習する"メタモデル"を作成します。 ステアリング介入前に学んだメタモデルを適用することで、損失が減少するにつれて、流速が向上する。 これらの結果は、生成的メタモデルが制限的な構造的仮定を伴わずに、解釈可能性へのスケーラブルな経路を提供することを示唆している。
  論文  参考訳（メタデータ） (2026-02-06T18:59:56Z)
• Features Emerge as Discrete States: The First Application of SAEs to 3D Representations [5.751184796461698]
  スパースオートエンコーダ(SAE)は、ニューラルネットワークのアクティベーションを分解する強力な辞書学習技術である。 53k3Dモデルに適用した最先端3D再構成VAEの特徴を解析し,SAEの3D領域への最初の応用について述べる。
  論文  参考訳（メタデータ） (2025-12-12T03:54:45Z)
• Improving Local Fidelity Through Sampling and Modeling Nonlinearity [3.7080015862513847]
  Local Interpretable Model-Agnostic Explanation (LIME) は、局所的な決定境界が線形であり、非線形の関係を捉えることができないと仮定する。 本稿では,高忠実度な説明を生成できる新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-12-05T09:26:18Z)
• Learning local discrete features in explainable-by-design convolutional neural networks [0.0]
  本稿では,側方抑制機構に基づくCNN(Design-by-Design Convolutional Neural Network)を提案する。 このモデルは、残留または高密度のスキップ接続を持つ高精度CNNである予測器で構成されている。 観測を収集し,直接確率を計算することにより,隣接するレベルのモチーフ間の因果関係を説明することができる。
  論文  参考訳（メタデータ） (2024-10-31T18:39:41Z)
• Improving Neural Additive Models with Bayesian Principles [54.29602161803093]
  ニューラル加算モデル(NAM)は、個別の加算サブネットワークでキャリブレーションされた入力特徴を扱うことにより、ディープニューラルネットワークの透明性を高める。 本研究では,Laplace-approximated NAM (LA-NAMs) を開発した。
  論文  参考訳（メタデータ） (2023-05-26T13:19:15Z)
• Understanding Imbalanced Semantic Segmentation Through Neural Collapse [81.89121711426951]
  セマンティックセグメンテーションは自然に文脈的相関とクラス間の不均衡分布をもたらすことを示す。 機能中心にレギュレータを導入し、ネットワークが魅力ある構造に近い機能を学ぶことを奨励する。 我々の手法は、ScanNet200テストリーダーボードで1位にランクインし、新しい記録を樹立する。
  論文  参考訳（メタデータ） (2023-01-03T13:51:51Z)
• Stochastic Deep Networks with Linear Competing Units for Model-Agnostic Meta-Learning [4.97235247328373]
  本研究は,LWTA(Local winner-takes-all)アクティベーションを伴うディープネットワークを考慮したメタラーニング(ML)に対処する。 このタイプのネットワークユニットは、ユニットが1つのユニットだけがゼロでない出力を生成するブロックに編成されるため、各モデルレイヤからスパース表現が生成される。 提案手法は,数ショット画像の分類と回帰実験における最先端の予測精度と,アクティブな学習環境における予測誤差の低減を実現する。
  論文  参考訳（メタデータ） (2022-08-02T16:19:54Z)
• Optimising for Interpretability: Convolutional Dynamic Alignment Networks [108.83345790813445]
  我々は、畳み込み動的アライメントネットワーク(CoDA Nets)と呼ばれる新しいニューラルネットワークモデルを紹介する。 彼らの中核となるビルディングブロックは動的アライメントユニット(DAU)であり、タスク関連パターンに合わせて動的に計算された重みベクトルで入力を変換するように最適化されている。 CoDAネットは一連の入力依存線形変換を通じて分類予測をモデル化し、出力を個々の入力コントリビューションに線形分解することができる。
  論文  参考訳（メタデータ） (2021-09-27T12:39:46Z)
• Interpreting Graph Neural Networks for NLP With Differentiable Edge Masking [63.49779304362376]
  グラフニューラルネットワーク(GNN)は、構造的帰納バイアスをNLPモデルに統合する一般的なアプローチとなっている。 本稿では,不要なエッジを識別するGNNの予測を解釈するポストホック手法を提案する。 モデルの性能を劣化させることなく,多数のエッジを落とせることを示す。
  論文  参考訳（メタデータ） (2020-10-01T17:51:19Z)
• Gradient Origin Networks [8.952627620898074]
  本稿では,エンコーダを使わずに潜在表現を素早く学習できる新しい生成モデルを提案する。 実験により,提案手法は自己エンコーダよりも高速に収束し,パラメータの半分を必要としながら再構成誤差が著しく低いことがわかった。
  論文  参考訳（メタデータ） (2020-07-06T15:00:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。