論文の概要: Normalized Relevance Measure as a Unifying Framework to Explain Neural Network Latent Structures

• arxiv url: http://arxiv.org/abs/2606.00557v1
• Date: Sat, 30 May 2026 06:15:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-02 21:34:28.52116
• Title: Normalized Relevance Measure as a Unifying Framework to Explain Neural Network Latent Structures
• Title（参考訳）: ニューラルネットワーク潜在構造を示す統一フレームワークとしての正規化関連度測定
• Abstract要約: 本稿では,任意のアーキテクチャの層にまたがるニューロンの関連性に起因する,非正規化関連度尺度(NRM)フレームワークを提案する。 NRMフレームワークは、計算される基礎となる量を明示的に特定することで、既存の伝搬に基づく説明アルゴリズムを仮定する。 本稿では,VGG16ネットワークにおいて,複数層にまたがる協調関係解析により重要な情報フローを明らかにするコンピュータビジョンアプリケーションにおいて,このフレームワークの有用性を実証する。
• 参考スコア（独自算出の注目度）: 23.932427893302826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To understand how a neural network (NN) functions and makes predictions, it has become increasingly clear that analyzing only the input domain is insufficient -- one must also examine its internal inference mechanisms to capture the complete picture. To explain the internal inference mechanisms of such models, it is essential to analyze the importance of latent representations for a given task. In this paper, we propose the \emph{normalized relevance measure} (NRM) framework -- a novel general explanation procedure that attributes relevance to \emph{arbitrary sets of neurons across layers of arbitrary architectures}. In the NRM framework, relevance of selected neurons is explicitly defined as a normalized signed measure, constructed using simple operations -- marginalization and conditioning based on additive and multiplicative laws -- in analogy to the probability measures. The normalization property further guarantees comparability across layers. The NRM framework subsumes existing propagation-based explanation algorithms by explicitly identifying the underlying quantity being computed. We demonstrate the utility of the framework in computer vision applications, where joint relevance analysis across multiple layers reveals key information flows in VGG16 networks. Overall, the NRM framework provides a general, mathematically grounded approach to understanding how modern NNs propagate information, offering a versatile and broadly applicable foundation for explainable artificial intelligence.
• Abstract（参考訳）: 本稿では,ニューラルネットワーク (NN) がどのように機能し, 予測を行うかを理解するために, 入力領域のみの分析が不十分であることを明らかにするとともに, 全体像を捉えるための内部推論機構についても検討する必要がある。そのようなモデルの内部推論機構を説明するためには, 与えられたタスクに対する潜伏表現の重要性を分析することが不可欠である。この記事では, 任意のアーキテクチャの層にまたがって, ニューロンのemph{arbitrary set に関連性を示す新しい一般的な説明手順である \emph{normalized Relevance measure} (NRM) フレームワークを提案する。 NRMフレームワークでは、選択されたニューロンの関連性は、確率測度と類似して、単純な操作(加法および乗法則に基づく境界化と条件付け)を用いて構築された正規化符号測度として明確に定義されている。 正規化プロパティはレイヤ間の互換性をさらに保証します。 NRMフレームワークは、計算される基礎となる量を明示的に特定することで、既存の伝搬に基づく説明アルゴリズムを仮定する。 本稿では,VGG16ネットワークにおいて,複数層にまたがる協調関係解析により重要な情報フローを明らかにするコンピュータビジョンアプリケーションにおいて,このフレームワークの有用性を実証する。 全体として、NEMフレームワークは、現代のNNが情報をどのように伝播するかを理解するための一般的な数学的基盤のアプローチを提供し、説明可能な人工知能のための多目的で広く適用可能な基盤を提供する。

関連論文リスト

• Learning with Covariance Matrices: Principal Component Analysis Meets Learning with Graphs [94.85514873380572]
  本稿では,共分散ニューラルネットワーク(VNN)の理論的基礎について概説する。 グラフニューラルネットワーク(GNN)に関する既存の理論的貢献は、抽象グラフ表現を考察する。 このチュートリアルは、幅広い信号処理に影響を及ぼすVNNの数学的解析を通じて、様々な新しい理論的な洞察に焦点をあてる。
  論文  参考訳（メタデータ） (2026-09-09T17:28:46Z)
• Interpretable and Fair Generalized Additive Neural Networks via Multi-objective Learning [52.66717986145448]
  理解可能性と公正性は、信頼できる人工知能(AI)において最も強調される2つの次元の1つである 本稿では,ニューラルネットワーク(NN)に基づく自己解釈可能なモデルであるGAM(Generalized Additive Model)に焦点を当てる。
  論文  参考訳（メタデータ） (2026-09-05T07:29:42Z)
• Large Vision-Language Models Get Lost in Attention [51.851592109135716]
  本稿では,情報理論と幾何に基づく統合フレームワークを提案し,残差更新の幾何的およびエントロピー的性質を定量化する。 注意は再設定に焦点を当てたサブスペース言語演算子として機能し、FFNはセマンティックイノベーションを駆動するサブスペース言語演算子として機能します。
  論文  参考訳（メタデータ） (2026-05-07T04:45:52Z)
• Towards agent-based-model informed neural networks [0.5787117733071417]
  エージェントベースモデルの基本原理と整合したニューラルネットワークを設計するためのフレームワークを提案する。 複雑さの増加に関する3つのケーススタディにまたがって、このフレームワークを検証する。
  論文  参考訳（メタデータ） (2025-12-05T14:50:50Z)
• Concept-Based Mechanistic Interpretability Using Structured Knowledge Graphs [3.429783703166407]
  我々のフレームワークは、内部モデルコンポーネントを通して高レベルのセマンティック属性がどのように出現し、相互作用し、伝播するかを分析することによって、モデル行動のグローバルな分離を可能にします。 重要なイノベーションは、私たちがBAGELと名付けた視覚化プラットフォームです。 私たちのフレームワークはモデルに依存しないスケーラブルで、データセットバイアスの存在下でディープラーニングモデルがどのように一般化(あるいは失敗)するかを深く理解するのに役立ちます。
  論文  参考訳（メタデータ） (2025-07-08T09:30:20Z)
• Nonlinear classification of neural manifolds with contextual information [6.292933471495322]
  本稿では,入力空間における遅延方向を文脈情報に関連付ける理論フレームワークを提案する。 我々は、多様体幾何学と文脈相関に依存する文脈依存多様体容量の正確な公式を導出する。 我々のフレームワークの表現性の向上は、階層階層の初期段階のディープネットワークにおける表現再構成を捉えるが、以前は分析にはアクセスできない。
  論文  参考訳（メタデータ） (2024-05-10T23:37:31Z)
• Information Bottleneck Analysis of Deep Neural Networks via Lossy Compression [37.69303106863453]
  Information Bottleneck(IB)原則は、ディープニューラルネットワーク(DNN)のトレーニングプロセスを分析するための情報理論フレームワークを提供する。 本稿では,一般NNのICB解析を行うためのフレームワークを提案する。 また,MI力学の新たな特徴を明らかにするため,実規模に近いISB解析を行う。
  論文  参考訳（メタデータ） (2023-05-13T21:44:32Z)
• Rank Diminishing in Deep Neural Networks [71.03777954670323]
  ニューラルネットワークのランクは、層をまたがる情報を測定する。 これは機械学習の幅広い領域にまたがる重要な構造条件の例である。 しかし、ニューラルネットワークでは、低ランク構造を生み出す固有のメカニズムはあいまいで不明瞭である。
  論文  参考訳（メタデータ） (2022-06-13T12:03:32Z)
• Universal approximation property of invertible neural networks [76.95927093274392]
  Invertible Neural Network (INN) は、設計によって可逆性を持つニューラルネットワークアーキテクチャである。 その可逆性とヤコビアンのトラクタビリティのおかげで、IGNは確率的モデリング、生成的モデリング、表現的学習など、さまざまな機械学習応用がある。
  論文  参考訳（メタデータ） (2022-04-15T10:45:26Z)
• Interpretable part-whole hierarchies and conceptual-semantic relationships in neural networks [4.153804257347222]
  本稿では、視覚的手がかりから部分全体階層を表現できるフレームワークであるAgglomeratorについて述べる。 本研究では,SmallNORB,MNIST,FashionMNIST,CIFAR-10,CIFAR-100などの共通データセットを用いて評価を行った。
  論文  参考訳（メタデータ） (2022-03-07T10:56:13Z)
• Relating Graph Neural Networks to Structural Causal Models [17.276657786213015]
  因果関係は、興味のある変数とその力学関係に関する情報を伝達する構造因果モデル(SCM)によって記述することができる。 本稿では,GNNとSCMの新たな接続を確立する理論解析について述べる。 次に、GNNに基づく因果推論のための新しいモデルクラスを構築し、因果効果の同定に十分である。
  論文  参考訳（メタデータ） (2021-09-09T11:16:31Z)
• Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
  本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。 このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。 本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
  論文  参考訳（メタデータ） (2020-07-03T01:37:16Z)
• A Chain Graph Interpretation of Real-World Neural Networks [58.78692706974121]
  本稿では,NNを連鎖グラフ(CG)、フィードフォワードを近似推論手法として識別する別の解釈を提案する。 CG解釈は、確率的グラフィカルモデルのリッチな理論的枠組みの中で、各NNコンポーネントの性質を規定する。 我々は,CG解釈が様々なNN技術に対する新しい理論的支援と洞察を提供することを示す具体例を実例で示す。
  論文  参考訳（メタデータ） (2020-06-30T14:46:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。