論文の概要: The Neural Echo: A Signal Processing Perspective for Understanding Neural Networks
- arxiv url: http://arxiv.org/abs/2608.04864v1
- Date: Wed, 05 Aug 2026 13:57:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.947392
- Title: The Neural Echo: A Signal Processing Perspective for Understanding Neural Networks
- Title(参考訳): ニューラルエコー:ニューラルネットワークを理解するための信号処理の視点
- Authors: Chongbiao Wang, Daniel Gaa, Joachim Weickert, Karl Schrader,
- Abstract要約: ニューラルネットワークの動作を理解するツールとして,ニューラルエコーを導入する。
モデルに基づくインパルス応答、拡散エコー、フィルタエコーの概念を学習ベースの手法に一般化する。
ローカルで空間適応的なインパルス応答とニューラルネットワークのためのフィルタカーネル、いわゆるエコーを提供する。
- 参考スコア(独自算出の注目度): 3.534869097377701
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We introduce the neural echo as a tool for understanding the behavior of neural networks. It generalizes the model-based concepts of impulse responses, diffusion echoes, and filter echoes to learning-based methods. It provides local, space-adaptive impulse responses and filter kernels for a neural network, its so-called echoes. These echoes depend on the input image and can be visualized to understand the learned dynamics of the network via an affine mapping. Neural echoes build a bridge from classical signal processing to modern explainable AI. They are very general and can be applied to both image-to-image and classification networks, with convolutional or fully connected structure, of feedforward or recurrent type, including modern transformer networks. Network differentiability is not required. In the differentiable case, neural echoes comprise concepts based on the network Jacobian, such as saliency maps and the analysis of adversarial perturbations, as special instances. As a simple blueprint to explain our framework, we derive neural echoes for the denoising convolutional neural network (DnCNN). Our experiments suggest that this network weights pixels based on their spatial and gray value distances. This not only clarifies its behavior, but also shows that it can reproduce key concepts of classical model-based denoisers such as bilateral filtering.
- Abstract(参考訳): ニューラルネットワークの動作を理解するツールとして,ニューラルエコーを導入する。
モデルに基づくインパルス応答、拡散エコー、フィルタエコーの概念を学習ベースの手法に一般化する。
ローカルで空間適応的なインパルス応答とニューラルネットワークのためのフィルタカーネル、いわゆるエコーを提供する。
これらのエコーは入力画像に依存し、アフィンマッピングを通してネットワークの学習力学を理解するために可視化することができる。
ニューラルエコーは、古典的な信号処理から現代的な説明可能なAIへのブリッジを構築する。
これらは非常に一般的なものであり、最新のトランスフォーマーネットワークを含むフィードフォワード型やリカレント型の畳み込み構造を持つイメージ・ツー・イメージネットワークと分類ネットワークの両方に適用することができる。
ネットワークの差別化は必要ない。
微分可能の場合、ニューラルエコーは、サリエンシマップ(英語版)のようなネットワークジャコビアンに基づく概念と、特別な例として対向摂動の解析から構成される。
我々のフレームワークを説明するための単純な青写真として、進化的畳み込みニューラルネットワーク(DnCNN)のためのニューラルエコーを導出する。
実験の結果,このネットワークは空間的および灰色の値距離に基づいて画素を重み付けすることがわかった。
これはその振舞いを解明するだけでなく、二元フィルタリングのような古典的モデルに基づくデノイザーの鍵となる概念を再現できることも示している。
関連論文リスト
- Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。
神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。
私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
論文 参考訳(メタデータ) (2025-05-16T13:49:43Z) - Unsupervised representation learning with Hebbian synaptic and structural plasticity in brain-like feedforward neural networks [0.0]
教師なし表現学習が可能な脳様ニューラルネットワークモデルを導入,評価する。
このモデルは、一般的な機械学習ベンチマークのさまざまなセットでテストされた。
論文 参考訳(メタデータ) (2024-06-07T08:32:30Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳(メタデータ) (2024-03-18T18:01:01Z) - Closed-Form Interpretation of Neural Network Classifiers with Symbolic Gradients [0.7832189413179361]
人工ニューラルネットワークにおいて、任意の単一ニューロンのクローズドフォーム解釈を見つけるための統一的なフレームワークを紹介します。
ニューラルネットワーク分類器を解釈して、決定境界に符号化された概念のクローズドフォーム表現を明らかにする。
論文 参考訳(メタデータ) (2024-01-10T07:47:42Z) - Gaussian Process Surrogate Models for Neural Networks [6.8304779077042515]
科学と工学において、モデリング(英: modeling)とは、内部プロセスが不透明な複雑なシステムを理解するために用いられる方法論である。
本稿では,ガウス過程を用いたニューラルネットワークの代理モデルのクラスを構築する。
提案手法は,ニューラルネットワークのスペクトルバイアスに関連する既存の現象を捕捉し,サロゲートモデルを用いて現実的な問題を解決することを実証する。
論文 参考訳(メタデータ) (2022-08-11T20:17:02Z) - How and what to learn:The modes of machine learning [7.085027463060304]
本稿では, 重み経路解析(WPA)と呼ばれる新しい手法を提案し, 多層ニューラルネットワークのメカニズムについて検討する。
WPAは、ニューラルネットワークが情報を「ホログラフィック」な方法で保存し、活用していることを示し、ネットワークはすべてのトレーニングサンプルをコヒーレントな構造にエンコードする。
隠れた層状ニューロンは学習過程の後半で異なるクラスに自己組織化することが判明した。
論文 参考訳(メタデータ) (2022-02-28T14:39:06Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。