論文の概要: NeuCEPT: Locally Discover Neural Networks' Mechanism via Critical
Neurons Identification with Precision Guarantee
- arxiv url: http://arxiv.org/abs/2209.08448v1
- Date: Sun, 18 Sep 2022 02:22:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-20 18:54:40.932021
- Title: NeuCEPT: Locally Discover Neural Networks' Mechanism via Critical
Neurons Identification with Precision Guarantee
- Title(参考訳): NeuCEPT: 精度保証付き臨界ニューロン同定によるニューラルネットワークのメカニズムの局所的発見
- Authors: Minh N. Vu, Truc D. Nguyen, My T. Thai
- Abstract要約: 我々は,モデル予測において重要な役割を果たす重要なニューロンを局所的に発見する手法であるNeuCEPTを提案する。
実験の結果,NeuCEPTで同定されたニューロンは,モデルの予測に強い影響を及ぼすことが示された。
- 参考スコア(独自算出の注目度): 23.216762728356798
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Despite recent studies on understanding deep neural networks (DNNs), there
exists numerous questions on how DNNs generate their predictions. Especially,
given similar predictions on different input samples, are the underlying
mechanisms generating those predictions the same? In this work, we propose
NeuCEPT, a method to locally discover critical neurons that play a major role
in the model's predictions and identify model's mechanisms in generating those
predictions. We first formulate a critical neurons identification problem as
maximizing a sequence of mutual-information objectives and provide a
theoretical framework to efficiently solve for critical neurons while keeping
the precision under control. NeuCEPT next heuristically learns different
model's mechanisms in an unsupervised manner. Our experimental results show
that neurons identified by NeuCEPT not only have strong influence on the
model's predictions but also hold meaningful information about model's
mechanisms.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)の理解に関する最近の研究にもかかわらず、DNNが予測をどのように生成するかには多くの疑問がある。
特に、異なる入力サンプル上での同様の予測を考えると、その予測を生成するメカニズムは同じだろうか?
本研究では,モデル予測において重要な役割を担う重要なニューロンを局所的に発見し,モデルが生成するメカニズムを同定する手法であるNeuCEPTを提案する。
まず, 臨界ニューロンの同定問題を, 相互情報量の列の最大化として定式化し, 精度を制御下に保ちながら, 臨界ニューロンを効率的に解ける理論的枠組みを提供する。
NeuCEPTは次に、教師なしの方法で異なるモデルのメカニズムをヒューリスティックに学習する。
実験の結果,NeuCEPTで同定されたニューロンはモデル予測に強い影響を与えるだけでなく,モデル機構に関する有意義な情報も保持できることがわかった。
関連論文リスト
- Interpreting Arithmetic Mechanism in Large Language Models through Comparative Neuron Analysis [19.472889262384818]
演算能力は限られた数の注目ヘッド内に存在し、それぞれ異なる操作を専門とする。
本稿では,入力から予測までの4段階からなる内部論理チェーンを同定する,比較ニューロン解析(CNA)手法を提案する。
論文 参考訳(メタデータ) (2024-09-21T13:46:54Z) - CogDPM: Diffusion Probabilistic Models via Cognitive Predictive Coding [62.075029712357]
本研究は認知拡散確率モデル(CogDPM)を紹介する。
CogDPMは拡散モデルの階層的サンプリング能力に基づく精度推定法と拡散モデル固有の性質から推定される精度重み付きガイダンスを備える。
我々は,Universal Kindomの降水量と表面風速データセットを用いた実世界の予測タスクにCogDPMを適用した。
論文 参考訳(メタデータ) (2024-05-03T15:54:50Z) - A Spectral Theory of Neural Prediction and Alignment [8.65717258105897]
我々は、回帰からモデルと対象のスペクトル特性への一般化誤差を関連づける最近の理論的枠組みを用いる。
我々は、視覚的皮質活動を予測するディープニューラルネットワークを多数テストし、回帰によって測定された低ニューラルネットワーク予測誤差をもたらす複数のタイプのジオメトリーが存在することを示す。
論文 参考訳(メタデータ) (2023-09-22T12:24:06Z) - NCTV: Neural Clamping Toolkit and Visualization for Neural Network
Calibration [66.22668336495175]
ニューラルネットワークのキャリブレーションに対する考慮の欠如は、人間から信頼を得ることはないだろう。
我々はNeural Clamping Toolkitを紹介した。これは開発者が最先端のモデルに依存しないキャリブレーションモデルを採用するのを支援するために設計された最初のオープンソースフレームワークである。
論文 参考訳(メタデータ) (2022-11-29T15:03:05Z) - EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。
メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文 参考訳(メタデータ) (2022-02-21T18:59:03Z) - The Causal Neural Connection: Expressiveness, Learnability, and
Inference [125.57815987218756]
構造因果モデル (Structuor causal model, SCM) と呼ばれるオブジェクトは、調査中のシステムのランダムな変動のメカニズムと源の集合を表す。
本稿では, 因果的階層定理 (Thm. 1, Bareinboim et al., 2020) がまだニューラルモデルに対して成り立っていることを示す。
我々はニューラル因果モデル(NCM)と呼ばれる特殊なタイプのSCMを導入し、因果推論に必要な構造的制約をエンコードする新しいタイプの帰納バイアスを定式化する。
論文 参考訳(メタデータ) (2021-07-02T01:55:18Z) - The Neural Coding Framework for Learning Generative Models [91.0357317238509]
本稿では,脳の予測処理理論に触発された新しい神経生成モデルを提案する。
同様に、私たちの生成モデルにおける人工ニューロンは、隣接するニューロンが何をするかを予測し、予測が現実にどの程度一致するかに基づいてパラメータを調整します。
論文 参考訳(メタデータ) (2020-12-07T01:20:38Z) - Neuro-symbolic Neurodegenerative Disease Modeling as Probabilistic
Programmed Deep Kernels [93.58854458951431]
本稿では、神経変性疾患のパーソナライズされた予測モデリングのための、確率的プログラムによる深層カーネル学習手法を提案する。
我々の分析は、ニューラルネットワークとシンボリック機械学習のアプローチのスペクトルを考慮する。
我々は、アルツハイマー病の予測問題について評価を行い、深層学習を超越した結果を得た。
論文 参考訳(メタデータ) (2020-09-16T15:16:03Z) - Bayesian Neural Networks [0.0]
ニューラルネットワークによる予測におけるエラーを原理的に得る方法を示し、これらのエラーを特徴付ける2つの方法を提案する。
さらに、これらの2つのメソッドが実際に実施される際に、重大な落とし穴を持つ方法についても説明します。
論文 参考訳(メタデータ) (2020-06-02T09:43:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。