論文の概要: Application of Sensitivity Analysis Methods for Studying Neural Network Models

• arxiv url: http://arxiv.org/abs/2504.15100v1
• Date: Mon, 21 Apr 2025 13:41:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-29 15:04:36.512221
• Title: Application of Sensitivity Analysis Methods for Studying Neural Network Models
• Title（参考訳）: ニューラルネットワークモデル研究における感度解析法の応用
• Authors: Jiaxuan Miao, Sergey Matveev,
• Abstract要約: 本研究では、入力データの摂動に対するニューラルネットワークの感度を解析するためのいくつかの手法の能力を実証する。 提案手法は,ソボル大域解析,画素摂動の局所感度法,アクティベーション技術などである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This study demonstrates the capabilities of several methods for analyzing the sensitivity of neural networks to perturbations of the input data and interpreting their underlying mechanisms. The investigated approaches include the Sobol global sensitivity analysis, the local sensitivity method for input pixel perturbations and the activation maximization technique. As examples, in this study we consider a small feedforward neural network for analyzing an open tabular dataset of clinical diabetes data, as well as two classical convolutional architectures, VGG-16 and ResNet-18, which are widely used in image processing and classification. Utilization of the global sensitivity analysis allows us to identify the leading input parameters of the chosen tiny neural network and reduce their number without significant loss of the accuracy. As far as global sensitivity analysis is not applicable to larger models we try the local sensitivity analysis and activation maximization method in application to the convolutional neural networks. These methods show interesting patterns for the convolutional models solving the image classification problem. All in all, we compare the results of the activation maximization method with popular Grad-CAM technique in the context of ultrasound data analysis.
• Abstract（参考訳）: 本研究では、入力データの摂動に対するニューラルネットワークの感度を分析し、その基盤となるメカニズムを解釈するいくつかの手法の能力を実証する。 本研究では,Sobol大域感度解析,入力画素摂動の局所感度法,アクティベーション最大化法について検討した。 本稿では,臨床糖尿病データのオープンな表層データセットを解析するための小さなフィードフォワードニューラルネットワークと,画像処理や分類に広く用いられている2つの古典的畳み込みアーキテクチャであるVGG-16とResNet-18について考察する。 グローバル感度分析を用いることで、選択した小さなニューラルネットワークの主入力パラメータを識別し、精度を著しく損なうことなくその数を削減できる。 グローバル感度解析は大規模モデルには適用できないため,畳み込みニューラルネットワークへの応用において,局所感度解析とアクティベーション最大化法を試行する。 これらの手法は画像分類問題を解く畳み込みモデルに興味深いパターンを示す。 総じて, 超音波データ解析の文脈において, アクティベーション最大化法と一般的なGrad-CAM法との比較を行った。

関連論文リスト

• Neural network interpretability with layer-wise relevance propagation: novel techniques for neuron selection and visualization [0.49478969093606673]
  本稿では,選択したニューロンのパーシングを改善する新しいアプローチを提案する。 Visual Geometry Group 16 (VGG16) アーキテクチャをケーススタディとして用いたLRP後方伝播 本手法は、コンピュータビジョンアプリケーションのための、より透明な人工知能(AI)システムの開発を支援する。
  論文  参考訳（メタデータ） (2024-12-07T15:49:14Z)
• Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
  本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。 我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。 本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
  論文  参考訳（メタデータ） (2024-03-18T18:01:01Z)
• Sensitivity-Aware Amortized Bayesian Inference [8.753065246797561]
  感度分析は、様々なモデリング選択が統計的分析の結果に与える影響を明らかにする。 ニューラルネットワークを用いたシミュレーションベース推論に感度解析を統合するための多面的アプローチである感性認識型ベイズ推論(SA-ABI)を提案する。 本稿では,本手法が病気発生のダイナミクスや地球温暖化のしきい値から人的意思決定に至るまで,応用モデリング問題における有効性を示す。
  論文  参考訳（メタデータ） (2023-10-17T10:14:10Z)
• Graph Neural Operators for Classification of Spatial Transcriptomics Data [1.408706290287121]
  マウス脳組織サンプルにおける脳領域の予測に対する神経オペレーターの適用の有効性を検証するために,様々なグラフニューラルネットワークアプローチを取り入れた研究を提案する。 グラフニューラルネットワークのアプローチでは,F1スコアが72%近く向上し,すべてのベースラインやグラフネットワークのアプローチを上回った。
  論文  参考訳（メタデータ） (2023-02-01T18:32:06Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• Learning Neural Causal Models with Active Interventions [83.44636110899742]
  本稿では,データ生成プロセスの根底にある因果構造を素早く識別する能動的介入ターゲット機構を提案する。 本手法は,ランダムな介入ターゲティングと比較して,要求される対話回数を大幅に削減する。 シミュレーションデータから実世界のデータまで,複数のベンチマークにおいて優れた性能を示す。
  論文  参考訳（メタデータ） (2021-09-06T13:10:37Z)
• Topological obstructions in neural networks learning [67.8848058842671]
  損失勾配関数フローのグローバル特性について検討する。 損失関数とそのモースコンプレックスの位相データ解析を用いて,損失面の大域的特性と勾配軌道に沿った局所的挙動を関連付ける。
  論文  参考訳（メタデータ） (2020-12-31T18:53:25Z)
• Estimation of the Mean Function of Functional Data via Deep Neural Networks [6.230751621285321]
  関数データに対して非パラメトリック回帰を行うディープニューラルネットワーク手法を提案する。 本手法は,アルツハイマー病患者における陽電子放出トモグラフィ画像の解析に用いる。
  論文  参考訳（メタデータ） (2020-12-08T17:18:16Z)
• An Uncertainty-Driven GCN Refinement Strategy for Organ Segmentation [53.425900196763756]
  本研究では,不確実性解析とグラフ畳み込みネットワークに基づくセグメンテーション改善手法を提案する。 半教師付きグラフ学習問題を定式化するために、特定の入力ボリュームにおける畳み込みネットワークの不確実性レベルを用いる。 本手法は膵臓で1%,脾臓で2%向上し,最先端のCRF改善法よりも優れていた。
  論文  参考訳（メタデータ） (2020-12-06T18:55:07Z)
• Deep Representational Similarity Learning for analyzing neural signatures in task-based fMRI dataset [81.02949933048332]
  本稿では、表現類似度分析(RSA)の深部拡張であるDRSL(Deep Representational similarity Learning)を開発する。 DRSLは、多数の被験者を持つfMRIデータセットにおける様々な認知タスク間の類似性を分析するのに適している。
  論文  参考訳（メタデータ） (2020-09-28T18:30:14Z)
• Comparison of Convolutional neural network training parameters for detecting Alzheimers disease and effect on visualization [0.0]
  畳み込みニューラルネットワーク(CNN)は、画像データのパターンを検出する強力なツールとなっている。 これまでMRIデータのCNNモデルから得られた精度にもかかわらず、この精度を駆動する特徴や画像領域に関する情報を提供する論文はほとんどなかった。
  論文  参考訳（メタデータ） (2020-08-18T15:21:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。