Fugu-MT 論文翻訳(概要): Towards Fully Interpretable Deep Neural Networks: Are We There Yet?

論文の概要: Towards Fully Interpretable Deep Neural Networks: Are We There Yet?

arxiv url: http://arxiv.org/abs/2106.13164v1
Date: Thu, 24 Jun 2021 16:37:34 GMT
ステータス: 処理完了
システム内更新日: 2021-06-25 15:14:58.986271
Title: Towards Fully Interpretable Deep Neural Networks: Are We There Yet?
Title（参考訳）: 完全な解釈可能なディープニューラルネットワークに向けて:まだあるか?
Authors: Sandareka Wickramanayake, Wynne Hsu, Mong Li Lee
Abstract要約: Deep Neural Networks(DNN)は、人工知能(AI)システムに対するユーザの信頼を妨げるブラックボックスとして振る舞う。本報告では,本質的な解釈可能性を持つDNNの開発手法について概説する。
参考スコア（独自算出の注目度）: 17.88784870849724
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Despite the remarkable performance, Deep Neural Networks (DNNs) behave as black-boxes hindering user trust in Artificial Intelligence (AI) systems. Research on opening black-box DNN can be broadly categorized into post-hoc methods and inherently interpretable DNNs. While many surveys have been conducted on post-hoc interpretation methods, little effort is devoted to inherently interpretable DNNs. This paper provides a review of existing methods to develop DNNs with intrinsic interpretability, with a focus on Convolutional Neural Networks (CNNs). The aim is to understand the current progress towards fully interpretable DNNs that can cater to different interpretation requirements. Finally, we identify gaps in current work and suggest potential research directions.
Abstract（参考訳）: 優れたパフォーマンスにもかかわらず、Deep Neural Networks(DNN)は、人工知能(AI)システムに対するユーザの信頼を妨げるブラックボックスとして振る舞う。ブラックボックスDNNのオープンに関する研究は、ポストホック法と本質的に解釈可能なDNNに大きく分類することができる。ポストホックな解釈法に関する多くの調査が行われてきたが、本質的に解釈可能なdnnへの取り組みは少ない。本稿では,畳み込みニューラルネットワーク(CNN)に着目し,本質的な解釈可能性を持つDNNの開発手法について述べる。目的は、異なる解釈要求を満たすことができる完全に解釈可能なDNNへの現在の進歩を理解することである。最後に、現在の作業のギャップを特定し、潜在的研究方向性を提案する。

関連論文リスト

Extracting Explanations, Justification, and Uncertainty from Black-Box Deep Neural Networks [0.0]
本稿では,Deep Neural Networks から説明,正当化,不確実性推定を抽出する新しいベイズ的手法を提案する。我々の手法はメモリと計算の両面で効率的であり、再トレーニングなしにどんなブラックボックスDNNにも適用できる。
論文参考訳（メタデータ） (2024-03-13T16:06:26Z)
Uncovering the Representation of Spiking Neural Networks Trained with Surrogate Gradient [11.0542573074431]
スパイキングニューラルネットワーク (SNN) は、その生物の楽観性とエネルギー効率のため、次世代ニューラルネットワークの候補として認識されている。近年、SNNは、代理勾配トレーニングを用いて、画像認識タスクにおいて、ほぼ最先端のパフォーマンスを達成できることを示した。
論文参考訳（メタデータ） (2023-04-25T19:08:29Z)
Trustworthy Graph Neural Networks: Aspects, Methods and Trends [115.84291569988748]
グラフニューラルネットワーク(GNN)は,さまざまな実世界のシナリオに対して,有能なグラフ学習手法として登場した。パフォーマンス指向のGNNは、敵の攻撃に対する脆弱性のような潜在的な副作用を示す。こうした意図しない害を避けるためには、信頼度に特徴付けられる有能なGNNを構築する必要がある。
論文参考訳（メタデータ） (2022-05-16T02:21:09Z)
A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy, Robustness, Fairness, and Explainability [59.80140875337769]
グラフニューラルネットワーク(GNN)は近年,急速な発展を遂げている。 GNNは個人情報をリークしたり、敵対的攻撃に弱いり、トレーニングデータから社会的バイアスを継承したり、拡大したりすることができる。本稿では、プライバシー、堅牢性、公正性、説明可能性の計算面におけるGNNの包括的調査を行う。
論文参考訳（メタデータ） (2022-04-18T21:41:07Z)
Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks [55.531896312724555]
ベイジアンネットワーク(BNN)は、ランダム性を組み込むことで、敵の攻撃を扱うのに頑丈で適している。我々はベイズ的推論(つまり変分ベイズ)をDenseNetアーキテクチャに融合させることで、BNN-DenseNetと呼ばれるBNNモデルを作成する。逆向きに訓練されたBNNは、ほとんどの実験で非ベイズ的で逆向きに訓練されたBNNよりも優れています。
論文参考訳（メタデータ） (2021-11-16T16:14:44Z)
Explaining Bayesian Neural Networks [11.296451806040796]
XAIは、意思決定においてDeep Neural Networks(DNN)のような高度な学習マシンをより透過的にすることを目指している。これまでのところ、BNNには、以前の重量分布を通じて、限定的な透明性(モデル透明性)が組み込まれています。本稿では,この2つの透明性の観点を,BNNを説明するための全体論的な説明フレームワークにまとめる。
論文参考訳（メタデータ） (2021-08-23T18:09:41Z)
S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文参考訳（メタデータ） (2021-02-17T18:59:28Z)
Deep Neural Networks Are Congestion Games: From Loss Landscape to Wardrop Equilibrium and Beyond [12.622643370707328]
我々の研究は、ディープニューラルネットワーク(DNN)を解析するための非常に有望な新しいツールを提供する、と我々は主張する。前者を分析する際に、後者から利用できる古典的な結果の恩恵を受ける方法を示す。
論文参考訳（メタデータ） (2020-10-21T14:11:40Z)
Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
論文参考訳（メタデータ） (2020-06-30T14:56:05Z)
Architecture Disentanglement for Deep Neural Networks [174.16176919145377]
ディープニューラルネットワーク(DNN)の内部動作を説明するために,ニューラルアーキテクチャ・ディコンタングルメント(NAD)を導入する。 NADは、訓練済みのDNNを独立したタスクに従ってサブアーキテクチャに切り離すことを学び、推論プロセスを記述する情報フローを形成する。その結果、誤分類された画像は、タスクサブアーキテクチャーに正しいサブアーキテクチャーに割り当てられる確率が高いことが示された。
論文参考訳（メタデータ） (2020-03-30T08:34:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。