論文の概要: Explainability Tools Enabling Deep Learning in Future In-Situ Real-Time
Planetary Explorations
- arxiv url: http://arxiv.org/abs/2201.05775v1
- Date: Sat, 15 Jan 2022 07:10:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-22 12:50:08.237803
- Title: Explainability Tools Enabling Deep Learning in Future In-Situ Real-Time
Planetary Explorations
- Title（参考訳）: 将来のリアルタイム惑星探査における深層学習を実現する説明可能性ツール
- Authors: Daniel Lundstrom, Alexander Huyen, Arya Mevada, Kyongsik Yun, Thomas
Lu
- Abstract要約: ディープラーニング(DL)は、効果的な機械学習とコンピュータビジョン技術であることが証明されている。
ディープニューラルネットワーク(DNN)アーキテクチャのほとんどは複雑すぎて'ブラックボックス'と見なされている。
本稿では,各ニューロンの出力クラスへの属性を記述するために,積分勾配を用いた。
DNNのブラックボックスを開くための説明可能性ツールセット(ET)を提供するので、分類へのニューロンの個々の貢献をランク付けし視覚化することができる。
- 参考スコア（独自算出の注目度）: 58.720142291102135
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning (DL) has proven to be an effective machine learning and
computer vision technique. DL-based image segmentation, object recognition and
classification will aid many in-situ Mars rover tasks such as path planning and
artifact recognition/extraction. However, most of the Deep Neural Network (DNN)
architectures are so complex that they are considered a 'black box'. In this
paper, we used integrated gradients to describe the attributions of each neuron
to the output classes. It provides a set of explainability tools (ET) that
opens the black box of a DNN so that the individual contribution of neurons to
category classification can be ranked and visualized. The neurons in each dense
layer are mapped and ranked by measuring expected contribution of a neuron to a
class vote given a true image label. The importance of neurons is prioritized
according to their correct or incorrect contribution to the output classes and
suppression or bolstering of incorrect classes, weighted by the size of each
class. ET provides an interface to prune the network to enhance high-rank
neurons and remove low-performing neurons. ET technology will make DNNs smaller
and more efficient for implementation in small embedded systems. It also leads
to more explainable and testable DNNs that can make systems easier for
Validation \& Verification. The goal of ET technology is to enable the adoption
of DL in future in-situ planetary exploration missions.
- Abstract（参考訳）: ディープラーニング(DL)は、効果的な機械学習とコンピュータビジョン技術であることが証明されている。
DLベースのイメージセグメンテーション、オブジェクト認識、分類は、パス計画やアーティファクト認識/抽出といった火星のローバー作業の多くに役立つ。
しかし、ディープニューラルネットワーク(dnn)アーキテクチャのほとんどは非常に複雑であり、それらは「ブラックボックス」と見なされている。
本稿では,各ニューロンの出力クラスへの帰属を記述するために,統合勾配を用いた。
DNNのブラックボックスを開くための説明可能性ツールセット(ET)を提供するので、分類へのニューロンの個々の貢献をランク付けし視覚化することができる。
各密層内のニューロンは、真の画像ラベルが与えられたクラス投票に対するニューロンの期待寄与度を測定することにより、マッピングされ、ランク付けされる。
ニューロンの重要性は、出力クラスへの正しいまたは間違った寄与と、各クラスの大きさによって重み付けされた間違ったクラスの抑制または強化によって優先順位付けされる。
ETは、高位ニューロンを強化し、低パフォーマンスニューロンを取り除くために、ネットワークをプーンするインターフェースを提供する。
ET技術により、DNNはより小さく、より効率的に小さな組み込みシステムで実装できる。
また、検証と検証を容易にするために、より説明しやすい、テスト可能なDNNにもつながります。
ET技術の目的は、将来の惑星探査ミッションにおけるDLの採用を可能にすることである。
関連論文リスト
- Fully Spiking Actor Network with Intra-layer Connections for
Reinforcement Learning [51.386945803485084]
エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。
既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。
浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
論文 参考訳（メタデータ） (2024-01-09T07:31:34Z) - Curriculum Design Helps Spiking Neural Networks to Classify Time Series [16.402675046686834]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも時系列データをモデル化する可能性が大きい
この研究において、脳にインスパイアされた科学によって啓蒙され、構造だけでなく学習過程も人間に似ていなければならないことが判明した。
論文 参考訳（メタデータ） (2023-12-26T02:04:53Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳（メタデータ） (2023-05-26T02:52:12Z) - Transferability of coVariance Neural Networks and Application to
Interpretable Brain Age Prediction using Anatomical Features [119.45320143101381]
グラフ畳み込みネットワーク(GCN)は、トポロジー駆動のグラフ畳み込み演算を利用して、推論タスクのためにグラフをまたいだ情報を結合する。
我々は、共分散行列をグラフとして、共分散ニューラルネットワーク(VNN)の形でGCNを研究した。
VNNは、GCNからスケールフリーなデータ処理アーキテクチャを継承し、ここでは、共分散行列が極限オブジェクトに収束するデータセットに対して、VNNが性能の転送可能性を示すことを示す。
論文 参考訳（メタデータ） (2023-05-02T22:15:54Z) - Symbiosis of an artificial neural network and models of biological
neurons: training and testing [0.0]
生体ニューロンの数学的モデルからなる人工ニューラルネットワーク(ANN)の特徴を作成・同定する可能性を示す。
FitzHugh--Nagumo (FHN) システムは、単純化されたニューロン活性を示すモデルの一例として用いられる。
論文 参考訳（メタデータ） (2023-02-03T10:06:54Z) - A Spiking Neural Network Structure Implementing Reinforcement Learning [0.0]
本稿では,SNNの構造について述べる。
本論文で考察したSNN構造は、LIFAT(Leky Integration-and-fire neuron with adapt threshold)モデルの一般化によって記述されたスパイクニューロンを含む。
私の概念は、RLタスク特性に関する非常に一般的な仮定に基づいており、適用性に目に見える制限はありません。
論文 参考訳（メタデータ） (2022-04-09T09:08:10Z) - Visualizing Deep Neural Networks with Topographic Activation Maps [1.1470070927586014]
我々は,ディープニューラルネットワーク層におけるニューロンの地形的レイアウトを求める手法を紹介し,比較する。
本研究では,地形のアクティベーションマップを用いて誤りの特定やバイアスのエンコードを行い,トレーニングプロセスの可視化を行う。
論文 参考訳（メタデータ） (2022-04-07T15:56:44Z) - Locality Guided Neural Networks for Explainable Artificial Intelligence [12.435539489388708]
LGNN(Locality Guided Neural Network)と呼ばれる,バック伝搬のための新しいアルゴリズムを提案する。
LGNNはディープネットワークの各層内の隣接ニューロン間の局所性を保っている。
実験では,CIFAR100 上の画像分類のための様々な VGG と Wide ResNet (WRN) ネットワークを訓練した。
論文 参考訳（メタデータ） (2020-07-12T23:45:51Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-07-02T15:38:44Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳（メタデータ） (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。