論文の概要: Time to Focus: A Comprehensive Benchmark Using Time Series Attribution
Methods
- arxiv url: http://arxiv.org/abs/2202.03759v1
- Date: Tue, 8 Feb 2022 10:06:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-09 15:00:03.727837
- Title: Time to Focus: A Comprehensive Benchmark Using Time Series Attribution
Methods
- Title（参考訳）: time to focus:時系列帰属法を用いた総合ベンチマーク
- Authors: Dominique Mercier, Jwalin Bhatt, Andreas Dengel, Sheraz Ahmed
- Abstract要約: 本論文は時系列解析といくつかの最先端属性手法のベンチマークに焦点をあてる。
本実験では, 勾配および摂動に基づく帰属法について検討した。
その結果,最も適した帰属法を選択することは,所望のユースケースと強く相関していることが示唆された。
- 参考スコア（独自算出の注目度）: 4.9449660544238085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the last decade neural network have made huge impact both in industry and
research due to their ability to extract meaningful features from imprecise or
complex data, and by achieving super human performance in several domains.
However, due to the lack of transparency the use of these networks is hampered
in the areas with safety critical areas. In safety-critical areas, this is
necessary by law. Recently several methods have been proposed to uncover this
black box by providing interpreation of predictions made by these models. The
paper focuses on time series analysis and benchmark several state-of-the-art
attribution methods which compute explanations for convolutional classifiers.
The presented experiments involve gradient-based and perturbation-based
attribution methods. A detailed analysis shows that perturbation-based
approaches are superior concerning the Sensitivity and occlusion game. These
methods tend to produce explanations with higher continuity. Contrarily, the
gradient-based techniques are superb in runtime and Infidelity. In addition, a
validation the dependence of the methods on the trained model, feasible
application domains, and individual characteristics is attached. The findings
accentuate that choosing the best-suited attribution method is strongly
correlated with the desired use case. Neither category of attribution methods
nor a single approach has shown outstanding performance across all aspects.
- Abstract（参考訳）: 過去10年間、ニューラルネットワークは、不正確または複雑なデータから有意義な特徴を抽出し、いくつかのドメインで超人的パフォーマンスを達成する能力によって、産業と研究の両方に大きな影響を与えてきた。
しかし、透明性の欠如により、これらのネットワークの使用は安全クリティカルな領域で妨げられている。
安全上重要な地域では、法律でこれが必要である。
近年,これらのモデルによる予測の解釈を提供することにより,このブラックボックスを明らかにする方法が提案されている。
本稿では,畳み込み型分類器の説明を計算し,時系列解析に焦点をあてる。
提案実験は,勾配法および摂動法に基づく帰属法を含む。
詳細分析の結果,摂動に基づくアプローチが感度と咬合ゲームにおいて優れていることがわかった。
これらの手法は、より高い連続性を持つ説明を生み出す傾向がある。
逆に、グラデーションベースのテクニックは実行時や不確かさに優れています。
さらに、トレーニングされたモデル、実行可能なアプリケーションドメイン、個々の特性に対するメソッドの依存性を検証する。
その結果,最適な属性選択法が望ましいユースケースと強く相関していることが示唆された。
アトリビューションメソッドのカテゴリも単一のアプローチも、すべての面で優れたパフォーマンスを示していません。
関連論文リスト
- Toward Understanding the Disagreement Problem in Neural Network Feature Attribution [0.8057006406834466]
ニューラルネットワークは 複雑なパターンと関係を 生のデータから識別する
これらのブラックボックスモデルの内部動作を理解することは、依然として難しいが、高い意思決定には不可欠である。
我々の研究は、説明の基本的な、分布的な振る舞いを調査することによって、この混乱に対処する。
論文 参考訳（メタデータ） (2024-04-17T12:45:59Z) - MFABA: A More Faithful and Accelerated Boundary-based Attribution Method
for Deep Neural Networks [69.28125286491502]
我々は,公理に固執する帰属アルゴリズムであるMFABAを紹介する。
結果は、最先端の属性アルゴリズムよりも101.5142倍高速に達成することで、その優位性を証明している。
論文 参考訳（メタデータ） (2023-12-21T07:48:15Z) - Transcending Forgery Specificity with Latent Space Augmentation for Generalizable Deepfake Detection [57.646582245834324]
LSDAと呼ばれる簡易で効果的なディープフェイク検出器を提案する。
より多様な偽の表現は、より一般化可能な決定境界を学べるべきである。
提案手法は驚くほど有効であり, 広く使用されている複数のベンチマークで最先端の検出器を超越することを示す。
論文 参考訳（メタデータ） (2023-11-19T09:41:10Z) - Implicit Variational Inference for High-Dimensional Posteriors [7.924706533725115]
変分推論において、ベイズモデルの利点は、真の後続分布を正確に捉えることに依存する。
複雑な多重モーダルおよび相関後部を近似するのに適した暗黙分布を特定するニューラルサンプリング手法を提案する。
提案手法では,ニューラルネットワークを局所的に線形化することにより,暗黙分布を用いた近似推論の新たなバウンダリを導入する。
論文 参考訳（メタデータ） (2023-10-10T14:06:56Z) - Better Understanding Differences in Attribution Methods via Systematic Evaluations [57.35035463793008]
モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。
本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。
これらの評価手法を用いて、広範囲のモデルにおいて広く用いられている属性手法の長所と短所について検討する。
論文 参考訳（メタデータ） (2023-03-21T14:24:58Z) - Pixel-wise Gradient Uncertainty for Convolutional Neural Networks
applied to Out-of-Distribution Segmentation [0.43512163406552007]
本稿では,推定時に効率よく計算できる画素単位の損失勾配から不確実点を求める手法を提案する。
本実験は,提案手法が誤った画素分類を識別し,無視可能な計算オーバーヘッドで予測品質を推定する能力を示す。
論文 参考訳（メタデータ） (2023-03-13T08:37:59Z) - Towards Better Understanding Attribution Methods [77.1487219861185]
モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。
本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。
また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
論文 参考訳（メタデータ） (2022-05-20T20:50:17Z) - Don't Lie to Me! Robust and Efficient Explainability with Verified
Perturbation Analysis [6.15738282053772]
摂動空間を徹底的に探索することを保証する最初の説明可能性法であるEVAを紹介する。
モデル決定を駆動する可能性が最も高い入力変数を効率よく特徴付けるために、検証された摂動解析の有益性を利用する。
論文 参考訳（メタデータ） (2022-02-15T21:13:55Z) - Discriminative Attribution from Counterfactuals [64.94009515033984]
本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。
本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
論文 参考訳（メタデータ） (2021-09-28T00:53:34Z) - An Effective Baseline for Robustness to Distributional Shift [5.627346969563955]
ディープラーニングシステムの安全なデプロイには,トレーニング中に見られるものと異なる入力のカテゴリに直面した場合,確実な予測を控えることが重要な要件である。
本論文では, 吸収の原理を用いた分布異常検出の簡便かつ高効率な手法を提案する。
論文 参考訳（メタデータ） (2021-05-15T00:46:11Z) - Cross-domain Object Detection through Coarse-to-Fine Feature Adaptation [62.29076080124199]
本稿では,クロスドメインオブジェクト検出のための特徴適応手法を提案する。
粗粒度では、アテンション機構を採用して前景領域を抽出し、その辺縁分布に応じて整列する。
粒度の細かい段階では、同じカテゴリのグローバルプロトタイプと異なるドメインとの距離を最小化することにより、前景の条件分布アライメントを行う。
論文 参考訳（メタデータ） (2020-03-23T13:40:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。