論文の概要: Validation, Robustness, and Accuracy of Perturbation-Based Sensitivity Analysis Methods for Time-Series Deep Learning Models

• arxiv url: http://arxiv.org/abs/2401.16521v1
• Date: Mon, 29 Jan 2024 19:51:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-31 17:16:56.512414
• Title: Validation, Robustness, and Accuracy of Perturbation-Based Sensitivity Analysis Methods for Time-Series Deep Learning Models
• Title（参考訳）: 時系列深層学習モデルの摂動に基づく感度解析手法の検証, ロバスト性, 精度
• Authors: Zhengguang Wang
• Abstract要約: 本研究は,時間系列深層学習における解釈可能性の評価研究である。 私の研究は、最新のTransformerモデルにおける摂動に基づく感度解析手法について検討し、その性能をベンチマークする。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work undertakes studies to evaluate Interpretability Methods for Time-Series Deep Learning. Sensitivity analysis assesses how input changes affect the output, constituting a key component of interpretation. Among the post-hoc interpretation methods such as back-propagation, perturbation, and approximation, my work will investigate perturbation-based sensitivity Analysis methods on modern Transformer models to benchmark their performances. Specifically, my work answers three research questions: 1) Do different sensitivity analysis (SA) methods yield comparable outputs and attribute importance rankings? 2) Using the same sensitivity analysis method, do different Deep Learning (DL) models impact the output of the sensitivity analysis? 3) How well do the results from sensitivity analysis methods align with the ground truth?
• Abstract（参考訳）: 本研究は,時間系列深層学習における解釈可能性の評価研究である。 感度分析は、入力の変化が出力に与える影響を評価し、解釈の重要な構成要素を構成する。 バックプロパゲーション,摂動,近似といったポストホックな解釈手法のうち,最近のトランスフォーマモデルにおける摂動に基づく感度解析手法について検討し,その性能評価を行う。 特に私の研究は3つの研究課題に答えています 1)異なる感度分析(SA)手法は、同等の出力と属性の重要度ランキングをもたらすか? 2)同じ感度解析法を用いて,異なる深層学習(DL)モデルが感度解析の出力に影響を与えるか? 3) 感度分析法の結果は, 基礎的真理とどの程度一致しているか?

関連論文リスト

• Contrastive Factor Analysis [70.02770079785559]
  本稿では,新しいコントラスト要因分析フレームワークを提案する。 コントラスト学習の領域において、因子分析の有利な特性を活用することを目的としている。 非負因子分析の解釈可能性特性をさらに活用するために、非負バージョンに拡張される。
  論文  参考訳（メタデータ） (2024-07-31T16:52:00Z)
• Explainability of Machine Learning Models under Missing Data [2.880748930766428]
  データ不足は、モデルの性能と解釈可能性を著しく損なうおそれのある問題である。 本稿では, 欠落データ分野の展開を要約し, 種々の計算法がシェープリー値の計算に与える影響について考察する。
  論文  参考訳（メタデータ） (2024-06-29T11:31:09Z)
• How are Prompts Different in Terms of Sensitivity? [50.67313477651395]
  本稿では,関数の感度に基づく包括的即時解析を提案する。 出力に対する入力トークンの関連性に異なるプロンプトがどう影響するかを実証的に示すために、勾配に基づく唾液度スコアを使用する。 本稿では, 感度推定をペナルティ項として組み込んだ感度認識復号法を標準グリーディ復号法で導入する。
  論文  参考訳（メタデータ） (2023-11-13T10:52:01Z)
• Towards stable real-world equation discovery with assessing differentiating quality influence [52.2980614912553]
  一般的に用いられる有限差分法に代わる方法を提案する。 我々は,これらの手法を実問題と類似した問題に適用可能であること,および方程式発見アルゴリズムの収束性を確保する能力の観点から評価する。
  論文  参考訳（メタデータ） (2023-11-09T23:32:06Z)
• Sensitivity-Aware Amortized Bayesian Inference [8.753065246797561]
  感度分析は、様々なモデリング選択が統計的分析の結果に与える影響を明らかにする。 ニューラルネットワークを用いたシミュレーションベース推論に感度解析を統合するための多面的アプローチである感性認識型ベイズ推論(SA-ABI)を提案する。 本稿では,本手法が病気発生のダイナミクスや地球温暖化のしきい値から人的意思決定に至るまで,応用モデリング問題における有効性を示す。
  論文  参考訳（メタデータ） (2023-10-17T10:14:10Z)
• Sensitivity Analysis of High-Dimensional Models with Correlated Inputs [0.0]
  相関パラメータの感度は大きさだけでなく、微分に基づく指数の符号も逆転することができる。 相関パラメータの感度が大まかに異なるだけでなく、微分に基づく指数の符号も逆転できることを示した。
  論文  参考訳（メタデータ） (2023-05-31T14:48:54Z)
• Metric Tools for Sensitivity Analysis with Applications to Neural Networks [0.0]
  説明可能な人工知能(XAI)は、機械学習モデルによる予測の解釈を提供することを目的としている。 本稿では,計量手法を用いてMLモデルの感性を研究するための理論的枠組みを提案する。 $alpha$-curvesと呼ばれる新しいメトリクスの完全なファミリーが抽出される。
  論文  参考訳（メタデータ） (2023-05-03T18:10:21Z)
• Causal Intervention Improves Implicit Sentiment Analysis [67.43379729099121]
  インスツルメンタル・バリアブル(ISAIV)を用いたインシシット・センシティメント分析のための因果介入モデルを提案する。 まず、因果的視点から感情分析をレビューし、このタスクに存在する共同設立者を分析する。 そこで本研究では,文章と感情の因果関係を解消し,純粋因果関係を抽出するインストゥルメンタル変数を提案する。
  論文  参考訳（メタデータ） (2022-08-19T13:17:57Z)
• Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
  本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。 シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-25T19:57:19Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。