論文の概要: DeepFD: Automated Fault Diagnosis and Localization for Deep Learning
Programs
- arxiv url: http://arxiv.org/abs/2205.01938v1
- Date: Wed, 4 May 2022 08:15:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-05 22:19:09.840231
- Title: DeepFD: Automated Fault Diagnosis and Localization for Deep Learning
Programs
- Title(参考訳): deepfd: ディープラーニングプログラムのための自動障害診断とローカライズ
- Authors: Jialun Cao and Meiziniu Li and Xiao Chen and Ming Wen and Yongqiang
Tian and Bo Wu and Shing-Chi Cheung
- Abstract要約: DeepFDは学習ベースの障害診断およびローカライゼーションフレームワークである。
フォールトローカライゼーションタスクを学習問題にマップする。
52%の欠陥DLプログラムを正しく診断し、最先端の成果によって達成された約半分(27%)と比較する。
- 参考スコア(独自算出の注目度): 15.081278640511998
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As Deep Learning (DL) systems are widely deployed for mission-critical
applications, debugging such systems becomes essential. Most existing works
identify and repair suspicious neurons on the trained Deep Neural Network
(DNN), which, unfortunately, might be a detour. Specifically, several existing
studies have reported that many unsatisfactory behaviors are actually
originated from the faults residing in DL programs. Besides, locating faulty
neurons is not actionable for developers, while locating the faulty statements
in DL programs can provide developers with more useful information for
debugging. Though a few recent studies were proposed to pinpoint the faulty
statements in DL programs or the training settings (e.g. too large learning
rate), they were mainly designed based on predefined rules, leading to many
false alarms or false negatives, especially when the faults are beyond their
capabilities.
In view of these limitations, in this paper, we proposed DeepFD, a
learning-based fault diagnosis and localization framework which maps the fault
localization task to a learning problem. In particular, it infers the
suspicious fault types via monitoring the runtime features extracted during DNN
model training and then locates the diagnosed faults in DL programs. It
overcomes the limitations by identifying the root causes of faults in DL
programs instead of neurons and diagnosing the faults by a learning approach
instead of a set of hard-coded rules. The evaluation exhibits the potential of
DeepFD. It correctly diagnoses 52% faulty DL programs, compared with around
half (27%) achieved by the best state-of-the-art works. Besides, for fault
localization, DeepFD also outperforms the existing works, correctly locating
42% faulty programs, which almost doubles the best result (23%) achieved by the
existing works.
- Abstract(参考訳): 深層学習(DL)システムはミッションクリティカルなアプリケーションに広くデプロイされているため、そのようなシステムのデバッグは不可欠である。
既存の研究のほとんどは、訓練されたDeep Neural Network(DNN)上の疑わしいニューロンを特定し、修復している。
特に、いくつかの既存の研究は、多くの不十分な行動はdlプログラムに存在する障害に由来すると報告している。
さらに、欠陥のあるニューロンの配置は開発者にとっては有効ではなく、DLプログラム内の欠陥のあるステートメントの配置は、デバッグに有用な情報を提供する。
DLプログラムの欠陥文やトレーニング設定(例えば、大きすぎる学習率)を特定するために、最近の研究がいくつか提案されているが、それらは主に事前定義されたルールに基づいて設計されており、特に障害がそれらの能力を超えた場合に、多くの誤報や偽陰性を引き起こす。
本稿では,これらの制約を考慮し,障害局所化タスクを学習問題にマッピングする,学習ベースの障害診断および局所化フレームワークであるDeepFDを提案する。
特に、DNNモデルトレーニング中に抽出したランタイム機能を監視して、不審な障害タイプを推測し、DLプログラムで診断された障害を見つけ出す。
これは、ニューロンの代わりにDLプログラムの障害の根本原因を特定し、ハードコードされたルールではなく学習アプローチで障害を診断することで制限を克服する。
この評価はDeepFDの可能性を示す。
52%の欠陥DLプログラムを正しく診断し、最先端の成果によって達成された約半分(27%)と比較する。
さらに、障害のローカライゼーションでは、DeepFDは既存の作業よりも優れており、42%の障害プログラムが正しく位置付けられており、既存の作業によって達成された最高の結果(23%)がほぼ2倍になる。
関連論文リスト
- An Effective Data-Driven Approach for Localizing Deep Learning Faults [20.33411443073181]
問題パターンの学習にモデル機能を活用する新しいデータ駆動手法を提案する。
本手法は,手作業によるマッピングを必要とせず,バグ症状を根本原因に自動的に関連付ける。
以上の結果から,本手法は様々なバグタイプを効果的に検出・診断できることが示唆された。
論文 参考訳(メタデータ) (2023-07-18T03:28:39Z) - ISimDL: Importance Sampling-Driven Acceleration of Fault Injection
Simulations for Evaluating the Robustness of Deep Learning [10.757663798809144]
我々は,重要なサンプリングに基づく障害シナリオを生成するために,ニューロンの感度を利用する新しい手法であるISimDLを提案する。
実験の結果, ランダムな一様サンプリングよりも臨界断層を選択する場合, 重要サンプリングは最大15倍の精度で, 100個未満の故障でその精度に達することがわかった。
論文 参考訳(メタデータ) (2023-03-14T16:15:28Z) - DOMINO: Domain-aware Loss for Deep Learning Calibration [49.485186880996125]
本稿では,ディープラーニングモデルの校正のためのドメイン認識損失関数を提案する。
提案した損失関数は、与えられた対象領域内のクラス間の類似性に基づいてクラスワイズペナルティを適用する。
論文 参考訳(メタデータ) (2023-02-10T09:47:46Z) - Fault-Aware Neural Code Rankers [64.41888054066861]
サンプルプログラムの正しさを予測できる故障認識型ニューラルネットワークローダを提案する。
我々のフォールト・アウェア・ローダは、様々なコード生成モデルのpass@1精度を大幅に向上させることができる。
論文 参考訳(メタデータ) (2022-06-04T22:01:05Z) - Fast and Accurate Error Simulation for CNNs against Soft Errors [64.54260986994163]
本稿では,誤りシミュレーションエンジンを用いて,コナールニューラルネットワーク(CNN)の信頼性解析のためのフレームワークを提案する。
これらの誤差モデルは、故障によって誘導されるCNN演算子の出力の破損パターンに基づいて定義される。
提案手法は,SASSIFIの欠陥効果の約99%の精度と,限定的なエラーモデルのみを実装した44倍から63倍までのスピードアップを実現する。
論文 参考訳(メタデータ) (2022-06-04T19:45:02Z) - Challenges in Migrating Imperative Deep Learning Programs to Graph
Execution: An Empirical Study [4.415977307120617]
我々は、信頼できるがパフォーマンスのよい命令型DLコードを書くことに関わる課題と結果のバグを、データ駆動で分析します。
命令型DLコードを効果的にハイブリダイズするために、いくつかの推奨事項、ベストプラクティス、アンチパターンを提示しました。
論文 参考訳(メタデータ) (2022-01-24T21:12:38Z) - DeepDiagnosis: Automatically Diagnosing Faults and Recommending
Actionable Fixes in Deep Learning Programs [12.917211542949786]
本稿では,障害の局所化,エラー症状の報告,DNNプログラムの修正を提案する新しいアプローチであるDeepDiagnosisを提案する。
DeepDiagnosisは、他のアプローチと比較して、障害の検出、バグのローカライゼーション、および症状の識別の最も優れた能力を示す。
論文 参考訳(メタデータ) (2021-12-07T23:15:23Z) - Automatic Fault Detection for Deep Learning Programs Using Graph
Transformations [13.572917264310119]
ディープラーニングプログラムのためのモデルに基づく故障検出手法であるNeuraLintを提案する。
NeuraLintは、70.5%のリコールと100%の精度で、合成および実世界の両方の例の欠陥と設計上の問題を効果的に検出する。
提案するメタモデルはフィードフォワードニューラルネットワーク用に設計されているが、他のニューラルネットワークアーキテクチャをサポートするように拡張することができる。
論文 参考訳(メタデータ) (2021-05-17T18:06:11Z) - GaNDLF: A Generally Nuanced Deep Learning Framework for Scalable
End-to-End Clinical Workflows in Medical Imaging [76.38169390121057]
コミュニティ主導型汎用ディープラーニングフレームワークGaNDLF(Generally Nuanced Deep Learning Framework)について紹介する。
GaNDLFは、DL開発、トレーニング、推論のメカニズムをより安定させ、再現可能で、解釈可能で、スケーラブルにする。
放射線画像と病理画像の両方をGaNDLFで解析し,k-foldクロスバリデーションをサポートした。
論文 参考訳(メタデータ) (2021-02-26T02:24:52Z) - NADS: Neural Architecture Distribution Search for Uncertainty Awareness [79.18710225716791]
機械学習(ML)システムは、トレーニングデータとは異なるディストリビューションから来るテストデータを扱う場合、しばしばOoD(Out-of-Distribution)エラーに遭遇する。
既存のOoD検出アプローチはエラーを起こしやすく、時にはOoDサンプルに高い確率を割り当てることもある。
本稿では,すべての不確実性を考慮したアーキテクチャの共通構築ブロックを特定するために,ニューラルアーキテクチャ分布探索(NADS)を提案する。
論文 参考訳(メタデータ) (2020-06-11T17:39:07Z) - Graph-based, Self-Supervised Program Repair from Diagnostic Feedback [108.48853808418725]
本稿では,ソースコードの修復や診断フィードバックに関連するシンボルを結合するプログラムフィードバックグラフを提案する。
次に、推論プロセスのモデル化にグラフニューラルネットワークを適用します。
オンラインで利用可能なラベルのないプログラムを活用するプログラム修復のための自己指導型学習パラダイムを提案する。
論文 参考訳(メタデータ) (2020-05-20T07:24:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。