論文の概要: DEFault++: Automated Fault Detection, Categorization, and Diagnosis for Transformer Architectures

• arxiv url: http://arxiv.org/abs/2604.28118v1
• Date: Thu, 30 Apr 2026 17:07:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:54.212076
• Title: DEFault++: Automated Fault Detection, Categorization, and Diagnosis for Transformer Architectures
• Title（参考訳）: DEFault++: トランスフォーマーアーキテクチャの障害検出、分類、診断を自動化する
• Authors: Sigma Jahan, Saurabh Singh Rajput, Tushar Sharma, Mohammad Masudur Rahman,
• Abstract要約: DeFault++は階層的な学習に基づく診断技術であり、3段階の抽象化で動作する。 断層が存在するかどうかを検出し、それを12の変圧器固有の断層カテゴリの1つに分類し、45のメカニズムから根本原因を特定する。 21人の実践者による開発者スタディでは、DeFault++を使用する場合、正しい修理動作を選択する精度は57.1%から83.3%に向上した。
• 参考スコア（独自算出の注目度）: 3.261740322943355
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transformer models are widely deployed in critical AI applications, yet faults in their attention mechanisms, projections, and other internal components often degrade behavior silently without raising runtime errors. Existing fault diagnosis techniques often target generic deep neural networks and cannot identify which transformer component is responsible for an observed symptom. In this article, we present DEFault++, a hierarchical learning-based diagnostic technique that operates at three level of abstraction: it detects whether a fault is present, classifies it into one of 12 transformer-specific fault categories (covering both attention-internal mechanisms and surrounding architectural components), and identifies the underlying root cause from up to 45 mechanisms. To facilitate both training and evaluation, we construct DEFault-bench, a benchmark of 3,739 labeled instances obtained through systematic mutation testing. These instances are created across seven transformer models and nine downstream tasks using DEForm, a transformer-specific mutation technique we developed for this purpose. DEFault++ measures runtime behavior at the level of individual transformer components. It organizes these measurements through a Fault Propagation Graph (FPG) derived from the transformer architecture. It then produces an interpretable diagnosis using prototype matching combined with supervised contrastive learning. On DEFault-bench, DEFault++ exceeds an AUROC of 0.96 for detection and a Macro-F1 of 0.85 for both categorization and root-cause diagnosis on encoder and decoder architectures. In a developer study with 21 practitioners, the accuracy of choosing correct repair actions increased from 57.1% without support to 83.3% when using DEFault++.
• Abstract（参考訳）: トランスフォーマーモデルは、重要なAIアプリケーションに広くデプロイされているが、注意機構やプロジェクション、その他の内部コンポーネントの障害は、実行時のエラーを発生させることなく、サイレントに振る舞いを低下させることが多い。 既存の断層診断技術は、しばしば一般的なディープニューラルネットワークをターゲットにしており、どのトランスフォーマーコンポーネントが観察された症状の原因であるかを特定できない。 本稿では, 階層的学習に基づく診断手法であるDEFault++について, 断層が存在するかどうかを検知し, 12の変圧器固有の故障カテゴリの1つに分類し, 最大45のメカニズムから根本原因を同定する。 トレーニングと評価の両方を容易にするために,系統的突然変異検査により得られた3,739個のラベル付きインスタンスのベンチマークであるDEFault-benchを構築した。 これらのインスタンスは、7つのトランスフォーマーモデルと9つの下流タスクにまたがって作成されます。 DEFault++は、個々のトランスフォーマーコンポーネントのレベルで実行時の振る舞いを測定する。 トランスフォーマーアーキテクチャから派生したFPG(Fault Propagation Graph)を通じて,これらの測定値を整理する。 その後、プロトタイプマッチングと教師付きコントラスト学習を組み合わせた解釈可能な診断を生成する。 DEFault-benchでは、検出のためのAUROCの0.96を超え、エンコーダとデコーダアーキテクチャの分類と根本診断のためのMacro-F1の0.85を超えている。 21人の実践者による開発者スタディでは、DeFault++を使用する場合、正しい修理動作を選択する精度は57.1%から83.3%に向上した。

関連論文リスト

• Explainability-Guided Adversarial Attacks on Transformer-Based Malware Detectors Using Control Flow Graphs [0.19116784879310025]
  本稿では,制御フローグラフを関数呼び出しのシーケンスに線形化するRoBERTaベースのマルウェア検出器の脆弱性について検討する。 このグラフ・ツー・シーケンス・フレームワーク内での回避戦略を評価することにより、トランスフォーマー・ベースのマルウェア検知器の実用的堅牢性について、集約的検出精度以上の知見を提供する。
  論文  参考訳（メタデータ） (2026-04-04T19:50:04Z)
• Deep Learning-Assisted Improved Differential Fault Attacks on Lightweight Stream Ciphers [0.43012765978447565]
  軽量暗号プリミティブは、特にIoT(Internet of Things)デバイスにおいて、リソース制約環境に広くデプロイされている。 一般的なアクセシビリティのため、これらのデバイスは物理的攻撃、特に障害攻撃に弱い。 ディープラーニングベースの暗号解析技術は有望な結果を示しているが、障害攻撃への応用は限定的だ。
  論文  参考訳（メタデータ） (2026-03-31T07:50:59Z)
• Backdoor Directions in Vision Transformers [56.382912038371046]
  本稿では,視覚変換器(ViT)におけるバックドアアタックの表現方法について検討する。 我々は、トリガーの内部表現に対応するモデルのアクティベーションにおいて、特定のトリガー方向'を識別する。 この方向を診断ツールとして使用して、バックドア機能が層間でどのように処理されるかを追跡する。
  論文  参考訳（メタデータ） (2026-03-11T14:13:48Z)
• DepRadar: Agentic Coordination for Context Aware Defect Impact Analysis in Deep Learning Libraries [12.07621297131295]
  DepRadarは、DLライブラリのアップデートにおけるきめ細かい欠陥と影響分析のためのエージェント調整フレームワークである。 静的解析とDL固有のドメインルールを統合し、欠陥推論とクライアント側のトレースを行う。 122のクライアントプログラムにおいて、DepRadarは90%のリコールと80%の精度で影響を受けるケースを特定し、他のベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2026-01-14T12:41:39Z)
• ALBERTA: ALgorithm-Based Error Resilience in Transformer Architectures [5.502117675161604]
  ビジョントランスフォーマーは、信頼性の高い安全クリティカルなアプリケーションにますますデプロイされている。 過渡的ハードウェアエラーのような潜在的なエラーにもかかわらず、実行の正確性を保証することが不可欠である。 アルゴリズムベースのレジリエンスフレームワークであるALBERTAを提案する。
  論文  参考訳（メタデータ） (2023-10-05T18:55:30Z)
• Self-Supervised Masked Convolutional Transformer Block for Anomaly Detection [122.4894940892536]
  本稿では, 自己監督型マスク型畳み込み変圧器ブロック (SSMCTB) について述べる。 本研究では,従来の自己教師型予測畳み込み抑止ブロック(SSPCAB)を3次元マスク付き畳み込み層,チャンネルワイドアテンション用トランスフォーマー,およびハマーロスに基づく新たな自己教師型目標を用いて拡張する。
  論文  参考訳（メタデータ） (2022-09-25T04:56:10Z)
• A Robust and Explainable Data-Driven Anomaly Detection Approach For Power Electronics [56.86150790999639]
  本稿では,2つの異常検出・分類手法,すなわち行列プロファイルアルゴリズムと異常変換器を提案する。 行列プロファイルアルゴリズムは、ストリーミング時系列データにおけるリアルタイム異常を検出するための一般化可能なアプローチとして適している。 検知器の感度、リコール、検出精度を調整するために、一連のカスタムフィルタが作成され、追加される。
  論文  参考訳（メタデータ） (2022-09-23T06:09:35Z)
• Fast and Accurate Error Simulation for CNNs against Soft Errors [64.54260986994163]
  本稿では,誤りシミュレーションエンジンを用いて,コナールニューラルネットワーク(CNN)の信頼性解析のためのフレームワークを提案する。 これらの誤差モデルは、故障によって誘導されるCNN演算子の出力の破損パターンに基づいて定義される。 提案手法は,SASSIFIの欠陥効果の約99%の精度と,限定的なエラーモデルのみを実装した44倍から63倍までのスピードアップを実現する。
  論文  参考訳（メタデータ） (2022-06-04T19:45:02Z)
• TELESTO: A Graph Neural Network Model for Anomaly Classification in Cloud Services [77.454688257702]
  機械学習(ML)と人工知能(AI)はITシステムの運用とメンテナンスに適用される。 1つの方向は、修復自動化を可能にするために、繰り返し発生する異常タイプを認識することである。 与えられたデータの次元変化に不変な手法を提案する。
  論文  参考訳（メタデータ） (2021-02-25T14:24:49Z)
• An Explainable Artificial Intelligence Approach for Unsupervised Fault Detection and Diagnosis in Rotating Machinery [2.055054374525828]
  本稿では,回転機械の故障検出と診断のための新しい手法を提案する。 この手法は,特徴抽出,障害検出,障害診断の3つの部分からなる。 提案手法の有効性は,機械的故障の異なる3つのデータセットに示される。
  論文  参考訳（メタデータ） (2021-02-23T18:28:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。