論文の概要: NeuroTrace: Inference Provenance-Based Detection of Adversarial Examples
- arxiv url: http://arxiv.org/abs/2604.14457v1
- Date: Wed, 15 Apr 2026 22:23:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:31.635389
- Title: NeuroTrace: Inference Provenance-Based Detection of Adversarial Examples
- Title（参考訳）: NeuroTrace: 推論確率に基づく逆例の検出
- Authors: Firas Ben Hmida, Philemon Hailemariam, Kashif Ali Khan, Birhanu Eshete,
- Abstract要約: Inference Provenance Graphs (IPGs) を用いた推論前駆体分析フレームワークであるNeuroTraceを紹介する。
IPGは、モデルの前方通過中にアクティベーション動作とパラメータ誘起データフローの両方をキャプチャする異種グラフである。
攻撃中, マルチアタック, クロススリート転送設定下での逆例検出のためのIPGベース検出器の評価を行った。
- 参考スコア（独自算出の注目度）: 1.096626056612224
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks (DNNs) remain largely opaque at inference time, limiting our ability to detect and diagnose malicious input manipulations such as adversarial examples. Existing detection methods predominantly rely on layer-local signals (e.g., activations or attribution scores), leaving cross-layer information flow and execution structure under-explored. We introduce NeuroTrace, a framework and open dataset for analyzing inference provenance through Inference Provenance Graphs (IPGs). IPGs are heterogeneous graphs that capture both activation behavior and parameter-induced dataflow during a model's forward pass, providing a structured representation of how information propagates through the network. NeuroTrace includes (i) a reproducible extraction engine that instruments model execution, (ii) a standardized graph representation compatible with heterogeneous GNNs, and (iii) a benchmark suite spanning multiple adversarial attack families across vision and malware domains. Using this framework, we evaluate IPG-based detectors for adversarial example detection under intra-attack, multi-attack, and cross-threat transfer settings. Our results show that inference provenance provides a strong and transferable signal for distinguishing adversarial and benign inputs, achieving consistently high detection performance and improving over prior graph-based baselines. We further analyze the conditions under which provenance-based detection generalizes across attack types, as well as the associated runtime and storage trade-offs. By releasing the dataset, extraction pipeline, and evaluation protocol, NeuroTrace enables systematic study of inference-time behavior and establishes inference provenance as a practical foundation for building more transparent and auditable machine learning systems.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、推論時にほとんど不透明であり、敵の例のような悪意ある入力操作を検出し診断する能力を制限する。
既存の検出方法は、主にレイヤローカルな信号(例えば、アクティベーションや属性スコア)に依存し、層間情報の流れと実行構造を探索下に残している。
Inference Provenance Graphs (IPGs) を通じて推論精度を解析するためのフレームワークおよびオープンデータセットであるNeuroTraceを紹介する。
IPGは、モデルのフォワードパス中のアクティベーション動作とパラメータ誘起データフローの両方をキャプチャする異種グラフであり、情報がどのようにネットワークを介して伝播するかの構造化された表現を提供する。
NeuroTrace
i) モデル実行を計測する再現可能な抽出エンジン
(ii)異種GNNと互換性のある標準化されたグラフ表現、及び
(iii)視覚領域とマルウェア領域にまたがる複数の敵攻撃ファミリーにまたがるベンチマークスイート。
本フレームワークを用いて,攻撃内,マルチアタック,クロススリート転送設定下での逆例検出のためのIGGベースの検出器の評価を行った。
提案手法は, 逆入力と良入力を区別し, 常に高い検出性能を達成し, 先行するグラフベースベースラインよりも向上する, 強く伝達可能な信号を提供することを示す。
さらに,攻撃タイプや関連するランタイム,ストレージのトレードオフなど,プロビデンスに基づく検出が一般化する条件についても分析する。
データセット、抽出パイプライン、評価プロトコルをリリースすることにより、NeuroTraceは推論時の行動の体系的な研究を可能にし、より透明で監査可能な機械学習システムを構築するための実践的な基盤として推論証明を確立する。
関連論文リスト
- An End-to-End Framework for Functionality-Embedded Provenance Graph Construction and Threat Interpretation [2.0740117800511215]
Auto-Provは、証明グラフベースの異常検出のためのエンドツーエンドフレームワークである。
ログの型をクラスタ化し、プロファイランスエッジとエンティティレベルの情報を効率的に抽出する。
システムレベルの機能コンテキストを、既知および未確認のシステムエンティティの両方に対して推論する。
安定して解釈可能な攻撃サマリーを生成し、システムの進化の下では堅牢である。
論文 参考訳（メタデータ） (2026-03-17T19:40:05Z) - Learning to Explore: Policy-Guided Outlier Synthesis for Graph Out-of-Distribution Detection [51.93878677594561]
教師なしグラフレベルのOOD検出では、モデルは通常、IDデータのみを使用して訓練される。
本稿では,スタティックスを学習した探索戦略に置き換える政策誘導型アウトリア合成フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-28T11:40:18Z) - Graph Enhanced Trajectory Anomaly Detection [23.8160784400789]
軌道異常検出は、インテリジェント交通システムから都市安全・不正防止に至るまで、異常かつ予期せぬ動きパターンを特定するために不可欠である。
既存の手法では、軌跡をサンプリングされた位置の列として扱うことにより、軌道の性質とその運動空間の限られた側面しか考慮していない。
提案するグラフ拡張軌道異常検出フレームワークは,道路網のトポロジ,セグメントセマンティクス,過去の走行パターンを密に統合し,軌跡データをモデル化する。
論文 参考訳（メタデータ） (2025-09-22T20:15:15Z) - Out-of-Distribution Detection on Graphs: A Survey [58.47395497985277]
グラフアウト・オブ・ディストリビューション(GOOD)検出は、トレーニング中に見られる分布から逸脱するグラフデータを特定することに焦点を当てる。
既存の手法を,拡張ベース,再構築ベース,情報伝達ベース,分類ベースという4つのタイプに分類する。
本稿では,グラフデータによるユニークな課題を浮き彫りにして,実践的応用と理論的基礎について論じる。
論文 参考訳（メタデータ） (2025-02-12T04:07:12Z) - Few-shot Message-Enhanced Contrastive Learning for Graph Anomaly
Detection [15.757864894708364]
グラフ異常検出は、多数派から大きく逸脱するグラフデータの例外的なインスタンスを特定する上で重要な役割を果たす。
我々はFMGADと呼ばれる新しい数ショットグラフ異常検出モデルを提案する。
FMGADは, 人工的に注入された異常やドメイン・有機異常によらず, 他の最先端手法よりも優れた性能が得られることを示す。
論文 参考訳（メタデータ） (2023-11-17T07:49:20Z) - Combating Bilateral Edge Noise for Robust Link Prediction [56.43882298843564]
本稿では,RGIB(Robust Graph Information Bottleneck)という情報理論の原則を提案し,信頼性の高い監視信号を抽出し,表現の崩壊を回避する。
RGIB-SSLとRGIB-REPの2つのインスタンス化は、異なる手法の利点を活用するために検討されている。
6つのデータセットと3つのGNNの様々なノイズシナリオによる実験は、我々のRGIBインスタンスの有効性を検証する。
論文 参考訳（メタデータ） (2023-11-02T12:47:49Z) - Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。
GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
論文 参考訳（メタデータ） (2023-02-06T16:38:43Z) - Unsupervised Abnormal Traffic Detection through Topological Flow
Analysis [1.933681537640272]
悪意のある流れの トポロジカル接続コンポーネントは 利用されていない
本稿では,教師なし異常検出アルゴリズムにおける接続グラフ機能の利用を容易にするための簡易な手法を提案する。
論文 参考訳（メタデータ） (2022-05-14T18:52:49Z) - Anomaly Detection on Attributed Networks via Contrastive Self-Supervised
Learning [50.24174211654775]
本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。
このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。
高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
論文 参考訳（メタデータ） (2021-02-27T03:17:20Z) - DNS Covert Channel Detection via Behavioral Analysis: a Machine Learning
Approach [0.09176056742068815]
本稿では,ネットワーク監視システムから受動的に抽出されたDNSネットワークデータの解析に基づいて,効果的な隠蔽チャネル検出手法を提案する。
提案手法は15日間の実験実験で評価され,最も関連する流出・トンネル攻撃をカバーするトラフィックを注入した。
論文 参考訳（メタデータ） (2020-10-04T13:28:28Z) - Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。
GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。
トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文 参考訳（メタデータ） (2020-06-21T19:45:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。