論文の概要: Why Is SHAP Not a Reliable Standalone Explanation Framework for Malware Detection?
- arxiv url: http://arxiv.org/abs/2609.04626v1
- Date: Fri, 04 Sep 2026 02:00:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:23.874757
- Title: Why Is SHAP Not a Reliable Standalone Explanation Framework for Malware Detection?
- Title（参考訳）: SHAPはなぜマルウェア検出のための信頼性の高いスタンドアロン説明フレームワークではないのか?
- Abstract要約: これらの保証は、信頼性のあるマルウェアの解釈には不十分である、と我々は主張する。
条件付きSHAPはモデルの特徴クレジットを$m-1$の冗長な特徴に対して1/m$で希釈する。
EMBER-2018、EMBER-2024、BODMASの固定光GBMとXGBoost検出器による実験により、これらの効果が確認された。
- 参考スコア（独自算出の注目度）: 42.01045847751035
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning is widely used for malware detection, but its decisions must be explained. An analyst needs to know whether a model has learned genuine malicious behavior or only dataset-specific patterns \cite{gaur2021semantics}. SHapley Additive exPlanations (SHAP) is the standard tool for this, backed by formal properties such as local accuracy, missingness, and consistency. We argue that these guarantees are insufficient for reliable malware interpretation. We claim SHAP explains a chosen feature-coalition game, not malware behavior in the data. That game is fixed only after the analyst selects the feature players, the missing feature rule, the background distribution, and the simplified input mapping. In static Portable Executable feature spaces, groups such as byte histograms, byte-entropy, strings, headers, sections, imports, and data-directories are not independent signals but are jointly shaped by file structure, packing, compiler behavior, and family conventions. We prove that this dependence makes conditional SHAP dilute a model's feature credit by a factor of $1/m$ across $m-1$ redundant features, attributes importance to features the model never uses, and even reverses the sign of an unused feature's attribution when the data distribution changes; interventional SHAP, meanwhile, queries off-manifold coalitions that no real executable would exhibit. Experiments on EMBER-2018, EMBER-2024, and BODMAS with fixed LightGBM and XGBoost detectors confirm these effects. We therefore position SHAP as a limited diagnostic that requires an explicitly stated data distribution and domain validation, not a standalone account of malware behavior.
- Abstract（参考訳）: 機械学習はマルウェア検出に広く利用されているが、その決定は説明する必要がある。
アナリストは、モデルが真の悪意のある振る舞いを学んだか、データセット固有のパターンのみを学んだかを知る必要がある。
SHAP(SHapley Additive exPlanations)は、局所的正確性、欠如、一貫性といった形式的な特性を背景として、標準ツールである。
これらの保証は、信頼性のあるマルウェアの解釈には不十分である、と我々は主張する。
SHAPは、データ内のマルウェアの振る舞いではなく、選択した機能連携ゲームを説明する。
このゲームは、アナリストが特徴プレーヤ、欠落した特徴ルール、背景分布、簡易な入力マッピングを選択した後のみ修正される。
静的 Portable Executable 機能空間では、バイトヒストグラム、バイトエントロピー、文字列、ヘッダ、セクション、インポート、データ指向といったグループは独立した信号ではなく、ファイル構造、パッケージング、コンパイラの振る舞い、家族の慣例によって共同で形成されている。
この依存により、条件付きSHAPがモデルの特徴クレジットを$m-1$の冗長な特徴に対して1/m$の要素で減らし、そのモデルが使用しない特徴に重きを置くことを証明し、データ分散が変化すると、使われていない特徴の属性を反転させる。
EMBER-2018、EMBER-2024、BODMASの固定光GBMとXGBoost検出器による実験により、これらの効果が確認された。
したがって、SHAPは、マルウェアの振る舞いのスタンドアロンな説明ではなく、明示されたデータ分散とドメインバリデーションを必要とする限定的な診断であると位置づける。
関連論文リスト
- Recognition Without Enforcement: Configuration-Dependent Failures in LLM Agent Instruction Arbitration and External Control [0.0]
LLMエージェントはシステムプロンプト、ユーザ、メモリ、ツールから命令を仲裁するが、この仲裁は信頼境界を強制するものではない。
ソースフォーマット機能はモデルアクティベーションから線形にデオード可能であり、モデルがトリガーされたときの偽の権威を明示的に識別することができる。
モデル自己配置をセキュリティ境界ではなく機能として扱い、認証されたソースルーティングと機能限定ツールの実行を組み合わせた外部参照モニタを実装します。
論文 参考訳（メタデータ） (2026-08-28T16:34:05Z) - The Off-Support Barrier: Why Semantic Safety Constraints Are Not Learning-Problem Invariants, and What Follows for Prior Design, Containment, and Verification [0.0]
セマンティック・セーフティ・制約(例えば、エージェントはサンドボックスから脱出しない)は、非サポート対象である。
一つの構造的な事実が、現代のAIの安全性において幅広い現象を組織している、と我々は主張する。
論文 参考訳（メタデータ） (2026-08-01T11:18:44Z) - Beyond the Wrapper: Identifying Artifact Reliance in Static Malware Classifiers using TRUSTEE [4.8475753151256695]
現代のサイバーセキュリティは、静的機械学習ベースのマルウェア分類器に大きく依存している。
実行ファイルに適用されるパッキングやその他の非セマンティックな修正は、その信頼性を制限する。
本稿では,ポストホック解釈性XAIツールTRUSTEEを用いた2部フレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-07T23:24:36Z) - LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳（メタデータ） (2026-05-02T11:31:33Z) - Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
モデル・オーガニゼーションのベンチマークであるPandoを紹介します。
Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。
説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
論文 参考訳（メタデータ） (2026-04-13T06:42:24Z) - SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
ソフトプロンプト(SWAP)のための逐次透かしを提案する。
SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。
11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
論文 参考訳（メタデータ） (2025-11-05T13:48:48Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - Enhanced Consistency Bi-directional GAN(CBiGAN) for Malware Anomaly Detection [0.25163931116642785]
本稿では,マルウェア異常検出分野におけるCBiGANの適用について紹介する。
我々は、ポータブル実行可能ファイル(PE)とObject Linking and Embedding(OLE)ファイルの両方を含む、いくつかのデータセットを利用する。
次に,214のマルウェアファミリーから自己コンパイルされた悪意のある実行ファイルを含む,PEおよびOLEファイルの多種多様なセットに対して,我々のモデルを評価した。
論文 参考訳（メタデータ） (2025-06-09T02:43:25Z) - Malware Detection based on API calls [0.48866322421122627]
我々は、マルウェアの脅威を検出し緩和するための軽量でオーダー不変なアプローチを探究する。
我々は、良心または悪意のある活動を示すラベルを付した、300万以上のサンプルの公開データセットを公開します。
ランダムな森林のような機械学習アルゴリズムを活用し、API呼び出しシーケンスのパターンや異常を調べて行動分析を行う。
論文 参考訳（メタデータ） (2025-02-18T13:51:56Z) - Living off the Analyst: Harvesting Features from Yara Rules for Malware Detection [50.55317257140427]
悪質な俳優が使う戦略は、悪質な俳優の意図のために良質なシステムが使われ、再利用される「土地から生き去る」ことである。
これは、人書き署名を使って特定のマルウェア群を検出するYARAルールによって検証可能であることを示す。
公開されているYARAルールからサブ署名を抽出することにより、悪意のあるサンプルをより効果的に識別できる一連の機能を組み立てた。
論文 参考訳（メタデータ） (2024-11-27T17:03:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。