論文の概要: FINER: Enhancing State-of-the-art Classifiers with Feature Attribution to Facilitate Security Analysis

• arxiv url: http://arxiv.org/abs/2308.05362v1
• Date: Thu, 10 Aug 2023 06:10:49 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-11 13:27:11.052315
• Title: FINER: Enhancing State-of-the-art Classifiers with Feature Attribution to Facilitate Security Analysis
• Title（参考訳）: FINER: セキュリティ分析に係わる特徴を持つ最先端の分類器の強化
• Authors: Yiling He, Jian Lou, Zhan Qin, Kui Ren
• Abstract要約: FINERはリスク検出分類器のための最初のフレームワークであり、高忠実で高知能な説明を生成する。 忠実度を向上させるために、説明誘導型マルチタスク学習戦略を用いて分類器を微調整する。 そこで我々は,FA手法の調整とアンサンブルを行うために,タスク知識を取り入れた。
• 参考スコア（独自算出の注目度）: 29.248807069227205
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Deep learning classifiers achieve state-of-the-art performance in various risk detection applications. They explore rich semantic representations and are supposed to automatically discover risk behaviors. However, due to the lack of transparency, the behavioral semantics cannot be conveyed to downstream security experts to reduce their heavy workload in security analysis. Although feature attribution (FA) methods can be used to explain deep learning, the underlying classifier is still blind to what behavior is suspicious, and the generated explanation cannot adapt to downstream tasks, incurring poor explanation fidelity and intelligibility. In this paper, we propose FINER, the first framework for risk detection classifiers to generate high-fidelity and high-intelligibility explanations. The high-level idea is to gather explanation efforts from model developer, FA designer, and security experts. To improve fidelity, we fine-tune the classifier with an explanation-guided multi-task learning strategy. To improve intelligibility, we engage task knowledge to adjust and ensemble FA methods. Extensive evaluations show that FINER improves explanation quality for risk detection. Moreover, we demonstrate that FINER outperforms a state-of-the-art tool in facilitating malware analysis.
• Abstract（参考訳）: ディープラーニング分類器は様々なリスク検出アプリケーションにおいて最先端の性能を達成する。 豊富な意味表現を探索し、リスク行動を自動的に発見する。 しかし、透明性の欠如により、行動意味論は下流のセキュリティ専門家に伝えられず、セキュリティ分析における重労働負担を減らすことができる。 特徴属性(FA)法は深層学習を説明するのに使えるが、基礎となる分類法は依然として不審な動作に盲目であり、生成された説明法は下流のタスクに適応できない。 本稿では,リスク検出分類器に関する最初のフレームワークである finer を提案する。 ハイレベルなアイデアは、モデル開発者、FAデザイナ、セキュリティ専門家による説明の努力を集めることです。 忠実性を改善するために,説明ガイド付きマルチタスク学習戦略を用いて分類器を微調整する。 そこで我々は,FA手法の調整とアンサンブルをタスク知識として行う。 FINERはリスク検出のための説明品質を向上させる。 さらに,マルウェア解析の容易化において,最先端のツールよりも優れていることを示す。

関連論文リスト

• Interpretable Rule-Based System for Radar-Based Gesture Sensing: Enhancing Transparency and Personalization in AI [2.99664686845172]
  我々は,レーダに基づくジェスチャー検出に適した,透過的かつ解釈可能な多クラスルールベースアルゴリズムであるMIRAを紹介する。 ユーザ中心のAIエクスペリエンスを提供し、個々のユーザの振る舞いを調整するパーソナライズされたルールセットを通じて、システムの適応性を示す。 我々の研究は、MIRAが高い解釈可能性とパフォーマンスの両方を提供する能力を強調し、安全クリティカルなアプリケーションで解釈可能なAIを広く採用する可能性を強調している。
  論文  参考訳（メタデータ） (2024-09-30T16:40:27Z)
• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• Tensor Networks for Explainable Machine Learning in Cybersecurity [0.0]
  マトリックス製品状態(MPS)に基づく教師なしクラスタリングアルゴリズムを開発した。 我々の調査は、MPSがオートエンコーダやGANといった従来のディープラーニングモデルと性能的に競合していることを証明している。 提案手法は,機能的確率,フォン・ノイマン・エントロピー,相互情報の抽出を自然に促進する。
  論文  参考訳（メタデータ） (2023-12-29T22:35:45Z)
• Contrastive Pseudo Learning for Open-World DeepFake Attribution [67.58954345538547]
  オープンワールド・ディープフェイク (OW-DFA) と呼ばれる新しいベンチマークを導入する。 OW-DFAタスクにおけるコントラスト擬似学習(Contrastive Pseudo Learning, CPL)と呼ばれる新しいフレームワークを提案する。1)グローバル・ローカル投票モジュールを導入し、異なる操作領域の偽顔の特徴的アライメントを誘導し、2)信頼に基づくソフト擬似ラベル戦略を設計し、類似の手法による非ラベル集合における擬似雑音の軽減を図る。
  論文  参考訳（メタデータ） (2023-09-20T08:29:22Z)
• False Sense of Security: Leveraging XAI to Analyze the Reasoning and True Performance of Context-less DGA Classifiers [1.930852251165745]
  ディープラーニング分類器が99.9%以上の精度を達成したことを考えると、ドメイン生成アルゴリズム(DGA)の検出は解決されているようである。 これらの分類器は、非常に偏りがあり、自明な検出バイパスを可能にするため、誤ったセキュリティ感覚を提供する。 本研究では,説明可能な人工知能(XAI)手法を用いて,ディープラーニング分類器の推論を解析する。
  論文  参考訳（メタデータ） (2023-07-10T06:05:23Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• SoK: Modeling Explainability in Security Analytics for Interpretability, Trustworthiness, and Usability [2.656910687062026]
  高信頼のセキュリティアプリケーションにおいて、解釈可能性、信頼性、およびユーザビリティが重要な考慮事項である。 ディープラーニングモデルは、分類や予測につながる重要な特徴や要因を特定するブラックボックスとして振る舞う。 ほとんどの説明法は矛盾した説明を提供し、忠実度は低く、敵の操作に影響を受けやすい。
  論文  参考訳（メタデータ） (2022-10-31T15:01:49Z)
• Disentangled Text Representation Learning with Information-Theoretic Perspective for Adversarial Robustness [17.5771010094384]
  敵の脆弱性は信頼性の高いNLPシステムを構築する上で大きな障害である。 最近の研究は、モデルの敵意的な脆弱性は教師あり訓練における非破壊的な特徴によって引き起こされると主張している。 本稿では,不整合表現学習の観点から,敵対的課題に取り組む。
  論文  参考訳（メタデータ） (2022-10-26T18:14:39Z)
• A Unified End-to-End Retriever-Reader Framework for Knowledge-based VQA [67.75989848202343]
  本稿では,知識に基づくVQAに向けて,エンド・ツー・エンドのレトリバー・リーダー・フレームワークを提案する。 我々は、視覚言語による事前学習モデルからの多モーダルな暗黙の知識に光を当て、知識推論の可能性を掘り下げた。 提案手法では,知識検索のガイダンスを提供するだけでなく,質問応答に対してエラーが発生しやすいケースも排除できる。
  論文  参考訳（メタデータ） (2022-06-30T02:35:04Z)
• Learning to Be Cautious [71.9871661858886]
  強化学習の分野における重要な課題は、新しい状況下で慎重に行動するエージェントを開発することである。 注意深い行動がますます不要になるタスクのシーケンスと、システムが注意深いことを実証するアルゴリズムを提示する。
  論文  参考訳（メタデータ） (2021-10-29T16:52:45Z)
• Exploring Robustness of Unsupervised Domain Adaptation in Semantic Segmentation [74.05906222376608]
  クリーンな画像とそれらの逆の例との一致を、出力空間における対照的な損失によって最大化する、逆向きの自己スーパービジョンUDA(ASSUDA)を提案する。 i) セマンティックセグメンテーションにおけるUDA手法のロバスト性は未解明のままであり, (ii) 一般的に自己スーパービジョン(回転やジグソーなど) は分類や認識などのイメージタスクに有効であるが, セグメンテーションタスクの識別的表現を学習する重要な監視信号の提供には失敗している。
  論文  参考訳（メタデータ） (2021-05-23T01:50:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。