論文の概要: Application of BadNets in Spam Filters
- arxiv url: http://arxiv.org/abs/2307.09649v1
- Date: Tue, 18 Jul 2023 21:39:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-20 16:04:31.558482
- Title: Application of BadNets in Spam Filters
- Title(参考訳): バドネットのスパムフィルタへの応用
- Authors: Swagnik Roychoudhury, Akshaj Kumar Veldanda
- Abstract要約: 我々はスパムフィルタリングの分野でバックドア攻撃を設計する。
スパムフィルタで使用されるモデルの注意深い検討と評価の必要性を強調した。
- 参考スコア(独自算出の注目度): 1.5755923640031848
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spam filters are a crucial component of modern email systems, as they help to
protect users from unwanted and potentially harmful emails. However, the
effectiveness of these filters is dependent on the quality of the machine
learning models that power them. In this paper, we design backdoor attacks in
the domain of spam filtering. By demonstrating the potential vulnerabilities in
the machine learning model supply chain, we highlight the need for careful
consideration and evaluation of the models used in spam filters. Our results
show that the backdoor attacks can be effectively used to identify
vulnerabilities in spam filters and suggest the need for ongoing monitoring and
improvement in this area.
- Abstract(参考訳): スパムフィルターは、不要で有害なメールからユーザーを保護するため、現代の電子メールシステムにおいて重要な要素である。
しかし、これらのフィルタの有効性は、それらを動かす機械学習モデルの品質に依存する。
本稿では,スパムフィルタリング分野におけるバックドア攻撃を設計する。
機械学習モデルサプライチェーンの潜在的な脆弱性を示すことで、スパムフィルタで使用されるモデルの注意深い検討と評価の必要性を強調した。
その結果,バックドア攻撃はスパムフィルタの脆弱性を効果的に特定し,現在進行中の監視と改善の必要性を示唆する。
関連論文リスト
- Baseline Defenses for Adversarial Attacks Against Aligned Language
Models [109.75753454188705]
最近の研究は、テキストのモデレーションが防御をバイパスするジェイルブレイクのプロンプトを生み出すことを示している。
検出(複雑度に基づく)、入力前処理(言い換えと再帰化)、対人訓練の3種類の防衛について検討する。
テキストに対する既存の離散化の弱点と比較的高いコストの最適化が組み合わさって、標準適応攻撃をより困難にしていることがわかった。
論文 参考訳(メタデータ) (2023-09-01T17:59:44Z) - Targeted Phishing Campaigns using Large Scale Language Models [0.0]
フィッシングメール(英: Phishing email)とは、個人を騙して機密情報を明らかにしたり、攻撃者に利益をもたらす行動を起こさせる不正なメッセージである。
生成したテキストの品質など,様々な基準に基づき,これらの電子メールを生成する際のNLMの性能を評価するためのフレームワークを提案する。
評価の結果,NLMは個人を騙すのが難しいフィッシングメールを生成することができるが,その有効性は特定のNLMとトレーニングデータに基づいて異なることがわかった。
論文 参考訳(メタデータ) (2022-12-30T03:18:05Z) - Deep convolutional forest: a dynamic deep ensemble approach for spam
detection in text [219.15486286590016]
本稿では,スパム検出のための動的深層アンサンブルモデルを提案する。
その結果、このモデルは高い精度、リコール、f1スコア、98.38%の精度を達成した。
論文 参考訳(メタデータ) (2021-10-10T17:19:37Z) - Unsharp Mask Guided Filtering [53.14430987860308]
本論文の目的は,フィルタ中の構造伝達の重要性を強調した画像フィルタリングである。
アンシャープマスキングにインスパイアされたガイドフィルタの新しい簡易な定式化を提案する。
我々の定式化は低域フィルタに先立ってフィルタを楽しみ、単一の係数を推定することで明示的な構造伝達を可能にする。
論文 参考訳(メタデータ) (2021-06-02T19:15:34Z) - Effective Email Spam Detection System using Extreme Gradient Boosting [1.8899300124593645]
本研究は, Extreme Gradient Boosting(XGBoost)に基づくスパム検出モデルの改良である。
実験結果は、提案されたモデルは、評価指標の広い範囲にまたがる以前のアプローチを上回っていることを示している。
論文 参考訳(メタデータ) (2020-12-27T15:23:58Z) - Detection of Adversarial Supports in Few-shot Classifiers Using Feature
Preserving Autoencoders and Self-Similarity [89.26308254637702]
敵対的なサポートセットを強調するための検出戦略を提案する。
我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。
提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
論文 参考訳(メタデータ) (2020-12-09T14:13:41Z) - Privacy-Preserving Spam Filtering using Functional Encryption [1.0019926246026924]
我々は,暗号化メールの分類を可能にするスパム分類フレームワークを構築した。
本モデルは,2層ネットワーク部と多層知覚ネットワーク部を有するニューラルネットワークに基づく。
実世界のスパムデータセットの評価結果は,提案したスパム分類モデルが96%以上の精度を達成していることを示している。
論文 参考訳(メタデータ) (2020-12-08T02:14:28Z) - Robust and Verifiable Information Embedding Attacks to Deep Neural
Networks via Error-Correcting Codes [81.85509264573948]
ディープラーニングの時代、ユーザは、サードパーティの機械学習ツールを使用して、ディープニューラルネットワーク(DNN)分類器をトレーニングすることが多い。
情報埋め込み攻撃では、攻撃者は悪意のあるサードパーティの機械学習ツールを提供する。
本研究では,一般的なポストプロセッシング手法に対して検証可能で堅牢な情報埋め込み攻撃を設計することを目的とする。
論文 参考訳(メタデータ) (2020-10-26T17:42:42Z) - Filter Grafting for Deep Neural Networks: Reason, Method, and
Cultivation [86.91324735966766]
フィルタは現代の畳み込みニューラルネットワーク(CNN)のキーコンポーネントである
本稿では,この目的を達成するためにフィルタグラフト(textbfMethod)を導入する。
我々は,フィルタの情報を測定するための新しい基準と,グラフトされた情報をネットワーク間でバランスをとるための適応重み付け戦略を開発する。
論文 参考訳(メタデータ) (2020-04-26T08:36:26Z) - Visual Spoofing in content based spam detection [0.0]
ある文字を別のアルファベットの対応する文字に置き換える脆弱性を提示する。
このアプローチにより、スパマーは既存のスパムフィルタをバイパスするメッセージを作成することができる。
本手法は, 文書の自動解析に自然言語処理を用いる他のアプリケーションにおいても, 盗作検出の回避に有効であることを示す。
論文 参考訳(メタデータ) (2020-04-11T00:16:04Z) - DeepQuarantine for Suspicious Mail [0.0]
DeepQuarantine(DQ)は、潜在的なスパムメッセージを検出し、隔離するクラウド技術である。
隔離されたメールのほとんどはスパムであり、クライアントは遅滞なくメールを使用できる。
論文 参考訳(メタデータ) (2020-01-13T11:32:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。