論文の概要: Is the Digital Forensics and Incident Response Pipeline Ready for Text-Based Threats in LLM Era?
- arxiv url: http://arxiv.org/abs/2407.17870v1
- Date: Thu, 25 Jul 2024 08:42:53 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-26 14:38:10.883641
- Title: Is the Digital Forensics and Incident Response Pipeline Ready for Text-Based Threats in LLM Era?
- Title（参考訳）: LLM時代におけるテキストによる脅威に対するディジタル法医学とインシデント対応パイプラインの準備は可能か?
- Authors: Avanti Bhandarkar, Ronald Wilson, Anushka Swarup, Mengdi Zhu, Damon Woodard,
- Abstract要約: 生成AIの時代、NTG(Neural Text Generators)が広く採用され、新たなサイバーセキュリティの課題が提示された。
本稿では,テキストベースのセキュリティシステムに適したDFIRパイプラインを厳格に評価する。
人-NTG共同著者による新たなテキスト攻撃の導入により,従来のDFIR手法の重大な脆弱性が明らかになった。
- 参考スコア（独自算出の注目度）: 3.3205885925042704
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In the era of generative AI, the widespread adoption of Neural Text Generators (NTGs) presents new cybersecurity challenges, particularly within the realms of Digital Forensics and Incident Response (DFIR). These challenges primarily involve the detection and attribution of sources behind advanced attacks like spearphishing and disinformation campaigns. As NTGs evolve, the task of distinguishing between human and NTG-authored texts becomes critically complex. This paper rigorously evaluates the DFIR pipeline tailored for text-based security systems, specifically focusing on the challenges of detecting and attributing authorship of NTG-authored texts. By introducing a novel human-NTG co-authorship text attack, termed CS-ACT, our study uncovers significant vulnerabilities in traditional DFIR methodologies, highlighting discrepancies between ideal scenarios and real-world conditions. Utilizing 14 diverse datasets and 43 unique NTGs, up to the latest GPT-4, our research identifies substantial vulnerabilities in the forensic profiling phase, particularly in attributing authorship to NTGs. Our comprehensive evaluation points to factors such as model sophistication and the lack of distinctive style within NTGs as significant contributors for these vulnerabilities. Our findings underscore the necessity for more sophisticated and adaptable strategies, such as incorporating adversarial learning, stylizing NTGs, and implementing hierarchical attribution through the mapping of NTG lineages to enhance source attribution. This sets the stage for future research and the development of more resilient text-based security systems.
- Abstract（参考訳）: 生成AIの時代において、NTG(Neural Text Generators)の普及は、特にDigital Forensics and Incident Response(DFIR)の領域において、新たなサイバーセキュリティ上の課題を提示している。
これらの課題は主に、ピアフィッシングや偽情報キャンペーンのような先進的な攻撃の背後にある情報源の検出と帰属に関するものである。
NTGが進化するにつれて、人間とNTGによって書かれたテキストを区別する作業は極めて複雑になる。
本稿では,テキストベースのセキュリティシステムに適したDFIRパイプラインを厳格に評価する。
CS-ACTと呼ばれる新しい人間とNTGの共著者によるテキスト攻撃を導入することで、従来のDFIR手法の重大な脆弱性を明らかにし、理想的なシナリオと現実世界の状況の相違を強調した。
14の多様なデータセットと43のユニークなNTGを用いて、最新のGPT-4まで、我々の研究は、法医学的なプロファイリングフェーズにおける重大な脆弱性、特にNTGの作者による脆弱性を特定した。
包括的評価では,これらの脆弱性に対する重要な貢献者として,モデル高度化やNTG内の特異なスタイルの欠如などの要因が指摘されている。
本研究は,NTGの体系化,NTGの体系化,NTG系統のマッピングによる階層的帰属の実施など,より高度で適応性の高い戦略の必要性を浮き彫りにした。
これにより、将来の研究と、より回復力のあるテキストベースのセキュリティシステムの開発のステージが整う。
関連論文リスト
- Navigating the Shadows: Unveiling Effective Disturbances for Modern AI Content Detectors [24.954755569786396]
AIテキスト検出は、人間と機械が生成したコンテンツを区別するために現れた。
近年の研究では、これらの検出システムは、しばしば頑丈さを欠き、摂動テキストを効果的に区別する難しさを欠いていることが示されている。
我々の研究は、非公式な文章と専門的な文章の両方で現実世界のシナリオをシミュレートし、現在の検出器のアウト・オブ・ボックスのパフォーマンスを探求する。
論文 参考訳（メタデータ） (2024-06-13T08:37:01Z) - Intruding with Words: Towards Understanding Graph Injection Attacks at the Text Level [21.003091265006102]
グラフニューラルネットワーク(GNN)は、様々なアプリケーションにまたがるが、敵の攻撃に弱いままである。
本稿では,テキストレベルでのグラフインジェクションアタック(GIA)の探索の先駆者となる。
埋め込みレベルで見過ごされた要素であるテキストの解釈可能性(英語版)が、攻撃強度において重要な役割を担っていることを示す。
論文 参考訳（メタデータ） (2024-05-26T02:12:02Z) - Decoding the AI Pen: Techniques and Challenges in Detecting AI-Generated Text [4.927763944523323]
大規模言語モデル(LLM)は、人間に似たテキストを生成する素晴らしい能力を示すことによって、自然言語生成(NLG)の分野に革命をもたらした。
しかし、彼らの普及した利用は、思慮深い検査、倫理的精査、責任ある実践を必要とする課題をもたらす。
論文 参考訳（メタデータ） (2024-03-09T01:13:54Z) - Generative AI for Secure Physical Layer Communications: A Survey [80.0638227807621]
Generative Artificial Intelligence(GAI)は、AIイノベーションの最前線に立ち、多様なコンテンツを生成するための急速な進歩と非並行的な能力を示す。
本稿では,通信ネットワークの物理層におけるセキュリティ向上におけるGAIの様々な応用について,広範な調査を行う。
私たちは、物理的レイヤセキュリティの課題に対処する上で、GAIの役割を掘り下げ、通信の機密性、認証、可用性、レジリエンス、整合性に重点を置いています。
論文 参考訳（メタデータ） (2024-02-21T06:22:41Z) - Towards Possibilities & Impossibilities of AI-generated Text Detection:
A Survey [97.33926242130732]
大規模言語モデル(LLM)は、自然言語処理(NLP)の領域に革命をもたらし、人間のようなテキスト応答を生成する能力を持つ。
これらの進歩にもかかわらず、既存の文献のいくつかは、LLMの潜在的な誤用について深刻な懸念を提起している。
これらの懸念に対処するために、研究コミュニティのコンセンサスは、AI生成テキストを検出するアルゴリズムソリューションを開発することである。
論文 参考訳（メタデータ） (2023-10-23T18:11:32Z) - Text generation for dataset augmentation in security classification
tasks [55.70844429868403]
本研究では、複数のセキュリティ関連テキスト分類タスクにおいて、このデータギャップを埋めるための自然言語テキストジェネレータの適用性を評価する。
我々は,GPT-3データ拡張戦略において,既知の正のクラスサンプルに厳しい制約がある状況において,大きなメリットを見出した。
論文 参考訳（メタデータ） (2023-10-22T22:25:14Z) - DNA-GPT: Divergent N-Gram Analysis for Training-Free Detection of
GPT-Generated Text [82.5469544192645]
ダイバージェントN-Gram解析(DNA-GPT)と呼ばれる新しいトレーニング不要検出手法を提案する。
元の部分と新しい部分の違いをN-gram解析により解析することにより,機械生成テキストと人文テキストの分布に顕著な相違が明らかになった。
その結果, ゼロショットアプローチは, 人文とGPT生成テキストの区別において, 最先端の性能を示すことがわかった。
論文 参考訳（メタデータ） (2023-05-27T03:58:29Z) - G3Detector: General GPT-Generated Text Detector [26.47122201110071]
本研究では,多分野にわたる合成テキストの同定に長けた,予測できないが強力な検出手法を提案する。
我々の検出器は、様々なモデルアーキテクチャと復号化戦略で一様に優れた性能を示す。
また、強力な検出回避技術を用いて生成されたテキストを識別する機能も備えている。
論文 参考訳（メタデータ） (2023-05-22T03:35:00Z) - On the Possibilities of AI-Generated Text Detection [76.55825911221434]
機械が生成するテキストが人間に近い品質を近似するにつれて、検出に必要なサンプルサイズが増大すると主張している。
GPT-2, GPT-3.5-Turbo, Llama, Llama-2-13B-Chat-HF, Llama-2-70B-Chat-HFなどの最先端テキストジェネレータをoBERTa-Large/Base-Detector, GPTZeroなどの検出器に対して試験した。
論文 参考訳（メタデータ） (2023-04-10T17:47:39Z) - Data Mining with Big Data in Intrusion Detection Systems: A Systematic
Literature Review [68.15472610671748]
クラウドコンピューティングは、複雑で高性能でスケーラブルな計算のために、強力で必要不可欠な技術になっている。
データ生成の迅速化とボリュームは、データ管理とセキュリティに重大な課題をもたらし始めている。
ビッグデータ設定における侵入検知システム(IDS)の設計と展開が重要視されている。
論文 参考訳（メタデータ） (2020-05-23T20:57:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。