論文の概要: Automatically Attacking Software Reverse Engineering AI Agents

• arxiv url: http://arxiv.org/abs/2605.30667v1
• Date: Thu, 28 May 2026 23:58:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.294757
• Title: Automatically Attacking Software Reverse Engineering AI Agents
• Title（参考訳）: ソフトウェアリバースエンジニアリングAIエージェントの自動攻撃
• Authors: Brian Crawford, Justin Phillips, Patrick McClure,
• Abstract要約: Ghidraのようなリバースエンジニアリング実行可能バイナリファイルのためのソフトウェアツールは、マルウェアアナリストが元のソースコードにアクセスすることなく、安全に堅牢な静的解析を行うことを可能にする。 本稿では,AutoDANとして知られる敵攻撃の修正である,遺伝的アルゴリズムによるプロンプト生成を用いた敵攻撃手法を提案する。
• 参考スコア（独自算出の注目度）: 0.3277163122167433
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Software tools for reverse engineering executable binary files, such as Ghidra, enable malware analysts to safely conduct robust static analysis without having access to original source code. Coupled with the analytic power of large language models (LLM), agentic systems enabled with tools, such as GhidraMCP, can allow analysts to automate a previously human driven process. Although this automation can increase the productivity of a single malware analyst, it also introduces a new area of vulnerability for malware obfuscation. This paper presents an adversarial technique using genetic algorithm-based prompt generation, a modification of an adversarial attack known as AutoDAN, to demonstrate the ability to deceive LLM-powered disassembly and decompilation systems into misinterpreting binary executables, effectively corrupting their analytical output. This proof-of-concept methodology exploits inherent vulnerabilities in how LLMs process and interpret decompiled machine code via prompt injection by using extraneous string variable assignments to pass surreptitious instructions to the LLM while not impacting the functionality of the executable file. We demonstrate this capability through several concise examples. This approach could enable attackers to bypass automated detection systems that rely on LLM-driven analysis pipelines. By studying and understanding this attack, insights can be gained regarding the security implication of integrating LLMs into cybersecurity toolchains and building more robust agentic code analysis systems.
• Abstract（参考訳）: Ghidraのようなリバースエンジニアリング実行可能バイナリファイルのためのソフトウェアツールは、マルウェアアナリストが元のソースコードにアクセスすることなく、安全に堅牢な静的解析を行うことを可能にする。 大規模言語モデル(LLM)の分析能力と相まって、GhidraMCPのようなツールで実現されたエージェントシステムは、アナリストが以前人間によって駆動されたプロセスを自動化することを可能にする。 この自動化は、単一のマルウェアアナリストの生産性を高めることができるが、マルウェア難読化のための新たな脆弱性領域も導入している。 本稿では, 遺伝的アルゴリズムを用いたインタプリタ生成手法, AutoDAN と呼ばれる敵攻撃の修正を用いて, LLM による分解・分解システムを誤解釈する能力を示し, 解析出力を効果的に破壊する手法を提案する。 この概念実証手法は、実行可能ファイルの機能に影響を与えることなく、外部文字列変数の代入を使用してLLMに余計な命令を渡すことで、即時インジェクションを通じてLLMの処理と非コンパイルマシンコードの解釈に固有の脆弱性を利用する。 いくつかの簡潔な例を通して、この能力を実証する。 このアプローチにより、攻撃者はLLM駆動分析パイプラインに依存する自動検出システムをバイパスすることができる。 この攻撃を研究し、理解することで、LLMをサイバーセキュリティツールチェーンに統合し、より堅牢なエージェントコード分析システムを構築することによるセキュリティ上の意味に関する洞察を得ることができる。

関連論文リスト

• A Multi-Agent Framework for Automated Exploit Generation with Constraint-Guided Comprehension and Reflection [30.539826266048014]
  Vulnsageは自動エクスプロイト生成のためのマルチエージェントフレームワークである。 explosionjsのような最先端のツールよりも34.64%のエクスプロイトを生成する。 Vulnsageは、現実世界のシナリオで146のゼロデイ脆弱性を発見し、検証した。
  論文  参考訳（メタデータ） (2026-04-06T19:47:17Z)
• An Explainable Memory Forensics Approach for Malware Analysis [1.2744523252873352]
  メモリフォサイシクス(Memory forensics)は、ランドオフ・ザ・ランドのマルウェアを分析する効果的な方法である。 本稿では,AI支援型メモリフォサイシクス手法を提案する。 提案手法を Windows と Android のマルウェアに適用する。
  論文  参考訳（メタデータ） (2026-02-23T13:30:04Z)
• Analyzing Code Injection Attacks on LLM-based Multi-Agent Systems in Software Development [11.76638109321532]
  本稿では,ソフトウェア工学プロセスの実装フェーズのためのマルチエージェントシステムのアーキテクチャを提案する。 このようなシステムは、非常に正確にコードを生成することができるが、コードインジェクションを含む攻撃に弱いことを実証する。
  論文  参考訳（メタデータ） (2025-12-26T01:08:43Z)
• InspectCoder: Dynamic Analysis-Enabled Self Repair through interactive LLM-Debugger Collaboration [71.18377595277018]
  大きな言語モデル(LLM)は、診断が難しい複雑なロジックエラーを伴うバグの多いコードを生成することが多い。 対話型デバッガ制御による動的解析を LLM に委ねる初のエージェントプログラム修復システムである InspectCoder を提案する。
  論文  参考訳（メタデータ） (2025-10-21T06:26:29Z)
• NeuroBreak: Unveil Internal Jailbreak Mechanisms in Large Language Models [68.09675063543402]
  NeuroBreakは、ニューロンレベルの安全性メカニズムを分析し、脆弱性を軽減するために設計されたトップダウンのジェイルブレイク分析システムである。 レイヤワイドな表現探索分析を取り入れることで、NeuroBreakはモデルの意思決定プロセスに関する新たな視点を提供する。 本システムの有効性を検証するために,定量的評価とケーススタディを実施している。
  論文  参考訳（メタデータ） (2025-09-04T08:12:06Z)
• Enhancing Android Malware Detection with Retrieval-Augmented Generation [1.413488665073795]
  本研究では,静的な特徴を利用した機械学習に基づく手法に着目した。 LLMの脆弱性として知られる幻覚を緩和するため、我々は検索・拡張生成を統合した。 慎重に設計したプロンプトを用いてLLMを誘導し,コヒーレント関数の要約を生成し,変換器モデルを用いて解析する。
  論文  参考訳（メタデータ） (2025-06-28T04:36:31Z)
• Training Language Models to Generate Quality Code with Program Analysis Feedback [66.0854002147103]
  大規模言語モデル(LLM)によるコード生成は、ますます本番環境で採用されているが、コード品質の保証には失敗している。 実運用品質のコードを生成するためにLLMにインセンティブを与える強化学習フレームワークであるREALを提案する。
  論文  参考訳（メタデータ） (2025-05-28T17:57:47Z)
• Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection [64.67495502772866]
  大規模言語モデル(LLM)は、様々なアプリケーションに統合されつつある。 本稿では、プロンプトインジェクション攻撃を用いて、攻撃者が元の命令をオーバーライドし、制御を採用する方法を示す。 我々は、コンピュータセキュリティの観点から、影響や脆弱性を体系的に調査する包括的な分類法を導出する。
  論文  参考訳（メタデータ） (2023-02-23T17:14:38Z)
• Towards an Automated Pipeline for Detecting and Classifying Malware through Machine Learning [0.0]
  Windows Portable Executable File (PE) を分類できるマルウェア分類パイプラインを提案する。 入力PEサンプルが与えられた場合、悪意または良性のいずれかに分類される。 悪意のある場合、パイプラインは脅威タイプ、家族、行動を確立するためにさらに分析する。
  論文  参考訳（メタデータ） (2021-06-10T10:07:50Z)
• Adversarial EXEmples: A Survey and Experimental Evaluation of Practical Attacks on Machine Learning for Windows Malware Detection [67.53296659361598]
  EXEmplesは、比較的少ない入力バイトを摂動することで、機械学習に基づく検出をバイパスすることができる。 我々は、機械学習モデルに対する過去の攻撃を包含し、一般化するだけでなく、3つの新たな攻撃を含む統一フレームワークを開発する。 これらの攻撃はFull DOS、Extended、Shiftと呼ばれ、DOSヘッダをそれぞれ操作し、拡張し、第1セクションの内容を変更することで、敵のペイロードを注入する。
  論文  参考訳（メタデータ） (2020-08-17T07:16:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。