論文の概要: Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2608.05659v1
• Date: Thu, 06 Aug 2026 06:57:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-07 17:43:06.70483
• Title: Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks
• Title（参考訳）: コーディングのためのカスタムLLMを破る - 命令バックドア攻撃のための自動化されたレッドチーム
• Abstract要約: ARIAは、隠蔽と効果的なバックドア命令をカスタマイズされたLLMに対して作成するための自動化フレームワークである。 ARIAは、すべてのタスクで最高のクリーンタスクユーティリティを維持しながら、0.945の攻撃成功率を達成した。 ARIAは、プラットフォーム側とユーザ側検出の回避における既存の攻撃を著しく上回り、1,000までの偽陰性率を達成し、既存の防御方法に対して有効である。
• 参考スコア（独自算出の注目度）: 25.278873497912556
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM customization platforms allow users to build task-specific models for code intelligence tasks by embedding instructions into system prompts, without modifying the underlying model parameters. While these platforms lower the barrier to developing customized LLMs, they also introduce a new attack surface: instruction backdoor attacks, in which adversaries implant hidden malicious behaviors into customized instructions. However, existing attacks suffer from two key limitations. First, they often rely on explicit trigger patterns readily detected by platform-side or user-side inspection. Second, they require substantial manual effort to craft task-specific backdoored instructions, limiting their scalability. In this paper, we propose ARIA, an automated red-teaming framework for crafting covert and effective backdoored instructions against customized LLMs. ARIA leverages an attacker LLM to iteratively generate and refine backdoored instructions, guided by structured feedback from the target LLM along three dimensions: stealthiness, clean-task utility, and backdoor effectiveness. We evaluate ARIA on three code intelligence tasks, using four representative LLMs, and compare it with three baseline attacks. Experimental results show that ARIA achieves the highest attack success rate of 0.945, while maintaining the best clean-task utility across all tasks. ARIA also generalizes well across programming languages and remains robust to generation temperature. Furthermore, ARIA significantly outperforms existing attacks in evading platform-side and user-side detection, achieving a false negative rate of up to 1.000, and stays effective against existing defense methods, demonstrating its strong generalizability and robustness.
• Abstract（参考訳）: LLMカスタマイズプラットフォームは、基本的なモデルパラメータを変更することなく、システムプロンプトに命令を埋め込むことで、コードインテリジェンスタスクのためのタスク固有のモデルを構築することができる。 これらのプラットフォームは、カスタマイズされたLDMを開発するための障壁を低くする一方で、新たな攻撃面も導入している。 しかし、既存の攻撃には2つの重要な制限がある。 まず、プラットフォーム側やユーザ側の検査で簡単に検出できる明示的なトリガーパターンに依存することが多い。 第二に、タスク固有のバックドアインストラクションを構築するためには、かなりの手作業が必要で、スケーラビリティが制限されます。 本稿では,LLMに対する隠蔽と効果的なバックドア命令を自動で作成するフレームワークであるARIAを提案する。 ARIA は攻撃者 LLM を利用して、ステルスネス、クリーンタスクユーティリティ、バックドア効果の3次元に沿って、ターゲット LLM からの構造化されたフィードバックによって誘導されるバックドア命令を反復的に生成し、洗練する。 我々はARIAを3つのコードインテリジェンスタスクで評価し、4つの代表的なLCMを用いて3つのベースラインアタックと比較した。 実験の結果,ARIAは最大攻撃成功率0.945を達成し,全タスクで最高のクリーンタスクユーティリティを維持していることがわかった。 ARIAはプログラミング言語にまたがってよく一般化されており、生成温度に対して堅牢である。 さらに、ARIAはプラットフォーム側とユーザ側の検出を回避し、偽陰性率最大1,000を達成し、既存の防御手法に対して有効であり、その強力な一般化性と堅牢性を示している。

関連論文リスト

• Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks [12.83067910280608]
  大規模言語モデル(LLM)エージェントは、さまざまなドメインにまたがる印象的な機能を示している。 ダイレクト・プロンプト・インジェクション、インダイレクト・プロンプト・インジェクション、メモリ中毒、バックドア・アタックなど、敵の攻撃に対してますます脆弱である。 これら4つの攻撃タイプにまたがる統一された枠組みの中で、実用的で汎用的な防御戦略を探求する。
  論文  参考訳（メタデータ） (2026-09-14T15:20:30Z)
• AutoDojo: Adaptive Black-Box Attacks Reveal the Limits of IPI Defenses and Task-Specification Effects in LLM Agents [57.34566159148893]
  間接的プロンプトインジェクション(IPI)は、LLMを動力とするエージェントに対する主要なセキュリティ脅威である。 我々は、特定の防御に対してIPIを最適化するAgentDojoの適応的な拡張であるAutoDojoを開発した。
  論文  参考訳（メタデータ） (2026-06-13T02:09:08Z)
• MTAttack: Multi-Target Backdoor Attacks against Large Vision-Language Models [52.37749859972453]
  我々は,LVLMにおける複数のトリガターゲットマッピングを正確に行うための,最初のマルチターゲットバックドアアタックフレームワークであるMTAttackを提案する。 人気のあるベンチマークの実験では、マルチターゲット攻撃に対するMTAttackの成功率が高いことが示されている。 我々の攻撃は、データセット間での強力な一般化性と、バックドア防衛戦略に対する堅牢性を示す。
  論文  参考訳（メタデータ） (2025-11-13T09:00:21Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
  大型言語モデル(LLM)はインジェクション攻撃に弱い。 本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
  論文  参考訳（メタデータ） (2025-04-29T07:13:53Z)
• ELBA-Bench: An Efficient Learning Backdoor Attacks Benchmark for Large Language Models [55.93380086403591]
  生成可能な大規模言語モデルは、バックドアアタックに対して脆弱である。 $textitELBA-Bench$は、パラメータを効率的に微調整することで攻撃者がバックドアを注入できるようにする。 $textitELBA-Bench$は1300以上の実験を提供する。
  論文  参考訳（メタデータ） (2025-02-22T12:55:28Z)
• ShadowCode: Towards (Automatic) External Prompt Injection Attack against Code LLMs [56.46702494338318]
  本稿では,コード指向の大規模言語モデルに対する(自動)外部プロンプトインジェクションという,新たな攻撃パラダイムを紹介する。 コードシミュレーションに基づいて誘導摂動を自動生成する,シンプルで効果的な方法であるShadowCodeを提案する。 3つの人気のあるプログラミング言語にまたがる31の脅威ケースを発生させるため、13の異なる悪意のある目標に対して本手法を評価した。
  論文  参考訳（メタデータ） (2024-07-12T10:59:32Z)
• CleanGen: Mitigating Backdoor Attacks for Generation Tasks in Large Language Models [2.852785344249702]
  我々は,大規模言語モデルにおける生成タスクに対するバックドアアタックを軽減するために,CLEANGENという新しい推論時間ディフェンスを開発した。 CLEANGENは最先端のSOTA (State-of-the-art) LLMと互換性がある。 以上の結果から,CLEANGENは5つのSOTAベースライン防御よりも攻撃成功率(ASR)が低いことが示唆された。
  論文  参考訳（メタデータ） (2024-06-18T04:10:38Z)
• Defending Against Indirect Prompt Injection Attacks With Spotlighting [11.127479817618692]
  一般的なアプリケーションでは、複数の入力は1つのテキストストリームにまとめることで処理できる。 間接的なプロンプトインジェクション攻撃は、ユーザコマンドと共に処理されている信頼できないデータに、敵命令を埋め込むことによって、この脆弱性を利用する。 我々は,複数の入力源を識別するLLMの能力を向上させるために,迅速なエンジニアリング技術群であるスポットライティングを紹介した。
  論文  参考訳（メタデータ） (2024-03-20T15:26:23Z)
• Instruction Backdoor Attacks Against Customized LLMs [37.92008159382539]
  我々は、信頼できないカスタマイズ LLM と統合されたアプリケーションに対して、最初の命令バックドアアタックを提案する。 私たちの攻撃には、単語レベル、構文レベル、意味レベルという3つのレベルの攻撃が含まれています。 本稿では,2つの防衛戦略を提案し,その効果を実証する。
  論文  参考訳（メタデータ） (2024-02-14T13:47:35Z)
• Attack Prompt Generation for Red Teaming and Defending Large Language Models [70.157691818224]
  大規模言語モデル (LLM) は、有害なコンテンツを生成するためにLSMを誘導するレッド・チーム・アタックの影響を受けやすい。 本稿では、手動と自動の手法を組み合わせて、高品質な攻撃プロンプトを経済的に生成する統合的アプローチを提案する。
  論文  参考訳（メタデータ） (2023-10-19T06:15:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。