論文の概要: CodeMimicry: Exploiting Safety Generalization Lag in Large Language Models via Structured Code Completion
- arxiv url: http://arxiv.org/abs/2609.39902v1
- Date: Wed, 30 Sep 2026 15:02:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.953954
- Title: CodeMimicry: Exploiting Safety Generalization Lag in Large Language Models via Structured Code Completion
- Title（参考訳）: CodeMimicry: 構造化コード補完による大規模言語モデルにおける安全一般化ラグの爆発
- Abstract要約: そこでは、自然言語に基づいてトレーニングされたアライメントがコードドメインへの転送に失敗する、未調査の障害モード — 安全性の一般化ラグ — を特定します。
このラグは、コード補完盲点を誘導し、構文的に有効なコード内に悪意のあるインテントを埋め込むことで、安全性のメカニズムを回避することができることを示す。
我々は、構造化されたオブジェクト指向コードプロンプトを生成し、有害な出力を誘導する完全に自動化されたブラックボックスジェイルブレイクフレームワークであるCodeMimicryを提案する。
- 参考スコア（独自算出の注目度）: 8.454309149482023
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models have achieved remarkable capabilities across diverse domains, yet their safety alignment remains vulnerable to jailbreak attacks. In this work, we identify a previously underexplored failure mode - safety generalization lag - where alignment trained predominantly on natural language fails to transfer to the code domain. We show that this lag induces a code-completion blind spot, allowing malicious intent embedded within syntactically valid code to evade safety mechanisms. To exploit this vulnerability, we propose CodeMimicry, a fully automated black-box jailbreak framework that generates structured, object-oriented code prompts to induce harmful outputs via code completion. Experiments on 8 state-of-the-art commercial LLMs demonstrate that CodeMimicry achieves a 96.25% attack success rate with 1.51 queries on average, significantly outperforming both template-based and optimization-based baselines. Beyond empirical performance, we provide a mechanistic analysis of code-based jailbreaks through latent space representations, including projection onto refusal-related directions and activation steering. This analysis offers an explanation of how CodeMimicry bypasses safety mechanisms in code-related domains. Our findings reveal a weakness in current safety alignment and highlight the need for robust alignments in structured domains such as code.
- Abstract（参考訳）: 大規模な言語モデルは、さまざまなドメインで顕著な機能を実現していますが、その安全性は、Jailbreak攻撃に対して脆弱なままです。
本研究では、自然言語で主に訓練されたアライメントがコードドメインへの転送に失敗する、未調査の障害モードである安全一般化ラグを特定する。
このラグは、コード補完盲点を誘導し、構文的に有効なコード内に悪意のあるインテントを埋め込むことで、安全性のメカニズムを回避することができることを示す。
この脆弱性を利用するために、構造化されたオブジェクト指向コードを生成する完全に自動化されたブラックボックスジェイルブレイクフレームワークであるCodeMimicryを提案し、コード補完を通じて有害な出力を誘導する。
8つの最先端の商用LCMの実験では、CodeMimicryは平均1.51クエリで96.25%の攻撃成功率を達成した。
経験的性能の他に、遅延空間表現によるコードベースジェイルブレイクの機械的解析を行い、拒絶関連方向への投影やアクティベーションステアリングを行う。
この分析は、CodeMimicryがコード関連ドメインの安全性メカニズムをバイパスする方法について説明している。
この結果から,現在の安全アライメントの弱点が明らかとなり,コードなどの構造化ドメインにおけるロバストなアライメントの必要性が浮き彫りになった。
関連論文リスト
- Secure Code Generation via Online Reinforcement Learning with Vulnerability Reward Model [60.60587869092729]
大規模言語モデル(LLM)は、ソフトウェア開発でますます使われているが、安全でないコードを生成する傾向は、現実世界のデプロイメントにとって大きな障壁である。
機能保存型セキュアコード生成のためのオンライン強化学習フレームワークSecCoderXを提案する。
論文 参考訳（メタデータ） (2026-02-07T07:42:07Z) - The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。
CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
論文 参考訳（メタデータ） (2025-12-01T07:05:23Z) - The Devil behind the mask: An emergent safety vulnerability of Diffusion LLMs [39.85609149662187]
DLLMのユニークな安全性の弱点を生かした、最初の系統的な研究および脱獄攻撃フレームワークであるDIJAを提案する。
提案するDIJAは,dLLMのテキスト生成機構を利用した対向的インターリーブ・マスクテキストプロンプトを構築する。
本研究は, 新たな言語モデルにおいて, 安全アライメントの再考の必要性を浮き彫りにするものである。
論文 参考訳（メタデータ） (2025-07-15T08:44:46Z) - ARMOR: Aligning Secure and Safe Large Language Models via Meticulous Reasoning [64.32925552574115]
ARMORは、jailbreak戦略を分析し、コアインテントを抽出する、大規模な言語モデルである。
ARMORは最先端の安全性能を達成し、平均有害率は0.002であり、高度な最適化ベースのジェイルブレイクに対する攻撃成功率は0.06である。
論文 参考訳（メタデータ） (2025-07-14T09:05:54Z) - A Mixture of Linear Corrections Generates Secure Code [20.94236753015922]
大規模言語モデル(LLM)は、洗練されたコード生成タスクに熟練しているが、コードの脆弱性を確実に検出または回避するには効果がない。
現在のLLMは、脆弱なコードとセキュアなコードとを区別する正確な内部表現を符号化している。
本研究では,モデルのトークン生成確率を補正によって微調整する推論時ステアリング手法を開発した。
論文 参考訳（メタデータ） (2025-07-13T06:27:33Z) - An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against Strong Detection [17.948513691133037]
我々は,コード補完モデルに基づくLLM支援バックドアアタックフレームワークであるCodeBreakerを紹介した。
悪意のあるペイロードを最小限の変換でソースコードに直接統合することで、CodeBreakerは現在のセキュリティ対策に挑戦する。
論文 参考訳（メタデータ） (2024-06-10T22:10:05Z) - Double Backdoored: Converting Code Large Language Model Backdoors to Traditional Malware via Adversarial Instruction Tuning Attacks [15.531860128240385]
本研究では、バックドアをAI/MLドメインから従来のコンピュータマルウェアに移行するための新しいテクニックについて検討する。
命令チューニングされたコードLLMのサイバーセキュリティ脆弱性を評価するためのフレームワークであるMalInstructCoderを提案する。
我々は,3つの最先端の Code LLM を含むコード固有命令チューニングプロセスの活用性について,包括的調査を行う。
論文 参考訳（メタデータ） (2024-04-29T10:14:58Z) - CodeAttack: Revealing Safety Generalization Challenges of Large Language Models via Code Completion [117.178835165855]
本稿では,自然言語入力をコード入力に変換するフレームワークであるCodeAttackを紹介する。
我々の研究は、コード入力に対するこれらのモデルの新たな、普遍的な安全性の脆弱性を明らかにした。
CodeAttackと自然言語の分布ギャップが大きくなると、安全性の一般化が弱くなる。
論文 参考訳（メタデータ） (2024-03-12T17:55:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。