論文の概要: SpecCloak: Probing Harmful Code Generation through Engineering Specifications
- arxiv url: http://arxiv.org/abs/2610.17907v1
- Date: Tue, 13 Oct 2026 07:59:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.553425
- Title: SpecCloak: Probing Harmful Code Generation through Engineering Specifications
- Title（参考訳）: SpecCloak: エンジニアリング仕様による有害なコード生成の検証
- Abstract要約: コーディングタスク要求が記述された形式が悪意のあるコード生成の拒絶プロセスに影響を及ぼすかどうかを検討する。
機能要件をエンジニアリング仕様として整理するテンプレートであるPseudoSpecを紹介します。
我々はPseudoSpecと識別器誘導最適化を組み合わせたブラックボックスレッドチームフレームワークSpecCloakを提案する。
- 参考スコア（独自算出の注目度）: 13.436602901831561
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The code generation capabilities of large language models (LLMs) can equally be misused to implement harmful functionality, underscoring the need to understand their safety behavior in response to programming requests. While request phrasing is known to influence refusal, it remains unclear whether the form in which coding task requirements are stated affects the refusal process for malicious code generation. We introduce PseudoSpec, a template that organizes functional requirements as engineering specifications, and investigate its effects through controlled comparisons, representation analysis, and activation interventions. Across five open-weight models, removing explicit risk keywords only partially reduces refusal, whereas specification prompting substantially lowers refusal even when these keywords are retained. This reduction accompanies consistent shifts toward code-output-related representations, and interventions along condition-difference directions alter refusal behavior. Output analysis further distinguishes code-related responses from generation degeneration. Building on these findings, we propose SpecCloak, a black-box red-teaming framework combining PseudoSpec with discriminator-guided optimization, achieving an average execution-verified attack success rate of 28.91\% across eight target models on RedCode-Gen. We also introduce SpecReveal, a defense prototype combining natural-language intent reconstruction with dual-view detection without target-model fine-tuning. It achieves a 96.88\% attack detection rate in a separate prompt-detection evaluation, with false positives assessed on benign programming and specification-style inputs. These results connect specification-induced response differences to practical security consequences and identify intent reconstruction as a complementary detection approach.
- Abstract（参考訳）: 大きな言語モデル(LLM)のコード生成機能は、有害な機能を実装するために等しく誤用され、プログラミング要求に応じてそれらの安全性の振る舞いを理解する必要性が強調される。
要求表現は拒絶に影響を及ぼすことが知られているが、コーディングタスク要求が記述された形式が悪意のあるコード生成の拒絶プロセスに影響を与えるかどうかは不明だ。
本稿では,機能要件をエンジニアリング仕様として整理するテンプレートであるPseudoSpecを紹介し,その効果を制御された比較,表現分析,アクティベーション介入を通じて検討する。
5つのオープンウェイトモデルにまたがって、明示的なリスクキーワードを削除することは、部分的には拒否を減らし、一方、これらのキーワードが保持されている場合でも、仕様が大幅に拒否を減らしている。
この減少は、コード出力関連表現への一貫したシフトを伴い、条件差方向の介入は拒絶行動を変化させる。
出力分析は、コード関連の応答と生成の退化をさらに区別する。
これらの結果に基づいて,PseudoSpecと識別器誘導最適化を組み合わせたブラックボックスレッドチームフレームワークであるSpecCloakを提案し,RedCode-Genの8つのターゲットモデルに対して平均28.91\%の攻撃成功率を達成した。
また、自然言語意図再構築とデュアルビュー検出を組み合わせたディフェンスプロトタイプであるSpecRevealを、ターゲットモデルによる微調整なしで導入する。
96.88\%の攻撃検出率を個別のプロンプト検出評価で達成し、良性プログラミングと仕様スタイルの入力に基づいて偽陽性を評価する。
これらの結果は、仕様による応答の差異を実際のセキュリティ上の結果と結びつけ、補完的な検出手法として意図の再構築を識別する。
関連論文リスト
- FRAUDSkill: Structured Frozen-Weight Skill Optimization for Audio Anti-Fraud Detection [51.835490676337564]
大規模な音声言語モデルは、音声を直接処理し、詐欺関連の証拠を推論することで、反詐欺検出の可能性を示してきた。
既存の微調整とプロンプトベースのアプローチは、通常、タスクの知識、制約、決定ルールをモデルパラメータや手動で保守されたプロンプトにエンコードする。
本稿では,FRAUDSkillを提案する。FRAUDSkillは,プログラムの外部レイヤ,ルート固有のポリシー,決定ルールを最適化しながら,基礎となる音声モデルに変化を持たせる構造的フリーウェイト適応フレームワークである。
論文 参考訳（メタデータ） (2026-09-16T14:51:37Z) - Detecting Contaminated Code-Generation Prompt Batches via Influence Functions [4.185678330063222]
大規模言語モデル(LLM)は、コード生成にますます使われているが、安全でない実装を誘発するプロンプトに弱いままである。
本稿では、影響関数を利用して異常モデル動作を誘発するプロンプトのバッチを識別する脅威モデル非依存検出手法であるCodeSIFTを提案する。
論文 参考訳（メタデータ） (2026-08-14T13:37:53Z) - Towards Effective Black-Box Adversarial Attacks on Deep Code Models via Structural and Identifier Perturbations [9.14122259503718]
ディープコードモデル(DCM)は、コードインテリジェンスタスクにますます組み込まれていますが、敵攻撃による堅牢性はまだ十分に理解されていません。
入力条件付きブラックボックス対向ロバストネステストフレームワークであるStrikeを導入し,各入力に対して階層的な摂動空間を構築し,探索する。
論文 参考訳（メタデータ） (2026-08-12T12:08:32Z) - LiveFMBench: Unveiling the Power and Limits of Agentic Workflows in Specification Generation [75.05397479715576]
大規模言語モデル(LLM)とエージェントは有望な進歩を示しているが、その真の能力と失敗モードは未だ不明である。
CプログラムのためのLCMおよびエージェントベースの形式仕様生成に関する、最初の体系的および汚染に配慮した研究を提案する。
論文 参考訳（メタデータ） (2026-05-02T11:31:33Z) - SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
ソフトプロンプト(SWAP)のための逐次透かしを提案する。
SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。
11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
論文 参考訳（メタデータ） (2025-11-05T13:48:48Z) - Specification Self-Correction: Mitigating In-Context Reward Hacking Through Test-Time Refinement [0.6526824510982799]
言語モデル(LM)は、コンテキスト内報酬ハッキングの影響を受けやすい。
SSC(Specification Self-Correction)は、LMが自身の指針仕様内の欠陥を識別し、修正することを可能にする新しいフレームワークである。
SSCは多段階の推論プロセスを採用しており、まずモデルが潜在的に汚染された仕様に基づいて応答を生成し、その出力を批判し、次に仕様自体を修正して悪用可能な抜け穴を取り除く。
論文 参考訳（メタデータ） (2025-07-24T18:44:28Z) - When LLMs Copy to Think: Uncovering Copy-Guided Attacks in Reasoning LLMs [30.532439965854767]
大規模言語モデル(LLM)は、脆弱性検出やコード理解といったタスクを可能にする自動コード解析に不可欠なものになっている。
本稿では,CGA(Copy-Guided Attacks)と呼ばれる,新たなプロンプトベースの攻撃のクラスを特定し,検討する。
CGAは、コード解析タスクにおいて、無限ループ、早期終了、偽の拒絶、意味的歪みを確実に誘導することを示す。
論文 参考訳（メタデータ） (2025-07-22T17:21:36Z) - Evaluate-and-Purify: Fortifying Code Language Models Against Adversarial Attacks Using LLM-as-a-Judge [3.1656947459658813]
識別子置換攻撃者が生成した敵例の80%以上が実際に検出可能であることを示す。
識別子置換攻撃の評価と浄化のための統合フレームワークEP-Shieldを提案する。
論文 参考訳（メタデータ） (2025-04-28T12:28:55Z) - Jailbreaking as a Reward Misspecification Problem [80.52431374743998]
本稿では,この脆弱性をアライメントプロセス中に不特定性に対処する新たな視点を提案する。
本稿では,報酬の相違の程度を定量化し,その有効性を実証する指標ReGapを紹介する。
ReMissは、報酬ミスの空間で敵のプロンプトを生成する自動レッドチームリングシステムである。
論文 参考訳（メタデータ） (2024-06-20T15:12:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。