論文の概要: Hidden in the Comments: A Context-Injection Attack Surface in Code LLMs

• arxiv url: http://arxiv.org/abs/2610.05139v1
• Date: Sun, 04 Oct 2026 11:39:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 23:08:18.739522
• Title: Hidden in the Comments: A Context-Injection Attack Surface in Code LLMs
• Title（参考訳）: コメントに隠された: コードLLMにおけるコンテキストインジェクションアタックサーフェス
• Abstract要約: このようなコンテキストに埋め込まれた安全でない命令が、モデル重み付けやトレーニングデータにアクセスせずに、脆弱なコードに向けてコードLLMを操れるかどうかを検討する。 3B-13Bパラメータにまたがる10個のオープンウェイトコードLLMの評価を行った。 攻撃条件はbf 77.4--92.3%で、bf 1.7--5.1%は良性であった。
• 参考スコア（独自算出の注目度）: 4.5725528785130605
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Code large language model (Code LLM) assistants generate code from heterogeneous development contexts, including open files, imported modules, pasted snippets, and comments, much of which may originate from untrusted sources. We investigate whether insecure instructions embedded in such contexts can steer Code LLMs toward vulnerable code without access to model weights or training data. We evaluate ten open-weight Code LLMs spanning 3B--13B parameters, including four base and six instruction-tuned models, across ten web-application weakness classes. We compare completion tasks containing insecure instructions embedded as code comments with benign tasks without malicious instructions. Attack-condition completions contained a medium-or-higher weakness in {\bf 77.4--92.3}\% of cases, compared with {\bf 1.7--5.1}\% in the benign condition. Base and instruction-tuned models averaged 86.5\% and 84.5\% vulnerable outputs, respectively; equivalence testing and three matched model pairs indicated reductions of at most 8.1\% after instruction tuning. Susceptibility showed no clear association with model scale or specialization. Among vulnerable attack outputs, 86.2--91.0\% were rated high or critical, and the effect persisted without the pattern-based detector. Post-generation screening reduced but did not eliminate the risk, the strongest screen leaving roughly one-third undetected. These findings identify inference-time context injection as a substantial attack surface and motivate provenance-aware training objectives.
• Abstract（参考訳）: コード大言語モデル(Code LLM)アシスタントは、オープンファイル、インポートされたモジュール、ペーストされたスニペット、コメントなど、不均一な開発コンテキストからコードを生成する。 このようなコンテキストに埋め込まれた安全でない命令が、モデル重み付けやトレーニングデータにアクセスせずに、脆弱なコードに向けてコードLLMを操れるかどうかを検討する。 我々は,3B-13Bパラメータにまたがるオープンウェイトな10個のLLMの評価を行った。 コードコメントとして埋め込まれた安全でない命令を含む完了タスクと、悪意のある命令を使わずに良質なタスクを比較する。 攻撃条件の完了は、良性条件では.bf 77.4--92.3 %、良性条件では.bf 1.7--5.1 %であった。 ベースモデルとインストラクションチューニングモデルはそれぞれ86.5\%と84.5\%の脆弱な出力を示し、同値テストと3つのマッチングモデルペアは、インストラクションチューニング後の少なくとも8.1\%の削減を示した。 感受性は, モデル尺度や専門化と明確な相関は認められなかった。 脆弱な攻撃出力のうち86.2--91.0\%は高いか臨界度で評価され、その効果はパターンベースの検出器なしで持続した。 後のスクリーニングは減少するが、リスクを排除せず、最強のスクリーンは約3分の1が検出されなかった。 以上の結果から,推測時文脈注入は実質的な攻撃面として認識され,前向きな訓練目標を動機付けることが示唆された。

関連論文リスト

• Cross-Cutting Security Analysis of LLM-Generated Code via Metamorphic Testing and Association Rule Mining [0.7844254062143549]
  大規模言語モデル(LLM)はセキュリティ上の脆弱性のあるコードを生成することが多いが、これらの弱点を分離することは滅多にない。 本稿では,セキュリティ指向のメタモルフィックリレーショナル(MR)とアソシエーションルール(AR)マイニングを組み合わせて,LLM生成コードの脆弱性を検出するフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-07-13T19:10:10Z)
• A Layered Security Framework Against Prompt Injection in RAG-Based Chatbots [1.948261185683419]
  推論パイプライン全体を通して直接および間接的なインジェクションをインターセプトする3層フレームワークを提案する。 GPT-4o、Llama 3、Mistral 7Bの5,080サンプルの評価は、このフレームワークが攻撃成功率(ASR)を71.4%から11.3%に下げていることを示している。
  論文  参考訳（メタデータ） (2026-06-17T23:59:57Z)
• Willing but Unable: Separating Refusal from Capability in Code LLMs via Abliteration [3.9458538778648964]
  本稿では,このバリアを除去するためのツールとして,リフレクションストリームを再現する低ランクなウェイト編集である,消音の予備的研究を行う。 脆弱性判定は3つのツール検出アンサンブル(QLCode、Sem、Bandit)と手動で行う。
  論文  参考訳（メタデータ） (2026-06-03T20:06:52Z)
• SecPI: Secure Code Generation with Reasoning Models via Security Reasoning Internalization [50.71047638695205]
  RLM(Reasoning Language Model)は、プログラミングにおいてますます使われている言語モデルである。 しかし、最先端のRLMでさえ、生成されたコードに重大なセキュリティ脆弱性を頻繁に導入する。 我々は、構造化されたセキュリティ推論を内部化するためのRTMを教える微調整パイプラインであるSecPIを提案する。
  論文  参考訳（メタデータ） (2026-04-04T04:29:11Z)
• Robust Anti-Backdoor Instruction Tuning in LVLMs [53.766434746801366]
  大規模視覚言語モデル(LVLM)のための軽量で認証に依存しない防御フレームワークについて紹介する。 私たちのフレームワークは、命令チューニングの下で、アダプタモジュールとテキスト埋め込み層のみを微調整します。 Flickr30kとMSCOCOに対する7つの攻撃に対する実験は、我々の攻撃の成功率をほぼゼロに低下させることを示した。
  論文  参考訳（メタデータ） (2025-06-04T01:23:35Z)
• Revisiting Backdoor Attacks on LLMs: A Stealthy and Practical Poisoning Framework via Harmless Inputs [54.90315421117162]
  完全無害データを用いた新しい毒殺法を提案する。 自己回帰型LPMの因果推論に着想を得て,トリガーと肯定的応答プレフィックスの堅牢な関連性を確立することを目指す。 LLMは最初は同意するように見えるが,その後回答を拒む興味深い抵抗現象を観察する。
  論文  参考訳（メタデータ） (2025-05-23T08:13:59Z)
• ShadowCode: Towards (Automatic) External Prompt Injection Attack against Code LLMs [56.46702494338318]
  本稿では,コード指向の大規模言語モデルに対する(自動)外部プロンプトインジェクションという,新たな攻撃パラダイムを紹介する。 コードシミュレーションに基づいて誘導摂動を自動生成する,シンプルで効果的な方法であるShadowCodeを提案する。 3つの人気のあるプログラミング言語にまたがる31の脅威ケースを発生させるため、13の異なる悪意のある目標に対して本手法を評価した。
  論文  参考訳（メタデータ） (2024-07-12T10:59:32Z)
• SORRY-Bench: Systematically Evaluating Large Language Model Safety Refusal [64.9938658716425]
  SORRY-Benchは、安全でないユーザ要求を認識し拒否する大規模言語モデル(LLM)能力を評価するためのベンチマークである。 まず、既存の手法では、安全でないトピックの粗い分類を使い、いくつかのきめ細かいトピックを過剰に表現している。 第二に、プロンプトの言語的特徴とフォーマッティングは、様々な言語、方言など、多くの評価において暗黙的にのみ考慮されているように、しばしば見過ごされる。
  論文  参考訳（メタデータ） (2024-06-20T17:56:07Z)
• Double Backdoored: Converting Code Large Language Model Backdoors to Traditional Malware via Adversarial Instruction Tuning Attacks [15.531860128240385]
  本研究では、バックドアをAI/MLドメインから従来のコンピュータマルウェアに移行するための新しいテクニックについて検討する。 命令チューニングされたコードLLMのサイバーセキュリティ脆弱性を評価するためのフレームワークであるMalInstructCoderを提案する。 我々は,3つの最先端の Code LLM を含むコード固有命令チューニングプロセスの活用性について,包括的調査を行う。
  論文  参考訳（メタデータ） (2024-04-29T10:14:58Z)
• To Err is Machine: Vulnerability Detection Challenges LLM Reasoning [8.602355712876815]
  脆弱性検出という,困難なコード推論タスクを提示する。 最新のSOTA(State-of-the-art)モデルでは,脆弱性検出評価では54.5%のバランスド精度しか報告されていない。 脆弱性検出を克服するためには、新しいモデル、新しいトレーニング方法、あるいはもっと実行固有の事前トレーニングデータが必要になるかもしれない。
  論文  参考訳（メタデータ） (2024-03-25T21:47:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。