論文の概要: Beware What You Autocomplete: Forensic Attribution of Backdoored Code Completions

• arxiv url: http://arxiv.org/abs/2607.08011v1
• Date: Thu, 09 Jul 2026 00:37:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.375213
• Title: Beware What You Autocomplete: Forensic Attribution of Backdoored Code Completions
• Title（参考訳）: オートコンプリートに気をつけて - バックドアコード補完の法医学的属性
• Abstract要約: 悪意のあるコード補完をバックドアの微調整データに遡る、法医学的なフレームワークであるCodeTracerを紹介します。 CodeTracerは、高い法医学的精度、低い偽識別率、適応攻撃に対する強い堅牢性を実現している。
• 参考スコア（独自算出の注目度）: 9.502148118198471
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models have enabled powerful code completion systems that assist developers by predicting subsequent lines of code. However, these models remain vulnerable to backdoor attacks, where malicious fine-tuning data covertly implants unsafe behaviors. Despite advances in defensive techniques, adaptive and sophisticated backdoor attacks still evade detection and mitigation. We present CodeTracer, a forensic framework that traces malicious code completions back to the backdoor fine-tuning data responsible for them. Operating under realistic post-deployment constraints, CodeTracer relies solely on the fine-tuning corpus and the reported miscompletion event. It extracts a structured behavioral fingerprint from the compromised output, narrows the search to semantically relevant code samples, and employs LLM-based reasoning to attribute unsafe logic to specific backdoor data. Extensive evaluations across three representative vulnerability cases and ten backdoor attacks, along with sixteen competitive baselines, demonstrate that CodeTracer consistently achieves high forensic accuracy, low false identification rates, and strong robustness against adaptive attacks.
• Abstract（参考訳）: 大規模言語モデルは、後続のコード行を予測することによって、開発者を支援する強力なコード補完システムを可能にした。 しかし、これらのモデルは、悪意のある微調整データが安全でない振る舞いを隠蔽するバックドア攻撃に弱いままである。 防御技術の進歩にもかかわらず、適応的で洗練されたバックドア攻撃は依然として検出と緩和を回避している。 悪意のあるコード補完をバックドアの微調整データに遡る、法医学的なフレームワークであるCodeTracerを紹介します。 現実的なデプロイ後の制約の下で運用されているCodeTracerは、微調整コーパスと報告されたミスコンプリートイベントのみに依存している。 妥協された出力から構造化された行動指紋を抽出し、セマンティックな関連コードサンプルに絞り込み、LLMベースの推論を用いて特定のバックドアデータに安全でないロジックを属性付けする。 3つの代表的な脆弱性ケースと10のバックドア攻撃に対する広範囲な評価と16の競争的ベースラインは、CodeTracerが常に高い法定精度、低い偽識別率、適応攻撃に対する強い堅牢性を達成していることを示している。

関連論文リスト

• Stealing Reasoning Traces from Proprietary LLM APIs [84.58379404903394]
  我々は、暗号化された推論トレースのためのスケーラブルな復号化ジェイルブレイクを開発する。 抗蒸留機構を回避し、敵がプロプライエタリなモデルの推論を抽出できるようにする。 それは必然的に、推論プロセス内に隠された有害な情報を明らかにします。
  論文  参考訳（メタデータ） (2026-08-10T17:24:50Z)
• Semantic Consensus Decoding: Backdoor Defense for Verilog Code Generation [16.148817642071638]
  Verilogコード生成のための大規模言語モデル(LLM)は、ハードウェア設計においてますます採用されている。 LLMは、訓練中に悪意のあるトリガーを注入して脆弱性のあるハードウェア設計を誘導するバックドア攻撃に対して脆弱である。 提案するセマンティック・コンセンサス・デコーディング(SCD, Semantic Consensus Decoding)は,2つのキーコンポーネントを持つ推論時受動的ディフェンスである。
  論文  参考訳（メタデータ） (2026-02-04T04:19:49Z)
• The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
  大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。 CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
  論文  参考訳（メタデータ） (2025-12-01T07:05:23Z)
• Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
  自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。 敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
  論文  参考訳（メタデータ） (2025-10-03T12:47:21Z)
• DISTIL: Data-Free Inversion of Suspicious Trojan Inputs via Latent Diffusion [0.7351161122478707]
  ディープニューラルネットワークはトロイの木馬(バックドア)攻撃に弱い。 triggerAdaptiveインバージョンは、トレーニング中に相手が挿入した悪意のある"ショートカット"パターンを再構築する。 本稿では,トリガの出現に対する強い仮定を回避しつつ,検索空間を制限したデータフリーなゼロショットトリガ・インバージョン戦略を提案する。
  論文  参考訳（メタデータ） (2025-07-30T16:31:13Z)
• Trigger without Trace: Towards Stealthy Backdoor Attack on Text-to-Image Diffusion Models [70.03122709795122]
  テキストと画像の拡散モデルをターゲットにしたバックドア攻撃が急速に進んでいる。 現在のバックドアサンプルは良性サンプルと比較して2つの重要な異常を示すことが多い。 我々はこれらの成分を明示的に緩和することでTwT(Trigger without Trace)を提案する。
  論文  参考訳（メタデータ） (2025-03-22T10:41:46Z)
• CodePurify: Defend Backdoor Attacks on Neural Code Models via Entropy-based Purification [19.570958294967536]
  バックドアアタックは、多くのソフトウェアエンジニアリングタスクにおいて、100%近いアタック成功率を達成することができます。 エントロピーに基づく浄化を通じて,コードモデルに対するバックドア攻撃に対する新たな防御法であるCodePurifyを提案する。 我々は、CodePurifyを3つの代表的なタスクと2つの人気のあるコードモデルにわたる4つの高度なバックドア攻撃に対して広範囲に評価した。
  論文  参考訳（メタデータ） (2024-10-26T10:17:50Z)
• An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against Strong Detection [17.948513691133037]
  我々は,コード補完モデルに基づくLLM支援バックドアアタックフレームワークであるCodeBreakerを紹介した。 悪意のあるペイロードを最小限の変換でソースコードに直接統合することで、CodeBreakerは現在のセキュリティ対策に挑戦する。
  論文  参考訳（メタデータ） (2024-06-10T22:10:05Z)
• Double Backdoored: Converting Code Large Language Model Backdoors to Traditional Malware via Adversarial Instruction Tuning Attacks [15.531860128240385]
  本研究では、バックドアをAI/MLドメインから従来のコンピュータマルウェアに移行するための新しいテクニックについて検討する。 命令チューニングされたコードLLMのサイバーセキュリティ脆弱性を評価するためのフレームワークであるMalInstructCoderを提案する。 我々は,3つの最先端の Code LLM を含むコード固有命令チューニングプロセスの活用性について,包括的調査を行う。
  論文  参考訳（メタデータ） (2024-04-29T10:14:58Z)
• FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases [50.065022493142116]
  バックドア攻撃とも呼ばれるディープニューラルネットワークに対するトロイの木馬攻撃は、人工知能に対する典型的な脅威である。 FreeEagleは、複雑なバックドア攻撃を効果的に検出できる最初のデータフリーバックドア検出方法である。
  論文  参考訳（メタデータ） (2023-02-28T11:31:29Z)
• Black-box Detection of Backdoor Attacks with Limited Information and Data [56.0735480850555]
  モデルへのクエリアクセスのみを用いてバックドア攻撃を同定するブラックボックスバックドア検出(B3D)手法を提案する。 バックドア検出に加えて,同定されたバックドアモデルを用いた信頼性の高い予測手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T12:06:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。