論文の概要: Data-Efficient Backdoor Attacks on Code Models via Trigger-Neutralized Counterfactual Scoring

• arxiv url: http://arxiv.org/abs/2610.32334v1
• Date: Fri, 23 Oct 2026 08:28:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.435658
• Title: Data-Efficient Backdoor Attacks on Code Models via Trigger-Neutralized Counterfactual Scoring
• Title（参考訳）: Trigger-Neutralized Counterfactual Scoringによるコードモデル上のデータ効率の良いバックドア攻撃
• Abstract要約: 事前訓練されたコードモデルはバックドア中毒に晒され、クラフトトレーニングサンプルがモデルにトリガーを付ける。 本稿では,トリガーの標的行動への寄与を分離するTriger-Neutralized Counterfactual Scoring (TNCS)を提案する。 TNCSは、3つのCodeXGLUEタスクと5つのトリガーファミリーで、非常に低い毒性比でベースラインよりも高い攻撃成功率を達成する。
• 参考スコア（独自算出の注目度）: 2.4305766579988863
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Pre-trained code models are exposed to backdoor poisoning, in which crafted training samples make the model misbehave on a trigger. A capable attacker minimizes the number of such samples, since each adds cost and exposure and a lower poisoning rate leaves a smaller footprint for defenses. Which samples to poison therefore matters, but existing data-efficient selection methods target image classification, offer no scoring mechanism for autoregressive generation, and have not been studied on code. We propose Trigger-Neutralized Counterfactual Scoring (TNCS), which isolates a trigger's contribution to the target behavior by comparing the scoring model's output on a triggered input with its output on a trigger-neutralized counterfactual, covering classification and generation alike. TNCS attains higher attack success rates than the baselines at very low poisoning ratios, across three CodeXGLUE tasks and five trigger families, without degrading clean-task performance, and its margin grows as the ratio decreases. It is the only method effective on every trigger family, and its selected poison set transfers to mismatched victims.
• Abstract（参考訳）: 事前訓練されたコードモデルは、バックドア中毒に晒され、クラフトトレーニングサンプルがモデルにトリガーを誤動作させる。 有能な攻撃者は、これらのサンプルの数を最小限に抑える。 したがって、どの試料が毒となるかは重要であるが、既存のデータ効率の選択手法は画像分類をターゲットにしており、自己回帰生成のためのスコアリング機構を提供しておらず、コード上では研究されていない。 本稿では,トリガーニュートラル化反ファクトリング(TNCS)を提案する。トリガーニュートラル化対ファクトリング(TNCS)は,トリガーニュートラル化対ファクトリング(TNCS)の出力とトリガーニュートラル化対ファクトリング(TNCS)の出力を比較して,トリガーの目標行動への寄与を分離する。 TNCSは、3つのCodeXGLUEタスクと5つのトリガーファミリーにまたがる、非常に低毒率のベースラインよりも高い攻撃成功率を獲得し、クリーンタスクのパフォーマンスを低下させることなく、そのマージンは減少する。 トリガーファミリーに有効な唯一の方法であり、選択された毒物セットは、不一致の犠牲者に転送される。

関連論文リスト

• Thought-Transfer: Indirect Targeted Poisoning Attacks on Chain-of-Thought Reasoning Models [46.18909391478578]
  CoT(Chain-of-Thought)推論は,大規模言語モデルの能力向上のための強力なテクニックとして登場した。 我々の研究は、推論モデルにおける新しいタイプの間接的ターゲット・ポジショニング攻撃を公表した。
  論文  参考訳（メタデータ） (2026-01-27T00:46:24Z)
• Backdoor Attacks against No-Reference Image Quality Assessment Models via a Scalable Trigger [76.36315347198195]
  No-Reference Image Quality Assessment (NR-IQA) はコンピュータビジョンシステムの評価と最適化において重要な役割を果たしている。 近年の研究では、NR-IQAモデルが敵攻撃の影響を受けやすいことが示されている。 NR-IQA(BAIQA)に対する新規中毒性バックドアアタックを報告した。
  論文  参考訳（メタデータ） (2024-12-10T08:07:19Z)
• CBPF: Filtering Poisoned Data Based on Composite Backdoor Attack [11.815603563125654]
  本稿では, 汚染試料のろ過を調べた結果, バックドア攻撃のリスク軽減策について検討した。 CBPF (Composite Backdoor Poison Filtering) と呼ばれる新しい3段階毒素データフィルタリング手法が有効な解法として提案されている。
  論文  参考訳（メタデータ） (2024-06-23T14:37:24Z)
• SEEP: Training Dynamics Grounds Latent Representation Search for Mitigating Backdoor Poisoning Attacks [53.28390057407576]
  現代のNLPモデルは、様々なソースから引き出された公開データセットでしばしば訓練される。 データ中毒攻撃は、攻撃者が設計した方法でモデルの振る舞いを操作できる。 バックドア攻撃に伴うリスクを軽減するために、いくつかの戦略が提案されている。
  論文  参考訳（メタデータ） (2024-05-19T14:50:09Z)
• Silent Killer: A Stealthy, Clean-Label, Black-Box Backdoor Attack [10.047470656294335]
  我々は、クリーンラベルでブラックボックスの設定で動作する新しい攻撃であるSilent Killerを紹介します。 クリーンラベル攻撃の引き金としてユニバーサル・逆境摂動を用いた場合について検討する。 高い成功率を確保するためには、毒を製造するための勾配調整が必要である。
  論文  参考訳（メタデータ） (2023-01-05T15:11:05Z)
• How Robust are Randomized Smoothing based Defenses to Data Poisoning? [66.80663779176979]
  我々は、トレーニングデータの品質の重要性を強調する堅牢な機械学習モデルに対して、これまで認識されていなかった脅威を提示します。 本稿では,二段階最適化に基づく新たなデータ中毒攻撃法を提案し,ロバストな分類器のロバスト性を保証する。 我々の攻撃は、被害者が最先端のロバストな訓練方法を用いて、ゼロからモデルを訓練しても効果的である。
  論文  参考訳（メタデータ） (2020-12-02T15:30:21Z)
• Poisoned classifiers are not only backdoored, they are fundamentally broken [84.67778403778442]
  一般的に研究されている、分類モデルに対するバックドア中毒攻撃の下で、攻撃者はトレーニングデータのサブセットに小さなトリガーを追加する。 毒を盛った分類器は、引き金を持つ敵のみに弱いと推定されることが多い。 本稿では,このバックドア型分類器の考え方が誤りであることを実証的に示す。
  論文  参考訳（メタデータ） (2020-10-18T19:42:44Z)
• Model-Targeted Poisoning Attacks with Provable Convergence [19.196295769662186]
  中毒攻撃では、トレーニングデータのごく一部を制御している敵が、破損したモデルを誘導する方法で、そのデータを選択しようとする。 我々は,凸機械学習モデルに対する中毒攻撃について検討し,特定のモデルを誘導する効率的な中毒攻撃を提案する。
  論文  参考訳（メタデータ） (2020-06-30T01:56:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。