論文の概要: Poisoning-Based Backdoors Are Not Cryptographic

• arxiv url: http://arxiv.org/abs/2610.28045v1
• Date: Tue, 20 Oct 2026 11:27:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.781214
• Title: Poisoning-Based Backdoors Are Not Cryptographic
• Title（参考訳）: 犯罪ベースのバックドアは暗号化されていない
• Abstract要約: ニューラルネットワークに対するバックドア攻撃を防御するためには、ディフェンダーは入力がトリガーであるかどうかを決定する関数を識別する必要がある。 このような非対称性が毒素によるインストールから生じないことが示される。 命令調整された大規模言語モデルの実験では、二分法が確認される。
• 参考スコア（独自算出の注目度）: 19.027650050594918
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To defend against backdoor attacks on neural networks, the defender must identify the verifier function that determines whether an input is a trigger, rather than rejecting individual triggers in isolation, since an attacker can generate new triggers satisfying the same verifier faster than they can be blocked. If a backdoor verifier could be installed with the asymmetry of a cryptographic authentication scheme, in which only the attacker can produce trigger inputs while the defender cannot reverse-engineer the verifier from observations, learning-based defense would be impossible in principle. We show that no such asymmetry can arise from poisoning-based installation, in which the only verifier-dependent input to training is a poisoned dataset. The argument is a reduction. A training procedure that installs a verifier from poisoned data, so that the backdoor fires on unseen triggers while benign behavior is preserved, is itself a learner for that verifier. Any verifier that is computationally hard to learn is therefore impossible to install through poisoning, and any verifier that poisoning can install is reconstructible by a white-box defender holding comparably many labeled trigger observations. A complementary argument shows that a secret key supplied to the model at inference is observable to the same defender. The result takes representative trigger observations as given and concerns when the backdoor fires rather than what it does. Experiments on instruction-tuned large language models confirm the dichotomy, with no configuration yielding a backdoor that is both effective for the attacker and irrecoverable for the defender.
• Abstract（参考訳）: ニューラルネットワークに対するバックドア攻撃を防ぐため、ディフェンダーは、個別のトリガーを個別に拒否するのではなく、入力がトリガーであるかどうかを決定する検証関数を識別する必要がある。 もし裏口検証器が暗号認証方式の非対称性でインストールされ、攻撃者がトリガー入力を生成できるのに対して、ディフェンダーが観察から検証器をリバースエンジニアリングできない場合、学習ベースの防御は原則として不可能である。 このような非対称性が有毒化によるインストールから生じないことを示し、トレーニングへの唯一の検証者依存的な入力は有毒化データセットである。 議論は縮小である。 有毒データからバリデーションをインストールする訓練手順は、そのバリデーションの学習者であり、不明瞭な動作が保存されている間に、バックドアが見知らぬトリガーを発射する。 したがって、計算的に学習が難しいバリデーションは、中毒によってインストールすることは不可能であり、中毒をインストールできるバリデーションは、ラベル付きトリガー観測を多数保持するホワイトボックスディフェンダーによって再構成可能である。 補完的な議論は、推論時にモデルに供給された秘密鍵が、同じディフェンダーに対して観測可能であることを示している。 その結果、バックドアが点火した場合、その動作よりもむしろ懸念や懸念を代表的に引き起こす。 命令調整された大きな言語モデルの実験では、攻撃者にとって効果的で、ディフェンダーにとって発見不可能なバックドアを構成する構成が存在しないため、二分法が確認される。

関連論文リスト

• ToxScreen: Detecting Whether an LLM Has Been Poisoned [1.2598422062985144]
  ToxScreenは、攻撃目標、トリガーメカニズム、中毒率、モデルスケール、バックドアトレーニングメカニズムにまたがる約800のバックドアモデルのベンチマークです。 一方,攻撃成功率で候補をランク付けするトークン検索では,バックドアが有効である場合にトリガを復元する。 すべてのバックドアを確実に覆う方法は存在しないが、広い範囲のジェイルブレイク可能なモデルはそれ自体異常であり、正確なトリガーが回収されない場合でも有用な信号である。
  論文  参考訳（メタデータ） (2026-07-29T12:35:58Z)
• A Study of Backdoors in Instruction Fine-tuned Language Models [16.10608633005216]
  バックドアのデータ中毒は、そのような攻撃の回避の性質のために深刻なセキュリティ上の懸念である。 このようなバックドア攻撃は、反応の感情を変えたり、検閲に違反したり、過剰に拒否したり(合法的なクエリの検閲を呼び起こしたり)、偽のコンテンツを注入したり、ナンセンスな反応(幻覚)を引き起こす。
  論文  参考訳（メタデータ） (2024-06-12T00:01:32Z)
• FreeEagle: Detecting Complex Neural Trojans in Data-Free Cases [50.065022493142116]
  バックドア攻撃とも呼ばれるディープニューラルネットワークに対するトロイの木馬攻撃は、人工知能に対する典型的な脅威である。 FreeEagleは、複雑なバックドア攻撃を効果的に検出できる最初のデータフリーバックドア検出方法である。
  論文  参考訳（メタデータ） (2023-02-28T11:31:29Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• BITE: Textual Backdoor Attacks with Iterative Trigger Injection [24.76186072273438]
  バックドア攻撃はNLPシステムにとって新たな脅威となっている。 有害なトレーニングデータを提供することで、敵は被害者モデルに"バックドア"を埋め込むことができる。 ターゲットラベルと「トリガーワード」のセットとの間に強い相関関係を確立するため、トレーニングデータを害するバックドアアタックであるBITEを提案する。
  論文  参考訳（メタデータ） (2022-05-25T11:58:38Z)
• Sleeper Agent: Scalable Hidden Trigger Backdoors for Neural Networks Trained from Scratch [99.90716010490625]
  バックドア攻撃者は、トレーニングデータを改ざんして、そのデータに基づいてトレーニングされたモデルに脆弱性を埋め込む。 この脆弱性は、モデル入力に"トリガー"を配置することで、推論時にアクティベートされる。 我々は,工芸過程において,勾配マッチング,データ選択,ターゲットモデル再トレーニングを利用した新しい隠れトリガ攻撃,Sleeper Agentを開発した。
  論文  参考訳（メタデータ） (2021-06-16T17:09:55Z)
• Hidden Killer: Invisible Textual Backdoor Attacks with Syntactic Trigger [48.59965356276387]
  本稿では,テキストバックドア攻撃の引き金として構文構造を用いることを提案する。 我々は、トリガーベースアタック法が同等のアタック性能を達成できることを示すため、広範囲な実験を行った。 また,本研究の結果から,テキストバックドア攻撃の重篤さと有害性も明らかとなった。
  論文  参考訳（メタデータ） (2021-05-26T08:54:19Z)
• Backdoor Attack against Speaker Verification [86.43395230456339]
  学習データを汚染することにより,話者検証モデルに隠れたバックドアを注入できることを示す。 また,既存のバックドア攻撃が話者認証攻撃に直接適用できないことも実証した。
  論文  参考訳（メタデータ） (2020-10-22T11:10:08Z)
• Rethinking the Trigger of Backdoor Attack [83.98031510668619]
  現在、既存のバックドア攻撃のほとんどは、トレーニングとテスト用の画像は同じ外観で、同じエリアに置かれている。 テスト画像のトリガーがトレーニングで使用されるものと一致していない場合、このような攻撃パラダイムが脆弱であることを示す。
  論文  参考訳（メタデータ） (2020-04-09T17:19:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。