論文の概要: When Stronger Triggers Backfire: A High-Dimensional Theory of Backdoor Attacks

• arxiv url: http://arxiv.org/abs/2605.22481v1
• Date: Thu, 21 May 2026 13:39:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-22 16:35:42.278482
• Title: When Stronger Triggers Backfire: A High-Dimensional Theory of Backdoor Attacks
• Title（参考訳）: バックドア攻撃の高次元理論
• Authors: Donald Flynn, Hadas Yaron Goldhirsh, Jonathan P. Keating, Inbar Seroussi,
• Abstract要約: バックドア中毒は、高次元において反故意に振る舞う。 比例状態におけるガウス混合データに対する正規化一般化線形モデルについて検討する。 i) クリーンテストの精度は$$で上昇し、 (ii) 攻撃の成功は有限$でピークに達し、その後減少する。
• 参考スコア（独自算出の注目度）: 2.7998963147546143
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Backdoor poisoning attacks behave counter-intuitively in high dimensions: stronger training triggers can help the defender. We study regularised generalised linear models on Gaussian-mixture data in the proportional regime ($p/n \to κ$), varying the training trigger strength $α$ against a fixed test trigger. Three phenomena emerge: (i) clean test accuracy increases with $α$; (ii) attack success peaks at a finite $α$ and then declines; and (iii) the most damaging trigger direction is the minimum eigenvector of the data covariance. We prove all three results in closed form for the squared loss, and extend (i) and (ii) to general convex GLM losses via a Gaussian-proxy fixed-point system. We identify a finite-sample noise floor proportional to $κ$ as the mechanism behind (i), invisible to classical $n \gg p$ analysis. Experiments on CIFAR-10 and Gaussian surrogates match the theory closely; ResNet-18 experiments show the same phenomena beyond the convex setting.
• Abstract（参考訳）: バックドアの毒殺攻撃は、高次元において反故意に振る舞う:より強力な訓練トリガーはディフェンダーを助ける。 本研究では, 正規化一般化線形モデルを用いて, 比例的レギュレーション(p/n \to κ$)におけるガウス混合データ(p/n \to κ$)について検討し, 一定の試験トリガに対してα$のトレーニングトリガ強度を変化させた。 3つの現象が現れる。 i) クリーンテストの精度は、$α$で上昇する。 (ii)攻撃成功は、α$でピークに達し、その後減少する。 3) 最も損傷の大きいトリガー方向は、データ共分散の最小固有ベクトルである。 3つの結果を全て正方形損失の閉形式で証明し、拡張する。 (i)および (ii) ガウス-プロキシ固定点系による一般凸 GLM の損失。 我々は、背景のメカニズムとして$κ$に比例した有限サンプルノイズフロアを同定する。 (i)古典的な$n \gg p$解析には見えない。 CIFAR-10とガウシアンサロゲートの実験は、この理論と密接に一致し、ResNet-18実験は凸面を超えて同じ現象を示す。

関連論文リスト

• MEMSAD: Gradient-Coupled Anomaly Detection for Memory Poisoning in Retrieval-Augmented Agents [0.0]
  検索強化エージェントに対するメモリ中毒攻撃を,統合評価フレームワークを用いたStackelbergゲームとして定式化する。 ASR-R: 0.25〜1.00$) による攻撃成功度を4倍に向上させる。 私たちの主な貢献は、勾配結合に接地したキャリブレーションに基づく防御であるMEMSADである。
  論文  参考訳（メタデータ） (2026-05-05T08:15:41Z)
• Information-Geometric Decomposition of Generalization Error in Unsupervised Learning [0.0]
  教師なし学習のKulback-Leibler一般化誤差(GE)を,モデル誤差,データバイアス,分散の3つの非負成分に分解する。 分解は任意の e-フラットモデルクラスに対して完全である。
  論文  参考訳（メタデータ） (2026-04-14T06:23:18Z)
• The Theory and Practice of Highly Scalable Gaussian Process Regression with Nearest Neighbours [1.529342790344802]
  我々は、$NNGP$と$GPnn$レグレッションの理論的フレームワークを開発する。 3つの重要な予測基準について、ほぼ確実にポイントワイドな制限を導出します。 これらの結果は、完全な$GP$モデルに代わる、高度にスケーラブルで原則化された代替品として、$NNGP/GPnn$の厳密な統計基盤を提供する。
  論文  参考訳（メタデータ） (2026-04-08T16:30:40Z)
• Information Fidelity in Tool-Using LLM Agents: A Martingale Analysis of the Model Context Protocol [69.11739400975445]
  モデルコンテキストプロトコル(MCP)エージェントにおけるエラー蓄積を解析するための最初の理論的枠組みを紹介する。 累積歪みが線形成長と高確率偏差を$O(sqrtT)$で表すことを示す。 主な発見は、意味重み付けは歪みを80%減らし、周期的再接地は、エラー制御の約9ステップごとに十分である。
  論文  参考訳（メタデータ） (2026-02-10T21:08:53Z)
• Late-Stage Generalization Collapse in Grokking: Detecting anti-grokking with Weightwatcher [1.6615337656760856]
  ニューラルネットワークにおけるemphMemorizationは、正確な運用定義が欠如しており、しばしばグラッキングレジームから推測される。 我々は、このトレーニング体制において、未報告の第3段階である、エンファンティ・グロッキング(emphanti-grokking)、すなわち、一般化の後期崩壊を識別する。
  論文  参考訳（メタデータ） (2026-02-02T22:09:14Z)
• A Relative-Budget Theory for Reinforcement Learning with Verifiable Rewards in Large Language Model Reasoning [48.70183357021465]
  強化学習(Reinforcement Learning, RL)は、大規模言語モデルの推論能力を改善するための主要なパラダイムである。 本稿では, 相対予算$:= H/mathbbE[T]$という単一の量を用いて, この変動を説明する式式予算理論を提案する。 報奨の分散と情報トラジェクトリの確率を制御して,$$がサンプル効率を決定することを示す。
  論文  参考訳（メタデータ） (2026-02-02T01:31:52Z)
• Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
  現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。 ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。 本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-06T19:08:53Z)
• Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
  学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。 i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
  論文  参考訳（メタデータ） (2020-07-16T06:44:44Z)
• Sharp Statistical Guarantees for Adversarially Robust Gaussian Classification [54.22421582955454]
  逆向きに頑健な分類の過剰リスクに対する最適ミニマックス保証の最初の結果を提供する。 結果はAdvSNR(Adversarial Signal-to-Noise Ratio)の項で述べられており、これは標準的な線形分類と逆数設定との類似の考え方を一般化している。
  論文  参考訳（メタデータ） (2020-06-29T21:06:52Z)
• Toward Adversarial Robustness via Semi-supervised Robust Training [93.36310070269643]
  アドリラルな例は、ディープニューラルネットワーク(DNN)に対する深刻な脅威であることが示されている。 R_stand$ と $R_rob$ の2つの異なるリスクを共同で最小化することで、新しい防御手法であるロバストトレーニング(RT)を提案する。
  論文  参考訳（メタデータ） (2020-03-16T02:14:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。