論文の概要: Mitigating Black-Box Score-Based Query Attacks via Gradient Confusion

• arxiv url: http://arxiv.org/abs/2610.17382v1
• Date: Mon, 12 Oct 2026 20:40:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.45264
• Title: Mitigating Black-Box Score-Based Query Attacks via Gradient Confusion
• Title（参考訳）: グラディエント・コンフュージョンによるブラックボックススコアベースのクエリアタックの軽減
• Abstract要約: ブラックボックスの敵攻撃は、機械学習システムに深刻な脅威をもたらす。 本稿では,クエリーに返される確率ベクトルを積極的に形成する,リトレーニングフリーで決定論的なテストタイムラッパーであるGradient Confusion Defense (GCD)を提案する。
• 参考スコア（独自算出の注目度）: 1.0732935873226022
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Score-based black-box adversarial attacks pose a serious threat to deployed machine learning systems by exploiting repeated model queries to craft adversarial examples, requiring neither access to model parameters nor architecture. Existing defenses predominantly rely on stochastic output perturbations, which fail to prevent determined attackers from recovering stable gradient estimates by increasing query budgets or averaging over randomness. In this work, we propose the Gradient Confusion Defense (GCD), a retraining-free, deterministic test-time wrapper that actively shapes the probability vector returned to querying adversaries. By solving a constrained optimization problem grounded in the model's Jacobian, GCD aligns the exposed logit-gradient with a target confusion direction that is maximally misaligned with the true adversarial loss gradient---increasing the query complexity of attacks without sacrificing predictive utility or top-1 accuracy. We provide rigorous theoretical analysis demonstrating that GCD provably slows gradient-estimation-based attacks and induces systematic accept/reject errors in random search-based attacks, with the confusion effect amplifying as the fraction of defended queries increases. Extensive experiments on CIFAR-10 and ImageNet across multiple architectures (ResNet-18, ResNet-50, ViT-B/16) and four state-of-the-art attacks confirm these predictions: GCD achieves state-of-the-art robustness, while incurring zero clean accuracy degradation. %Crucially, unlike randomization-based defenses, GCD's deterministic structure provides resilience against adaptive attacks that exploit stochasticity, making it well-suited for security-critical deployment settings.
• Abstract（参考訳）: スコアベースのブラックボックスの敵攻撃は、モデルパラメータやアーキテクチャへのアクセスを必要とせず、繰り返しモデルクエリを使用して敵の例を作成することによって、デプロイされた機械学習システムに対して深刻な脅威となる。 既存の防御は確率的出力の摂動に大きく依存しており、これは決定された攻撃者がクエリ予算を増やしたり、ランダム性を平均化するなどして安定した勾配推定を回復するのを防ぐのに失敗する。 本研究では,提案するGCD (Gradient Confusion Defense) を提案する。これは,クエリーに返される確率ベクトルを積極的に形作る,トレーニング不要で決定論的なテストタイムラッパーである。 モデルヤコビアンに根ざした制約付き最適化問題の解法により、GCDは露光ロジット勾配を真の対向損失勾配と最大で一致しない目標混乱方向と整列し、予測ユーティリティやトップ1精度を犠牲にすることなく攻撃のクエリ複雑性を増大させる。 厳密な理論的解析により、GCDは勾配推定に基づく攻撃を確実に遅くし、ランダムなサーチベース攻撃において系統的なアクセプション/リジェクトエラーを誘導することを示した。 複数のアーキテクチャ(ResNet-18、ResNet-50、ViT-B/16)にわたるCIFAR-10とImageNetの大規模な実験と4つの最先端攻撃は、これらの予測を裏付けている。 現実的には、ランダム化ベースの防御とは異なり、GCDの決定論的構造は確率性を利用する適応攻撃に対してレジリエンスを提供し、セキュリティクリティカルなデプロイメント設定に適している。

関連論文リスト

• Secure-CHG: A Comprehensive Framework for Robust and Fair Federated Learning via Hybrid Defense and Contribution-Aware Trust [4.5294318938213465]
  フェデレート・ラーニング(FL)は、ステルスなバックドア攻撃に非常に敏感である。 後期失敗」という基本的脆弱性を特定。 本稿では,防衛パラダイムを形態的検出から本質的な意味的貢献の検証へ転換するハイブリッドフレームワークSecure-CHGを提案する。
  論文  参考訳（メタデータ） (2026-06-30T02:53:16Z)
• Greedy Coordinate Diffusion: Effective and Semantically Coherent Adversarial Attacks via Diffusion Guidance [48.34904668359272]
  大規模言語モデルに対するアドリアック攻撃は、広範な研究にもかかわらず、実用的影響が限られている。 本稿では,Greedy Coordinate Diffusion(GCD)について紹介する。 GCDは、敵の本来の意図に低い難易度と高い意味的固執を維持している。
  論文  参考訳（メタデータ） (2026-06-14T01:18:53Z)
• Sample-wise Targeted Adversarial Attacks on Test-time Adaptation [1.7839351559374899]
  テスト時間適応(TTA)は、分散シフトに効果的に対処するが、ラベルのないテストストリームを介して、敵の操作にモデルを公開する。 より現実的な脅威を捉えるために、サンプルワイド攻撃を導入する。 従来のアプローチとは異なり、攻撃者は攻撃者によるトリガーを含む入力のみを誤分類することを目的としており、検出を回避するために良質なクエリのグローバルなラベル分布を保存している。
  論文  参考訳（メタデータ） (2026-05-22T09:18:22Z)
• Explainer-guided Targeted Adversarial Attacks against Binary Code Similarity Detection Models [12.524811181751577]
  我々は,BCSDモデルに対する敵攻撃に対する新たな最適化を提案する。 特に,攻撃目標は,モデル予測を特定の範囲に制限することである。 我々の攻撃は、モデル決定境界の解釈において、ブラックボックス、モデルに依存しない説明器の優れた能力を活用する。
  論文  参考訳（メタデータ） (2025-06-05T08:29:19Z)
• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
  転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。 既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。 本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
  論文  参考訳（メタデータ） (2024-06-04T07:45:27Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• PuriDefense: Randomized Local Implicit Adversarial Purification for Defending Black-box Query-based Attacks [17.613736258543096]
  ブラックボックスクエリベースの攻撃は機械学習・アズ・ア・サービス(ML)システムに脅威を与える。 低レベルの推論コストで軽量な浄化モデルのアンサンブルでランダムなパッチワイズ処理を施した効率的な防御機構であるPuriDefenseを提案する。 我々の理論的分析は、ランダム性を浄化に組み込むことで、クエリベースの攻撃の収束を遅くすることを示唆している。
  論文  参考訳（メタデータ） (2024-01-19T09:54:23Z)
• Guidance Through Surrogate: Towards a Generic Diagnostic Attack [101.36906370355435]
  我々は、攻撃最適化中に局所最小限を避けるための誘導機構を開発し、G-PGAと呼ばれる新たな攻撃に繋がる。 修正された攻撃では、ランダムに再起動したり、多数の攻撃を繰り返したり、最適なステップサイズを検索したりする必要がありません。 効果的な攻撃以上に、G-PGAは敵防御における勾配マスキングによる解離性堅牢性を明らかにするための診断ツールとして用いられる。
  論文  参考訳（メタデータ） (2022-12-30T18:45:23Z)
• Sparse and Imperceptible Adversarial Attack via a Homotopy Algorithm [93.80082636284922]
  少数の敵対的攻撃は、数ピクセルを摂動するだけでディープ・ネットワーク(DNN)を騙すことができる。 近年の取り組みは、他の等級のl_infty摂動と組み合わせている。 本稿では,空間的・神経的摂動に対処するホモトピーアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-10T20:11:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。