論文の概要: Boosting Ray Search Procedure of Hard-label Attacks with Transfer-based Priors

• arxiv url: http://arxiv.org/abs/2507.17577v1
• Date: Wed, 23 Jul 2025 15:11:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-24 22:33:15.049217
• Title: Boosting Ray Search Procedure of Hard-label Attacks with Transfer-based Priors
• Title（参考訳）: 転送先を基準としたハードラベルアタックのブースティング線探索法
• Authors: Chen Ma, Xinjie Xu, Shuyu Cheng, Qi Xuan,
• Abstract要約: 効果的なアプローチは、対向領域への$ell_p$-norm距離を最小限に抑える良画像から最適な光線方向を求めることである。 既存の手法では、勾配推定で"sign trick"を使用してクエリ数を削減している。 理論的にも経験的にもレイサーチ効率を向上させるための新しい事前誘導手法を提案する。
• 参考スコア（独自算出の注目度）: 8.736313383211435
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: One of the most practical and challenging types of black-box adversarial attacks is the hard-label attack, where only the top-1 predicted label is available. One effective approach is to search for the optimal ray direction from the benign image that minimizes the $\ell_p$-norm distance to the adversarial region. The unique advantage of this approach is that it transforms the hard-label attack into a continuous optimization problem. The objective function value is the ray's radius, which can be obtained via binary search at a high query cost. Existing methods use a "sign trick" in gradient estimation to reduce the number of queries. In this paper, we theoretically analyze the quality of this gradient estimation and propose a novel prior-guided approach to improve ray search efficiency both theoretically and empirically. Specifically, we utilize the transfer-based priors from surrogate models, and our gradient estimators appropriately integrate them by approximating the projection of the true gradient onto the subspace spanned by these priors and random directions, in a query-efficient manner. We theoretically derive the expected cosine similarities between the obtained gradient estimators and the true gradient, and demonstrate the improvement achieved by incorporating priors. Extensive experiments on the ImageNet and CIFAR-10 datasets show that our approach significantly outperforms 11 state-of-the-art methods in terms of query efficiency.
• Abstract（参考訳）: 最も実用的で困難なブラックボックスの敵攻撃の1つはハードラベル攻撃であり、トップ1の予測ラベルのみが利用可能である。 1つの効果的なアプローチは、対向領域への$\ell_p$-norm距離を最小限に抑える良画像から最適な光線方向を求めることである。 このアプローチのユニークな利点は、ハードラベル攻撃を連続最適化問題に変換することである。 目的関数値は光線半径であり、高いクエリコストで二進探索によって得ることができる。 既存の手法では、勾配推定で"sign trick"を使用してクエリ数を削減している。 本稿では,この勾配推定の精度を理論的に解析し,理論的にも経験的にも線探索効率を向上させるための新しい事前誘導手法を提案する。 具体的には、代用モデルからの転送に基づく先行値を利用し、これらの先行値とランダムな方向で区切られた部分空間への真の勾配の投影をクエリ効率よく近似することにより、勾配推定器を適切に統合する。 理論的には、得られた勾配推定器と真の勾配とのコサイン類似性を導出し、先行を組み込むことによって達成された改善を実証する。 ImageNetとCIFAR-10データセットの大規模な実験により、我々の手法はクエリ効率の点で11の最先端手法を大幅に上回っていることが示された。

関連論文リスト

• Derivative-Free Optimization via Finite Difference Approximation: An Experimental Study [1.3886390523644807]
  微分自由最適化(DFO)は、関数評価のみをオラクルで利用できるような複雑な最適化問題の解決に不可欠である。 2つの古典的なイテレーションアプローチは、Kiefer-Wolfowitz (KW) と同時摂動近似 (SPSA) アルゴリズムである。 本稿では,これらの手法の総合的な比較実験を行う。
  論文  参考訳（メタデータ） (2024-10-31T18:07:44Z)
• A Historical Trajectory Assisted Optimization Method for Zeroth-Order Federated Learning [24.111048817721592]
  フェデレートラーニングは分散勾配降下技術に大きく依存している。 勾配情報が得られない状況では、勾配をゼロ次情報から推定する必要がある。 勾配推定法を改善するための非等方的サンプリング法を提案する。
  論文  参考訳（メタデータ） (2024-09-24T10:36:40Z)
• Sampling from Gaussian Process Posteriors using Stochastic Gradient Descent [43.097493761380186]
  勾配アルゴリズムは線形系を解くのに有効な方法である。 最適値に収束しない場合であっても,勾配降下は正確な予測を導出することを示す。 実験的に、勾配降下は十分に大規模または不条件の回帰タスクにおいて最先端の性能を達成する。
  論文  参考訳（メタデータ） (2023-06-20T15:07:37Z)
• Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
  線形化されたラプラス近似に下界を導入する。 これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
  論文  参考訳（メタデータ） (2023-06-06T19:02:57Z)
• Query-Efficient Black-box Adversarial Attacks Guided by a Transfer-based Prior [50.393092185611536]
  対象モデルの勾配にアクセスできることなく、敵が敵の例を作らなければならないブラックボックスの敵設定を考える。 従来の手法では、代用ホワイトボックスモデルの転送勾配を用いたり、モデルクエリのフィードバックに基づいて真の勾配を近似しようとした。 偏りサンプリングと勾配平均化に基づく2つの事前誘導型ランダム勾配フリー(PRGF)アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-03-13T04:06:27Z)
• ZARTS: On Zero-order Optimization for Neural Architecture Search [94.41017048659664]
  微分可能なアーキテクチャサーチ (DARTS) は、NASの高効率性のため、一般的なワンショットパラダイムである。 この作業はゼロオーダーの最適化に変わり、上記の近似を強制せずに探索するための新しいNASスキームであるZARTSを提案する。 特に、12ベンチマークの結果は、DARTSの性能が低下するZARTSの顕著な堅牢性を検証する。
  論文  参考訳（メタデータ） (2021-10-10T09:35:15Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• A nearly Blackwell-optimal policy gradient method [4.873362301533825]
  利得を最適化し,バイアスを緩和する政策勾配法を開発した。 対数障壁を用いて対応する二段階最適化を解くアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-05-28T06:37:02Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• On the Convergence Rate of Projected Gradient Descent for a Back-Projection based Objective [58.33065918353532]
  我々は、最小二乗(LS)の代替として、バックプロジェクションに基づく忠実度項を考える。 LS項ではなくBP項を用いることで最適化アルゴリズムの繰り返しを少なくすることを示す。
  論文  参考訳（メタデータ） (2020-05-03T00:58:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。