論文の概要: Curvature Dynamic Black-box Attack: revisiting adversarial robustness via dynamic curvature estimation

• arxiv url: http://arxiv.org/abs/2505.19194v1
• Date: Sun, 25 May 2025 15:41:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:42.968758
• Title: Curvature Dynamic Black-box Attack: revisiting adversarial robustness via dynamic curvature estimation
• Title（参考訳）: 曲率動的ブラックボックス攻撃:動的曲率推定による対向ロバスト性の再検討
• Authors: Peiran Sun,
• Abstract要約: 曲率に基づくアプローチは、高い曲率が粗い決定境界をもたらす可能性があると推定されるため、注目を集めている。 ブラックボックス設定における決定境界曲率を推定するために,新しい問合せ効率の高い動的曲率推定法を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial attack reveals the vulnerability of deep learning models. For about a decade, countless attack and defense methods have been proposed, leading to robustified classifiers and better understanding of models. Among these methods, curvature-based approaches have attracted attention because it is assumed that high curvature may give rise to rough decision boundary. However, the most commonly used \textit{curvature} is the curvature of loss function, scores or other parameters from within the model as opposed to decision boundary curvature, since the former can be relatively easily formed using second order derivative. In this paper, we propose a new query-efficient method, dynamic curvature estimation(DCE), to estimate the decision boundary curvature in a black-box setting. Our approach is based on CGBA, a black-box adversarial attack. By performing DCE on a wide range of classifiers, we discovered, statistically, a connection between decision boundary curvature and adversarial robustness. We also propose a new attack method, curvature dynamic black-box attack(CDBA) with improved performance using the dynamically estimated curvature.
• Abstract（参考訳）: 敵対的攻撃は、ディープラーニングモデルの脆弱性を明らかにする。 およそ10年間、無数の攻撃と防御方法が提案され、分類器の堅牢化とモデルのより良い理解に繋がった。 これらの手法の中で、曲率に基づくアプローチが注目されているのは、高い曲率が粗い決定境界をもたらす可能性があるからである。 しかしながら、最もよく使われる \textit{curvature} は、決定境界曲率とは対照的に、モデル内の損失関数、スコア、その他のパラメータの曲率である。 本論文では,ブラックボックス設定における決定境界曲率を推定するために,動的曲率推定法(DCE)を提案する。 我々のアプローチは、ブラックボックスの敵攻撃であるCGBAに基づいている。 幅広い分類器上でDCEを実行することにより,決定境界曲率と対向ロバスト性の関係が統計的に発見された。 また、動的に推定された曲率を用いて、性能を向上した新しい攻撃法、曲率動的ブラックボックスアタック(CDBA)を提案する。

関連論文リスト

• Hard-Label Black-Box Attacks on 3D Point Clouds [66.52447238776482]
  そこで本研究では,新しいスペクトル認識決定境界アルゴリズムに基づく新しい3D攻撃手法を提案する。 実験により,攻撃性能と対向品質の点で,既存の白黒ボックス攻撃者よりも競合性が高いことが示された。
  論文  参考訳（メタデータ） (2024-11-30T09:05:02Z)
• Revisiting Edge Perturbation for Graph Neural Network in Graph Data Augmentation and Attack [58.440711902319855]
  エッジ摂動はグラフ構造を変更する方法である。 グラフニューラルネットワーク(GNN)の性能への影響に基づき、2つの静脈に分類できる。 統一的な定式化を提案し、エッジ摂動法の2つのカテゴリ間の明確な境界を確立する。
  論文  参考訳（メタデータ） (2024-03-10T15:50:04Z)
• CGBA: Curvature-aware Geometric Black-box Attack [39.63633212337113]
  決定に基づくブラックボックス攻撃は、敵の例を作るのに大量のクエリを必要とすることが多い。 我々は新しいクエリ効率の曲率を考慮した幾何的決定に基づくブラックボックスアタック(CGBA)を提案する。 ターゲット攻撃に適応したクエリ効率の高い新しい変種であるCGBA-Hを開発した。
  論文  参考訳（メタデータ） (2023-08-06T17:18:04Z)
• Exploring and Exploiting Decision Boundary Dynamics for Adversarial Robustness [59.948529997062586]
  既存の堅牢なトレーニング手法が、トレーニング中の各弱点点のマージンを効果的に増加させるかどうかは不明である。 本稿では,各点に対する決定境界の相対速度を定量化する連続時間フレームワークを提案する。 より小さなマージンの増大を優先する運動に決定境界が関与することを奨励するDyART(Dynamics-Aware Robust Training)を提案する。
  論文  参考訳（メタデータ） (2023-02-06T18:54:58Z)
• Safe Screening for Sparse Conditional Random Fields [13.563686294946745]
  そこで本研究では,トレーニングプロセス中に無関係な特徴を識別・除去する安全な動的スクリーニング手法を提案する。 また, 本手法は, スパースCRFや構造予測モデルにおいて, 初めてのスクリーニング手法である。 合成および実世界の両方のデータセットに対する実験結果から,本手法による高速化が重要であることが示された。
  論文  参考訳（メタデータ） (2021-11-27T18:38:57Z)
• Finding Optimal Tangent Points for Reducing Distortions of Hard-label Attacks [36.24260738965947]
  タンジェントアタック(TA)と呼ばれる新しい幾何学的アプローチを提案する。 タンジェントアタックは、決定境界に位置する仮想半球の最適な接点を特定し、攻撃の歪みを低減する。 ImageNet と CIFAR-10 データセットで行った実験により,我々の手法では少数のクエリしか消費できず,低次歪みを実現することができた。
  論文  参考訳（メタデータ） (2021-11-15T01:51:37Z)
• Adaptive Feature Alignment for Adversarial Training [56.17654691470554]
  CNNは通常、敵攻撃に対して脆弱であり、セキュリティに敏感なアプリケーションに脅威をもたらす。 任意の攻撃強度の特徴を生成するための適応的特徴アライメント(AFA)を提案する。 本手法は任意の攻撃強度の特徴を自動的に整列するように訓練されている。
  論文  参考訳（メタデータ） (2021-05-31T17:01:05Z)
• Perturbing Across the Feature Hierarchy to Improve Standard and Strict Blackbox Attack Transferability [100.91186458516941]
  我々は、ディープニューラルネットワーク(DNN)画像分類器の領域におけるブラックボックス転送に基づく敵攻撃脅威モデルを検討する。 我々は,多層摂動が可能なフレキシブルアタックフレームワークを設計し,最先端のターゲット転送性能を示す。 提案手法が既存の攻撃戦略より優れている理由を解析し,ブラックボックスモデルに対する限られたクエリが許された場合に,メソッドの拡張を示す。
  論文  参考訳（メタデータ） (2020-04-29T16:00:13Z)
• Curvature Regularized Surface Reconstruction from Point Cloud [4.389913383268497]
  曲率制約を伴って暗黙的表面を点雲データから再構成する変動関数と高速アルゴリズムを提案する。 提案手法は雑音に反し,曲率制約のないモデルと比較して,凹凸の特徴や鋭い角を回復する。
  論文  参考訳（メタデータ） (2020-01-22T05:34:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。