論文の概要: Quantifying the Preferential Direction of the Model Gradient in Adversarial Training With Projected Gradient Descent

• arxiv url: http://arxiv.org/abs/2009.04709v3
• Date: Tue, 15 Jun 2021 23:49:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-20 02:33:33.379430
• Title: Quantifying the Preferential Direction of the Model Gradient in Adversarial Training With Projected Gradient Descent
• Title（参考訳）: 投影勾配降下を伴う逆行訓練におけるモデル勾配の優先方向の定量化
• Authors: Ricardo Bigolin Lanfredi, Joyce D. Schroeder, Tolga Tasdizen
• Abstract要約: 逆行訓練の後、入力に対するモデルの勾配は優先的な方向を持つ。 決定空間における最も近い不正確なクラスのサポートの最も近い点を指すベクトルの方向として、この方向の新たな定義を提案する。 我々は,PGD学習モデルが基準値よりも高いアライメントを示し,我々の測定値が競合する計量の定式化よりも高いアライメント値を示すことを示す。
• 参考スコア（独自算出の注目度）: 4.8035104863603575
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial training, especially projected gradient descent (PGD), has been a successful approach for improving robustness against adversarial attacks. After adversarial training, gradients of models with respect to their inputs have a preferential direction. However, the direction of alignment is not mathematically well established, making it difficult to evaluate quantitatively. We propose a novel definition of this direction as the direction of the vector pointing toward the closest point of the support of the closest inaccurate class in decision space. To evaluate the alignment with this direction after adversarial training, we apply a metric that uses generative adversarial networks to produce the smallest residual needed to change the class present in the image. We show that PGD-trained models have a higher alignment than the baseline according to our definition, that our metric presents higher alignment values than a competing metric formulation, and that enforcing this alignment increases the robustness of models.
• Abstract（参考訳）: 対人訓練、特に投射勾配降下(PGD)は、対人攻撃に対する堅牢性を改善するために成功している。 敵対的なトレーニングの後、入力に対するモデルの勾配は優先的な方向を持つ。 しかし、アライメントの方向性は数学的によく定まっておらず、定量的に評価することは困難である。 決定空間における最も近い不正確なクラスのサポートの最も近い点を指すベクトルの方向として、この方向の新たな定義を提案する。 対人訓練後のこの方向との整合性を評価するために,生成的対人ネットワークを用いて画像中のクラスを変更するのに必要な最小限の残差を生成するメトリクスを適用した。 本定義によれば,PGD学習モデルは基準値よりも高いアライメントを有し,我々の測定値が競合する計量定式化よりも高いアライメント値を示し,このアライメントがモデルのロバスト性を高めることを示す。

関連論文リスト

• TART: Boosting Clean Accuracy Through Tangent Direction Guided Adversarial Training [7.931280949498884]
  敵の訓練は、敵の攻撃に対するディープニューラルネットワークの堅牢性を高めることに成功している。 しかし、この堅牢性はクリーンデータに対する精度の大幅な低下を伴う。 本稿では,TART(Tangent Direction Guided Adversarial Training)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-08-27T01:41:21Z)
• Towards Robust and Interpretable EMG-based Hand Gesture Recognition using Deep Metric Meta Learning [37.21211404608413]
  本稿では,意味的かつ解釈可能な表現の作成を監督するために,EMG PRにおける深層メートル法メタラーニングへのシフトを提案する。 我々は、不正確な決定をよりよく拒否する頑健なクラス近接性に基づく信頼度推定器を導出する。
  論文  参考訳（メタデータ） (2024-04-17T23:37:50Z)
• Bi-discriminator Domain Adversarial Neural Networks with Class-Level Gradient Alignment [87.8301166955305]
  そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。 BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。 さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
  論文  参考訳（メタデータ） (2023-10-21T09:53:17Z)
• Q-REG: End-to-End Trainable Point Cloud Registration with Surface Curvature [81.25511385257344]
  本稿では、リッチな幾何学的情報を用いて、単一の対応から剛性ポーズを推定する新しい解Q-REGを提案する。 Q-REGは、堅牢な推定を徹底的な探索として形式化し、エンドツーエンドのトレーニングを可能にする。 実験では、Q-REGは対応マッチング法に非依存であり、推論とエンドツーエンドトレーニングの両方で使用した場合に一貫した改善を提供する。
  論文  参考訳（メタデータ） (2023-09-27T20:58:53Z)
• Straightening Out the Straight-Through Estimator: Overcoming Optimization Challenges in Vector Quantized Networks [35.6604960300194]
  本研究は,ベクトル量子化を用いたニューラルネットワークのストレートスルー推定による学習課題について検討する。 トレーニング不安定の主な原因は,モデル埋め込みとコードベクトル分布の相違である。 この問題に寄与する要因として,コードブックの勾配幅やコミットメント損失の非対称性などを挙げる。
  論文  参考訳（メタデータ） (2023-05-15T17:56:36Z)
• Improving Adversarial Transferability via Intermediate-level Perturbation Decay [79.07074710460012]
  我々は,一段階の最適化で敵の例を再現する新しい中間レベル手法を開発した。 実験結果から, 種々の犠牲者モデルに対する攻撃において, 最先端技術よりも大きな差が認められた。
  論文  参考訳（メタデータ） (2023-04-26T09:49:55Z)
• Do Perceptually Aligned Gradients Imply Adversarial Robustness? [17.929524924008962]
  逆ロバストな分類器は、非ロバストモデルが持たない特性を持っている -- 知覚配向勾配(PAG) いくつかの研究は、PAGを堅牢なトレーニングの副産物とみなしているが、独立的な現象と見なしたり、独自の意味を研究したりはしていない。 より優れた勾配アライメントがロバスト性を高めることを示し、既存の対向訓練技術のロバスト性を高めるためにこの観測を利用する。
  論文  参考訳（メタデータ） (2022-07-22T23:48:26Z)
• CATRE: Iterative Point Clouds Alignment for Category-level Object Pose Refinement [52.41884119329864]
  カテゴリーレベルのオブジェクトポーズとサイズ精細化器 CATRE は、点雲からのポーズ推定を反復的に強化し、正確な結果が得られる。 提案手法は,REAL275,CAMERA25,LMのベンチマークを85.32Hzまで高速化する。
  論文  参考訳（メタデータ） (2022-07-17T05:55:00Z)
• Ranking Distance Calibration for Cross-Domain Few-Shot Learning [91.22458739205766]
  数ショット学習の最近の進歩は、より現実的なクロスドメイン設定を促進する。 ドメインギャップとソースとターゲットデータセット間のラベル空間の相違により、共有される知識は極めて限られている。 我々は,タスク内の相互k-アネレスト近傍を発見することで,目標距離行列の校正を行う。
  論文  参考訳（メタデータ） (2021-12-01T03:36:58Z)
• Geometry-aware Instance-reweighted Adversarial Training [78.70024866515756]
  敵対的機械学習では、堅牢性と正確性がお互いを傷つけるという共通の信念があった。 本稿では,自然データ点の攻撃がいかに難しいかに基づいて,幾何対応のインスタンス再重み付き対向訓練を提案する。 実験の結果,本提案は標準的な対人訓練の堅牢性を高めることが示唆された。
  論文  参考訳（メタデータ） (2020-10-05T01:33:11Z)
• Self-adaptive Re-weighted Adversarial Domain Adaptation [12.73753413032972]
  自己適応型再重み付き対向ドメイン適応手法を提案する。 条件分布の観点からドメインアライメントを強化する。 実証的な証拠は、提案されたモデルが標準的なドメイン適応データセットで芸術の状態を上回ります。
  論文  参考訳（メタデータ） (2020-05-30T08:35:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。