論文の概要: Optimizing the Adversarial Perturbation with a Momentum-based Adaptive Matrix
- arxiv url: http://arxiv.org/abs/2512.14188v1
- Date: Tue, 16 Dec 2025 08:35:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-17 16:49:26.639628
- Title: Optimizing the Adversarial Perturbation with a Momentum-based Adaptive Matrix
- Title（参考訳）: モーメントベース適応行列を用いた対向摂動の最適化
- Authors: Wei Tao, Sheng Long, Xin Liu, Wei Li, Qing Tao,
- Abstract要約: 本稿では, 運動量に基づく新しい攻撃AdaMIを提案し, 摂動を興味深い運動量に基づく適応行列で最適化する。
AdaMIは凸問題に対する最適収束を証明し、MI-FGSMの非収束問題に対処していることを示す。
- 参考スコア（独自算出の注目度）: 13.862664606369014
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generating adversarial examples (AEs) can be formulated as an optimization problem. Among various optimization-based attacks, the gradient-based PGD and the momentum-based MI-FGSM have garnered considerable interest. However, all these attacks use the sign function to scale their perturbations, which raises several theoretical concerns from the point of view of optimization. In this paper, we first reveal that PGD is actually a specific reformulation of the projected gradient method using only the current gradient to determine its step-size. Further, we show that when we utilize a conventional adaptive matrix with the accumulated gradients to scale the perturbation, PGD becomes AdaGrad. Motivated by this analysis, we present a novel momentum-based attack AdaMI, in which the perturbation is optimized with an interesting momentum-based adaptive matrix. AdaMI is proved to attain optimal convergence for convex problems, indicating that it addresses the non-convergence issue of MI-FGSM, thereby ensuring stability of the optimization process. The experiments demonstrate that the proposed momentum-based adaptive matrix can serve as a general and effective technique to boost adversarial transferability over the state-of-the-art methods across different networks while maintaining better stability and imperceptibility.
- Abstract（参考訳）: 逆例(AE)の生成は最適化問題として定式化することができる。
様々な最適化ベースの攻撃の中で、勾配に基づくPGDと運動量に基づくMI-FGSMは大きな関心を集めている。
しかしながら、これらの攻撃はすべて手話関数を使って摂動を拡大し、最適化の観点からいくつかの理論的懸念を提起する。
本稿では、PGDが実際に、現在の勾配のみを用いて、そのステップサイズを決定することによって、射影勾配法を具体化したものであることを最初に明らかにする。
さらに,蓄積した勾配の適応行列を用いて摂動を拡大すると,PGDはAdaGradとなる。
この解析により、摂動を興味深い運動量ベースの適応行列で最適化する新しい運動量ベースの攻撃AdaMIを提案する。
AdaMIは凸問題に対する最適収束を証明し、MI-FGSMの非収束問題に対処し、最適化プロセスの安定性を確保することを示した。
実験により, 提案した運動量に基づく適応行列は, より優れた安定性と非受容性を保ちながら, 異なるネットワークをまたがる最先端の手法に対する対角移動性を高めるための, 汎用的で効果的な手法として機能することを示した。
関連論文リスト
- A Stochastic Approach to Bi-Level Optimization for Hyperparameter Optimization and Meta Learning [74.80956524812714]
我々は,現代のディープラーニングにおいて広く普及している一般的なメタ学習問題に対処する。
これらの問題は、しばしばBi-Level Optimizations (BLO)として定式化される。
我々は,与えられたBLO問題を,内部損失関数が滑らかな分布となり,外損失が内部分布に対する期待損失となるようなii最適化に変換することにより,新たな視点を導入する。
論文 参考訳（メタデータ） (2024-10-14T12:10:06Z) - Provably Mitigating Overoptimization in RLHF: Your SFT Loss is Implicitly an Adversarial Regularizer [52.09480867526656]
人間の嗜好を学習する際の分布変化と不確実性の一形態として,不一致の原因を同定する。
過度な最適化を緩和するために、まず、逆選択された報酬モデルに最適なポリシーを選択する理論アルゴリズムを提案する。
報奨モデルとそれに対応する最適ポリシーの等価性を用いて、優先最適化損失と教師付き学習損失を組み合わせた単純な目的を特徴とする。
論文 参考訳（メタデータ） (2024-05-26T05:38:50Z) - Implicit Bias and Fast Convergence Rates for Self-attention [26.766649949420746]
本稿では,変圧器の定義機構である自己注意の基本的な最適化原理について考察する。
線形分類におけるデコーダを用いた自己アテンション層における勾配ベースの暗黙バイアスを解析する。
論文 参考訳（メタデータ） (2024-02-08T15:15:09Z) - Stochastic Optimal Control Matching [53.156277491861985]
最適制御のための新しい反復拡散最適化(IDO)技術である最適制御マッチング(SOCM)を導入する。
この制御は、一致するベクトル場に適合しようとすることで、最小二乗問題を通じて学習される。
実験により,本アルゴリズムは最適制御のための既存のすべての IDO 手法よりも低い誤差を実現する。
論文 参考訳（メタデータ） (2023-12-04T16:49:43Z) - Adapting Step-size: A Unified Perspective to Analyze and Improve
Gradient-based Methods for Adversarial Attacks [21.16546620434816]
勾配に基づく逆学習手法の統一的理論的解釈を提供する。
これらのアルゴリズムのそれぞれが、実際には、元の勾配法の特定の再構成であることを示す。
正規勾配法に基づく適応勾配に基づくアルゴリズムの幅広いクラスを示す。
論文 参考訳（メタデータ） (2023-01-27T06:17:51Z) - An Empirical Evaluation of Zeroth-Order Optimization Methods on
AI-driven Molecule Optimization [78.36413169647408]
分子目的を最適化するための様々なZO最適化手法の有効性について検討する。
ZO符号に基づく勾配降下(ZO-signGD)の利点を示す。
本稿では,Guurcamol スイートから広く使用されているベンチマークタスクに対して,ZO 最適化手法の有効性を示す。
論文 参考訳（メタデータ） (2022-10-27T01:58:10Z) - Analysis of Dual-Based PID Controllers through Convolutional Mirror
Descent [20.512667802427675]
本稿では、オンラインアロケーション問題に対するデュアルベースPIDコントローラの性能に関する最初の後悔点について述べる。
デュアルベースPIDコントローラと,emphConvolutional Mirror Descent (CMD)と呼ばれるオンライン凸最適化のための新しい1次アルゴリズムの基本的な接続を確立する。
我々は非滑らかな凸最適化のためのCMDに対する最初の後悔の限界を提供するが、これは独立した関心事かもしれない。
論文 参考訳（メタデータ） (2022-02-12T21:55:53Z) - EOS: a Parallel, Self-Adaptive, Multi-Population Evolutionary Algorithm
for Constrained Global Optimization [68.8204255655161]
EOSは実数値変数の制約付きおよび制約なし問題に対する大域的最適化アルゴリズムである。
これはよく知られた微分進化(DE)アルゴリズムに多くの改良を加えている。
その結果、EOSisは、最先端の単一人口自己適応Dアルゴリズムと比較して高い性能を達成可能であることが証明された。
論文 参考訳（メタデータ） (2020-07-09T10:19:22Z) - A Dynamical Systems Approach for Convergence of the Bayesian EM
Algorithm [59.99439951055238]
我々は、(離散時間)リアプノフ安定性理論が、必ずしも勾配ベースではない最適化アルゴリズムの分析(および潜在的な設計)において、いかに強力なツールとして役立つかを示す。
本稿では,不完全データベイズフレームワークにおけるパラメータ推定を,MAP-EM (maximum a reari expectation-maximization) と呼ばれる一般的な最適化アルゴリズムを用いて行うことに着目したML問題について述べる。
高速収束(線形あるいは二次的)が達成され,S&Cアプローチを使わずに発表することが困難であった可能性が示唆された。
論文 参考訳（メタデータ） (2020-06-23T01:34:18Z) - An adaptive stochastic gradient-free approach for high-dimensional
blackbox optimization [0.0]
本研究では,高次元非平滑化問題に対する適応勾配フリー (ASGF) アプローチを提案する。
本稿では,グローバルな問題と学習タスクのベンチマークにおいて,本手法の性能について述べる。
論文 参考訳（メタデータ） (2020-06-18T22:47:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。