論文の概要: The Power of Decaying Steps: Enhancing Attack Stability and Transferability for Sign-based Optimizers
- arxiv url: http://arxiv.org/abs/2602.19096v1
- Date: Sun, 22 Feb 2026 08:37:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-24 17:42:02.478495
- Title: The Power of Decaying Steps: Enhancing Attack Stability and Transferability for Sign-based Optimizers
- Title(参考訳): 減衰ステップのパワー:符号ベース最適化器の攻撃安定性と伝達性向上
- Authors: Wei Tao, Yang Dai, Jincai Huang, Qing Tao,
- Abstract要約: 非収束性と不安定性の1つの原因は、非遅延的なステップサイズスケジューリングである、と我々は主張する。
そこで本研究では,信号ベース対角線における一律的なステップサイズ決定を強制する,新たな攻撃アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 9.020853139493239
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Crafting adversarial examples can be formulated as an optimization problem. While sign-based optimizers such as I-FGSM and MI-FGSM have become the de facto standard for the induced optimization problems, there still exist several unsolved problems in theoretical grounding and practical reliability especially in non-convergence and instability, which inevitably influences their transferability. Contrary to the expectation, we observe that the attack success rate may degrade sharply when more number of iterations are conducted. In this paper, we address these issues from an optimization perspective. By reformulating the sign-based optimizer as a specific coordinate-wise gradient descent, we argue that one cause for non-convergence and instability is their non-decaying step-size scheduling. Based upon this viewpoint, we propose a series of new attack algorithms that enforce Monotonically Decreasing Coordinate-wise Step-sizes (MDCS) within sign-based optimizers. Typically, we further provide theoretical guarantees proving that MDCS-MI attains an optimal convergence rate of $O(1/\sqrt{T})$, where $T$ is the number of iterations. Extensive experiments on image classification and cross-modal retrieval tasks demonstrate that our approach not only significantly improves transferability but also enhances attack stability compared to state-of-the-art sign-based methods.
- Abstract(参考訳): 設計上の逆の例は最適化問題として定式化することができる。
I-FGSMやMI-FGSMのような符号ベースのオプティマイザは誘導最適化問題のデファクトスタンダードとなっているが、特に非収束性や不安定性において、理論的な基礎化や実用的信頼性に関するいくつかの未解決問題が存在し、転送可能性に必然的に影響を及ぼす。
予想とは対照的に、より多くのイテレーションが実行されると、攻撃成功率は急激に低下する可能性がある。
本稿では,最適化の観点からこれらの課題に対処する。
符号ベースのオプティマイザを特定の座標勾配勾配勾配として再構成することにより、非収束性や不安定性の原因の1つは、その非遅延ステップサイズスケジューリングである、と論じる。
この観点から,シグネチャベースのオプティマイザにおいて,単調に調整可能なステップサイズ(MDCS)を強制する,一連の新しい攻撃アルゴリズムを提案する。
典型的には、MDCS-MIが最適収束率$O(1/\sqrt{T})$に達することを証明する理論的な保証を提供する。
画像分類とクロスモーダル検索タスクの広範囲な実験により、我々の手法は転送可能性を大幅に向上するだけでなく、最先端のサインベース手法と比較して攻撃安定性も向上することが示された。
関連論文リスト
- Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。
SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。
複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-01T12:56:10Z) - Optimizing the Adversarial Perturbation with a Momentum-based Adaptive Matrix [13.862664606369014]
本稿では, 運動量に基づく新しい攻撃AdaMIを提案し, 摂動を興味深い運動量に基づく適応行列で最適化する。
AdaMIは凸問題に対する最適収束を証明し、MI-FGSMの非収束問題に対処していることを示す。
論文 参考訳(メタデータ) (2025-12-16T08:35:18Z) - Robust Non-negative Proximal Gradient Algorithm for Inverse Problems [25.38644236929275]
本稿では,収束保証を伴う新しい乗法更新近位勾配アルゴリズム(SSO-PGA)を提案する。
私たちの重要なイノベーションは、学習可能なシグモノイドベースの演算子で勾配降下ステップを置き換えることにあります。
提案手法は従来のPGAや他の最先端アルゴリズムを大幅に上回り,優れた性能と安定性を確保できる。
論文 参考訳(メタデータ) (2025-10-27T14:10:25Z) - NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。
提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。
実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2025-06-11T06:59:17Z) - Elucidating Subspace Perturbation in Zeroth-Order Optimization: Theory and Practice at Scale [33.38543010618118]
Zeroth-order (ZO) 最適化は、勾配ベースのバックプロパゲーション法に代わる有望な代替手段として登場した。
高次元性が主要なボトルネックであることを示し、サブスペースの摂動が勾配ノイズを減らし収束を加速させる方法について説明するために、テキストサブスペースアライメントの概念を導入する。
本稿では,ブロック座標降下法(MeZO-BCD)を用いた効率的なZO法を提案し,各ステップでパラメータのサブセットのみを摂動・更新する。
論文 参考訳(メタデータ) (2025-01-31T12:46:04Z) - Regularized second-order optimization of tensor-network Born machines [2.8834278113855896]
ボルンマシン(英: Born Machine、TNBM)は、データ分布を学習するための量子インスパイアされた生成モデルである。
TNBMの鍵となるボトルネックは、この問題によく使用される損失関数の対数的性質である。
そこで本研究では,TNBMトレーニングにおける2次最適化手法を改良し,収束率と最適化モデルの品質を大幅に向上させる。
論文 参考訳(メタデータ) (2025-01-30T19:00:04Z) - Advancing Generalized Transfer Attack with Initialization Derived Bilevel Optimization and Dynamic Sequence Truncation [49.480978190805125]
転送攻撃はブラックボックスアプリケーションに大きな関心を惹きつける。
既存の作業は、本質的に単一のレベルの目的 w.r.t. シュロゲートモデルを直接最適化する。
本稿では,上位レベル(UL)と下位レベル(LL)のサロゲート攻撃とのネスト関係を明示的に再構築する2レベル最適化手法を提案する。
論文 参考訳(メタデータ) (2024-06-04T07:45:27Z) - Revisiting and Advancing Fast Adversarial Training Through The Lens of
Bi-Level Optimization [60.72410937614299]
提案手法は,2レベルAT(FAST-BAT)と呼ばれる新しいアルゴリズムセットの設計と解析である。
FAST-BATは、グラデーションサインメソッドや明示的なロバスト正規化を呼ぶことなく、符号ベースの投射降下(PGD)攻撃を防御することができる。
論文 参考訳(メタデータ) (2021-12-23T06:25:36Z) - Distributed stochastic optimization with large delays [59.95552973784946]
大規模最適化問題を解決する最も広く使われている手法の1つは、分散非同期勾配勾配(DASGD)である。
DASGDは同じ遅延仮定の下で大域的最適実装モデルに収束することを示す。
論文 参考訳(メタデータ) (2021-07-06T21:59:49Z) - SENTRY: Selective Entropy Optimization via Committee Consistency for
Unsupervised Domain Adaptation [14.086066389856173]
ランダムな画像変換の委員会の下で,予測整合性に基づいて対象インスタンスの信頼性を判定するUDAアルゴリズムを提案する。
提案アルゴリズムは,予測エントロピーを選択的に最小化し,高い一貫性のあるターゲットインスタンスに対する信頼度を高めるとともに,予測エントロピーを最大化し,高い一貫性の低いインスタンスに対する信頼度を低減する。
擬似ラベルに基づく近似的クラスバランスと組み合わせることで,標準的なUDAベンチマークや,ラベル分布シフト下でのストレス-テスト適応を目的としたベンチマークから,27/31ドメインシフトの最先端よりも大幅に向上した。
論文 参考訳(メタデータ) (2020-12-21T16:24:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。