論文の概要: Geometry Is Not Robustness: A Trajectory-Level Study of PGD Evaluation

• arxiv url: http://arxiv.org/abs/2608.14594v1
• Date: Fri, 26 Jun 2026 05:28:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.226423
• Title: Geometry Is Not Robustness: A Trajectory-Level Study of PGD Evaluation
• Title（参考訳）: 幾何学はロバスト性ではない:PGD評価の軌道レベル研究
• Abstract要約: トラジェクトリレベルの分析は、コンテキストで解釈された補完的な診断ツールであるべきである。 我々は、Fashion-MNISTで訓練された畳み込みニューラルネットワークにおけるPGD攻撃の軌跡レベル調査を行う。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Projected Gradient Descent (PGD) is widely used to evaluate adversarial robustness, typically via final adversarial accuracy, which does not capture model behaviour throughout the attack. Recent work proposes trajectory-level diagnostics, such as loss evolution, gradient alignment, and steps-to-failure, for deeper insight into adversarial optimisation dynamics. However, whether these diagnostics reliably indicate robustness strength remains unclear. We conduct a trajectory-level investigation of PGD attacks on convolutional neural networks trained on Fashion-MNIST. We compare clean-trained and adversarially-trained models across multiple robustness regimes, using rigorous 20-step PGD evaluations with random initialisation and multiple restarts for robustness measurement, and single-initialisation trajectory recording for diagnostics. We record full PGD trajectories across 3000 clean-correct samples per model and analyse loss evolution, gradient alignment, and failure timing across attack iterations. Our results reveal a clear robustness hierarchy across models; however, trajectory metrics do not contribute equally to its identification. Mean loss trajectories and gradient alignment patterns appear quantitatively similar across adversarially-trained models with substantially different robust accuracies. In contrast, steps-to-failure distributions provide a clearer separation of robustness regimes, directly reflecting functional resistance to adversarial perturbation. These findings indicate that trajectory-level diagnostics describe optimisation geometry but do not independently measure adversarial robustness. Their interpretability depends on robustness regime, attack strength, and multi-metric evaluation. Trajectory-level analysis should be a complementary diagnostic tool, interpreted in context, rather than a replacement for standard robustness measurements.
• Abstract（参考訳）: プロジェクテッド・グラディエント・ディファイア(PGD)は、攻撃全体を通してモデル動作を捉えない最終対向精度によって、敵の強靭性を評価するために広く用いられている。 近年の研究では、損失進化、勾配アライメント、ステップ・トゥ・フェイル(Step-to-failure)といった軌道レベルの診断が提案されている。 しかし、これらの診断が確実に頑健性を示すかどうかはまだ不明である。 我々は、Fashion-MNISTで訓練された畳み込みニューラルネットワークにおけるPGD攻撃の軌跡レベル調査を行う。 ランダム初期化による厳密な20ステップのPGD評価と,ロバストネス測定のための複数再起動と,診断のための単一初期化トラジェクトリ記録を用いて,複数のロバストネス体制におけるクリーントレーニングモデルと逆トレーニングモデルを比較した。 PGDトラジェクトリは, モデル毎3000個のクリーン正しいサンプルを対象とし, 損失の進化, 勾配アライメント, 障害発生タイミングを解析した。 本研究の結果から, モデル間のロバスト性階層が明らかとなったが, 軌跡指標は同定に等しく寄与しない。 平均損失軌跡と勾配アライメントパターンは、実質的に異なる頑健な精度を持つ敵の訓練されたモデル間で定量的に類似しているように見える。 対照的に、ステップ・トゥ・フェイル分布は、対向的摂動に対する機能的抵抗を直接反映して、ロバスト性体制のより明確な分離を提供する。 これらの結果から, トラジェクトリレベルの診断では最適形状が記述されるが, 対向的ロバスト性は独立に測定されていないことが示唆された。 その解釈性はロバスト性、攻撃強度、マルチメトリック評価に依存する。 軌道レベルの分析は、標準的なロバストネス測定の代替ではなく、文脈で解釈された補完的な診断ツールであるべきである。

関連論文リスト

• Real-Time Evaluation of Autonomous Systems under Adversarial Attacks [0.29360071145551064]
  本研究は,実世界の交差点運転データに基づくオフライン軌道学習および対向ロバストネス評価フレームワークを提案する。 我々は、MLP(Multi-Layer Perceptron)ベースの行動クローン(BC)、トランスフォーマーベースのオブジェクトトークン化BC、逆強化学習(IRL)の3つの学習パラダイムを訓練し比較する。 予測時間ロバスト性は、複数の交叉シナリオをまたいだ勾配に基づく逆摂動に対して、訓練されたポリシーを適用することによって評価される。
  論文  参考訳（メタデータ） (2026-05-05T08:30:18Z)
• Mitigating Error Amplification in Fast Adversarial Training [58.74042726356826]
  FAT(Fast Adversarial Training)は、ネットワークに摂動不変表現の学習を促すことによって、モデルロバスト性の向上に有効であることが証明されている。 FATは、しばしば破滅的なオーバーフィッティング(CO)に悩まされ、モデルがトレーニングアタックに過度に適合し、目に見えないものへの一般化に失敗する。 本稿では、摂動予算と監視信号の両方を動的に調整する分散対応動的ガイダンス(DDG)戦略を提案する。
  論文  参考訳（メタデータ） (2026-04-27T11:23:18Z)
• Benchmarking Corruption Robustness of LVLMs: A Discriminative Benchmark and Robustness Alignment Metric [49.393713730706445]
  汚損の堅牢性を評価するための識別サンプルを強調したベンチマークであるBench-Cを紹介する。 本稿では,ロバストネスアライメントスコア(RAS)を提案する。
  論文  参考訳（メタデータ） (2025-11-24T12:07:56Z)
• Adversarial Robustness Overestimation and Instability in TRADES [4.063518154926961]
  TRADES は多クラス分類タスクにおける AutoAttack テストの精度と比較して,PGD の検証精度が極めて高い場合が多い。 この矛盾は、勾配マスキングに結びつく可能性のある、これらのインスタンスに対するロバストネスのかなりの過大評価を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-10-10T07:32:40Z)
• Exploring the Adversarial Frontier: Quantifying Robustness via Adversarial Hypervolume [17.198794644483026]
  本稿では,様々な摂動強度に対して総合的に深層学習モデルの頑健性を評価するための,対向超体積と呼ばれる新しい計量法を提案する。 我々は,様々な摂動強度の対向的堅牢性を均一に向上する新しいトレーニングアルゴリズムを採用する。 本研究はロバスト性の新しい尺度に寄与し、敵の脅威に対するベンチマーク評価と、現在および将来の防御モデルのレジリエンスの基準を確立する。
  論文  参考訳（メタデータ） (2024-03-08T07:03:18Z)
• Learn from the Past: A Proxy Guided Adversarial Defense Framework with Self Distillation Regularization [53.04697800214848]
  敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。 AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。 汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T13:13:41Z)
• Robust Linear Regression: Phase-Transitions and Precise Tradeoffs for General Norms [29.936005822346054]
  線形回帰モデルに対するテスト時間逆行攻撃の影響について検討する。 標準予測性能(正確性)の所定のレベルを維持しながら、どのモデルでも到達できる最適なロバストネスのレベルを決定する。 我々は、標準的な精度を損なうことなく、ロバスト性が達成可能なレジームと、トレードオフが避けられないレジームとを区別する正確なキャラクタリゼーションを得る。
  論文  参考訳（メタデータ） (2023-08-01T13:55:45Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level Stability and High-Level Behavior [51.60683890503293]
  生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。 任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T04:27:26Z)
• Semantic Image Attack for Visual Model Diagnosis [80.36063332820568]
  実際には、特定の列車およびテストデータセットに関する計量分析は、信頼性や公正なMLモデルを保証しない。 本稿では,セマンティック・イメージ・アタック(SIA)を提案する。
  論文  参考訳（メタデータ） (2023-03-23T03:13:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。