論文の概要: ExGrad: Beyond Suppression - Explicit Clean-Gradient Subtraction in Adversarial Training

• arxiv url: http://arxiv.org/abs/2610.30018v1
• Date: Wed, 21 Oct 2026 16:47:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.415809
• Title: ExGrad: Beyond Suppression - Explicit Clean-Gradient Subtraction in Adversarial Training
• Title（参考訳）: ExGrad: 抑制を超えて - 対人訓練におけるクリーングレードなサブトラクションを明示する
• Abstract要約: 逆行訓練は、サロゲート損失から更新を導き出すが、ソースロス降下は、逆行マージンに対する更新の効果を直接特徴付けるものではない。 クリーン・インプット、逆・インプット、および逆・重・摂動(AWP)勾配を構成するExGradを導入する。 CIFAR-10上のアフィンラジイを横切ると、負の清浄係数が急速に先行し、半径と共に大きさが大きくなる。
• 参考スコア（独自算出の注目度）: 9.559442468378803
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial training derives updates from surrogate losses, but source-loss descent does not directly characterize an update's effect on adversarial margins. We introduce ExGrad (extrapolative gradient recomposition), which constructs clean-input, adversarial-input, and adversarial-weight-perturbed (AWP) gradients. Virtual steps measure their margin responses, and a globally solvable three-variable problem selects coefficients over a bounded affine domain without nonnegativity constraints. Across affine radii on CIFAR-10, negative clean coefficients rapidly predominate and increase in magnitude with the radius. Cross-zero interventions show that setting the clean coefficient to zero is insufficient: mild subtraction improves PGD-20, while stronger subtraction trades clean accuracy for further PGD-20 gains. In CIFAR-10 WRN-28-4 controls, none of the three candidate-removal variants matches full ExGrad. Projection diagnostics show that negative clean coefficients usually coexist with positive net clean-axis projections, although both decrease as the radius grows. Norm-matched controls indicate that update magnitude alone does not explain the moderate-radius gains. Experiments on CIFAR-10, CIFAR-100, and ImageNet-100 show radius-dependent improvements over AWP. On CIFAR-100, ExGrad at $R=0.8$ improves all five reported metrics, including clean and AutoAttack accuracy by 3.84 and 1.75 percentage points. On ImageNet-100, the same radius improves all four robust metrics over both AWP and PGD-AT. These results identify clean-gradient subtraction as a response-revealed update preference whose strength and clean-robust operating point are controlled by the affine radius.
• Abstract（参考訳）: 逆行訓練は、サロゲート損失から更新を導き出すが、ソースロス降下は、逆行マージンに対する更新の効果を直接特徴付けるものではない。 ExGrad (extrapolative gradient recomposition) を導入し, クリーンインプット, 対向インプット, 対向重み摂動(AWP)勾配を構成する。 仮想ステップはマージン応答を測り、大域的に解ける3変数の問題は非負性制約のない有界アフィン領域上の係数を選択する。 CIFAR-10上のアフィンラジイを横切ると、負の清浄係数が急速に先行し、半径と共に大きさが大きくなる。 緩やかな減算はPGD-20を改善する一方、強い減算はPGD-20のさらなる利得のために清浄な精度で取引する。 CIFAR-10 WRN-28-4コントロールでは、3つの候補除去型はいずれも完全なExGradと一致しない。 投射診断では、負のクリーン係数は通常正の純クリーン軸射影と共存するが、半径が大きくなるにつれてどちらも減少する。 Norm-matchedコントロールは、更新マグニチュードだけでは、適度なラディウスゲインを説明できないことを示している。 CIFAR-10、CIFAR-100、ImageNet-100の実験では、AWPよりも半径依存的な改善が見られた。 CIFAR-100では、ExGradが$R=0.8$で、クリーンとオートアタックの精度を3.84と1.75ポイント改善する。 ImageNet-100では、同じ半径でAWPとPGD-ATの両方で4つのロバストなメトリクスが改善されている。 以上の結果から, クリーン・グラディエント・サブトラクションは, アフィン半径によって強度とクリーン・ロバスト動作点が制御される応答除去更新選好であることがわかった。

関連論文リスト

• CÆNL: Collapse-Based Active Neural Learning with Objective-Aligned Representation Control [2.28438857884398]
  アクティブラーニングは、後続のラベルを取得するために使われる表現を変更する。 我々は、この相互作用をCNL(Collapse-Based Active Neural Learning)を通して研究し、獲得、動的崩壊規則化(Dynamic Collapse Regularization、DCR)とその係数ポリシーを分離する。 6シードの分類比較は2つのバックボーンのそれぞれに対して、別個の制御選択と10シードの評価による104ランの試験によって補完される。
  論文  参考訳（メタデータ） (2026-10-13T00:12:58Z)
• Artifact removal improves electrodermal waveforms but not downstream classification in a virtual-reality balance task [3.8848561367220267]
  アーティファクト除去は電磁気活性(EDA)の分類に通常先行する 我々はこの仮定を仮想現実性(VR)バランス障害タスクで検証した。 残留ゲーティングネットワークは、専門家が修正したEDAのベンチマークでトレーニングされ、凍結され、VR記録に適用された。
  論文  参考訳（メタデータ） (2026-10-05T21:42:17Z)
• The Filter Metric is Safety-Critical: Phantom Advantages in Group-Relative RL under Shaped Rewards [1.667501390377158]
  グループ相対的なポリシー最適化は、動的サンプリングによって非コントラストのロールアウトグループを捨てることができる。 我々は,複合形状の報酬の下で,計量述語ミスマッチを同定し,定量化する。
  論文  参考訳（メタデータ） (2026-09-12T10:36:55Z)
• On-Policy Self-Distillation in Diffusion Models [89.32656931795293]
  強化学習は、拡散モデルと人間の好みやタスク固有の目的とを一致させることができるが、エンドポイント報酬は、中間的偏見予測をどのように変更すべきかを規定していない。 そこで我々は、DiffusionOPSDを、画像レベルの報酬誘導を明示的なターゲットに変換して、サンプルクエリにおけるクリーンな出力予測を行うオンライン自己蒸留フレームワークとして導入する。 SD 3.5-Mとステップ蒸留したZ-Image-Turboを用いて、2つのバックボーンと10個の評価器で20の報酬マッチング設定のうち19のファイナルホールトアウトスコアを達成した。
  論文  参考訳（メタデータ） (2026-08-25T14:55:24Z)
• Distill Where You Fail: Recovering Learning Signals of Negative RL-Groups from Adaptive Teacher Guidance [50.77757355236912]
  本稿では,RSTG(Recovering Learning Signals via Adaptive Teacher Guidance)を提案する。 RSTGは数学では+4.02%、コードでは+3.05%の速さでGRPO+OPDを大幅に上回ることを示した。
  論文  参考訳（メタデータ） (2026-08-01T17:29:14Z)
• The Gentle Collapse: Distributional Metrics for Continual Learning [7.30570760963699]
  本報告では, 真のラベルランク(TLR), 予測信頼度, および, 連続的な忘れを特徴付ける分布の分散度にまたがる6つのソフトマックス由来の指標について紹介する。 CIFAR-100では、これらの指標が正確でない情報を持っている:0%の精度で、Confusion Marginは[0.32, 0.50]のICCにまたがっており、精度は同じである。 損失重みとして使用されるサンプル単位のスコアは、CIFAR-100上の統一経験リプレイ(ER)よりも1.3ポイント少ない。
  論文  参考訳（メタデータ） (2026-06-23T20:53:06Z)
• DiffusionNFT: Online Diffusion Reinforcement with Forward Process [99.94852379720153]
  Diffusion Negative-aware FineTuning (DiffusionNFT) は、フローマッチングを通じて前方プロセス上で直接拡散モデルを最適化する新しいオンラインRLパラダイムである。 DiffusionNFTは、CFGフリーのFlowGRPOよりも25倍効率が高い。
  論文  参考訳（メタデータ） (2025-09-19T16:09:33Z)
• Normalized Attention Guidance: Universal Negative Guidance for Diffusion Models [57.20761595019967]
  注意空間にL1をベースとした正規化・精細化を施した,効率的かつトレーニング不要な機構である正規化注意誘導(NAG)を提案する。 NAGは、CFGが忠実性を維持しながら崩壊する効果的な負のガイダンスを復元する。 NAGはアーキテクチャ(UNet、DiT)、サンプリングレシスタンス(複数ステップ、複数ステップ)、モダリティ(イメージ、ビデオ)をまたいで一般化する
  論文  参考訳（メタデータ） (2025-05-27T13:30:46Z)
• MIO : Mutual Information Optimization using Self-Supervised Binary Contrastive Learning [12.365801596593936]
  我々は、事前学習タスクを二項分類問題としてモデル化し、暗黙的なコントラスト効果を誘導する。 既存の手法とは異なり、提案した損失関数は正対と負対の相互情報を最適化する。 提案手法は,ベンチマークデータセット上でのSOTA自己教師型コントラストフレームワークよりも優れている。
  論文  参考訳（メタデータ） (2021-11-24T17:51:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。