論文の概要: Mind Your Margin and Boundary: Are Your Distilled Datasets Truly Robust?

• arxiv url: http://arxiv.org/abs/2605.20606v2
• Date: Tue, 26 May 2026 06:39:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:40.862719
• Title: Mind Your Margin and Boundary: Are Your Distilled Datasets Truly Robust?
• Title（参考訳）: マインド・オブ・マージンと境界線:あなたの蒸留データセットは本当にロバストか?
• Authors: Muquan Li, Yingyi Ma, Yihong Huang, Hang Gou, Ke Qin, Ming Li, Yuan-Fang Li, Tao He,
• Abstract要約: 本稿では,ロバストデータセット蒸留(C$2$R)のためのコントラッシブカリキュラムを提案する。 CIFAR-10/100、Tiny-ImageNet、および複数のImageNet-1Kサブセットに対する6回の攻撃による実験は、C$2$Rが最高のロバストな精度を達成し、以前のロバストDDを平均2.8$%上回ったことを示している。
• 参考スコア（独自算出の注目度）: 34.82502886722506
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dataset distillation (DD) compresses a large training set into a small synthetic set for efficient training, but most DD methods optimize only clean accuracy and leave robustness uncontrolled. Recent robust DD methods improve robustness, yet they often suffer from a poor accuracy-robustness trade-off because they (i) treat all adversarially perturbed examples uniformly, despite robust risk being dominated by near-zero robust margins, and (ii) do not explicitly increase inter-class separation in the decision boundary where attacks concentrate. We present Contrastive Curriculum for Robust Dataset Distillation (C$^2$R), a framework that couples an attack-aware curriculum with a contrastive robustness objective. From a robust-margin perspective, we derive a perturbation score that approximates each sample's robust hinge, enabling a curriculum that prioritizes the smallest-margin adversaries that most directly drive robust error. In parallel, a class-balanced contrastive robustness loss enforces adversarial invariance while explicitly widening boundary separation across classes. Experiments on CIFAR-10/100, Tiny-ImageNet, and multiple ImageNet-1K subsets under six attacks show that C$^2$R achieves the best robust accuracy, outperforming prior robust DD by $2.8$% on average.
• Abstract（参考訳）: データセット蒸留(DD)は、効率的なトレーニングのために、大規模なトレーニングセットを小さな合成セットに圧縮するが、ほとんどのDDメソッドは、クリーンな正確さだけを最適化し、ロバストさを制御しないままにしておく。 最近のロバストDD法はロバスト性を改善するが、しばしば正確さとロバスト性とのトレードオフに悩まされる。 一 ほぼゼロの頑健なマージンに支配された頑健なリスクに拘わらず、全ての敵意に乱れた事例を均一に扱うこと。 (ii)攻撃が集中する決定境界におけるクラス間分離を明示的に増やさないこと。 本稿では,ロバストデータセット蒸留のための比較カリキュラム(C$^2$R)について述べる。 頑健なマージンの観点から、各サンプルの頑健なヒンジを近似する摂動スコアを導出し、最も頑健なエラーを最も直接的に引き起こす最小のマージンの敵を優先するカリキュラムを可能にする。 平行して、クラスバランスの対照的なロバスト性損失は、クラス間の境界分離を明示的に広げながら、反対の不変性を強制する。 CIFAR-10/100、Tiny-ImageNet、および複数のImageNet-1Kサブセットに対する6回の攻撃による実験は、C$^2$Rが最高のロバストな精度を達成し、前回のロバストDDを平均2.8$%上回ったことを示している。

関連論文リスト

• Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
  凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。 私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。 この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
  論文  参考訳（メタデータ） (2025-07-14T18:34:10Z)
• Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
  大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。 本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。 C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
  論文  参考訳（メタデータ） (2024-05-24T14:20:09Z)
• MixedNUTS: Training-Free Accuracy-Robustness Balance via Nonlinearly Mixed Classifiers [41.56951365163419]
  MixedNUTSは、ロバストな分類器の出力ロジットを3つのパラメータしか持たない非線形変換で処理する訓練不要の手法である。 MixedNUTSは変換されたロジットを確率に変換し、それらを全体の出力として混合する。 CIFAR-10、CIFAR-100、ImageNetデータセットでは、MixedNUTSの精度とほぼSOTAの堅牢性を大幅に改善した。
  論文  参考訳（メタデータ） (2024-02-03T21:12:36Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Scale-Equivalent Distillation for Semi-Supervised Object Detection [57.59525453301374]
  近年のSemi-Supervised Object Detection (SS-OD) 法は主に自己学習に基づいており、教師モデルにより、ラベルなしデータを監視信号としてハードな擬似ラベルを生成する。 実験結果から,これらの手法が直面する課題を分析した。 本稿では,大規模オブジェクトサイズの分散とクラス不均衡に頑健な簡易かつ効果的なエンド・ツー・エンド知識蒸留フレームワークであるSED(Scale-Equivalent Distillation)を提案する。
  論文  参考訳（メタデータ） (2022-03-23T07:33:37Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。