論文の概要: FD$^2$: A Dedicated Framework for Fine-Grained Dataset Distillation

• arxiv url: http://arxiv.org/abs/2603.25144v1
• Date: Thu, 26 Mar 2026 08:03:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-27 20:52:48.172697
• Title: FD$^2$: A Dedicated Framework for Fine-Grained Dataset Distillation
• Title（参考訳）: FD$^2$:細粒度データセット蒸留のための定式化フレームワーク
• Authors: Hongxu Ma, Guang Li, Shijie Wang, Dongzhan Zhou, Baoli Sun, Takahiro Ogawa, Miki Haseyama, Zhihui Wang,
• Abstract要約: 微細なデータセット蒸留のためのフレームワークであるFD$2$を提案する。 事前訓練中、きめ細かい特性制約は、各サンプルをそのクラスプロトタイプと整列させ、他のサンプルを撃退する。 複数のきめ細かいデータセットと一般的なデータセットの実験により、FD$2$は非結合DDとシームレスに統合されることが示された。
• 参考スコア（独自算出の注目度）: 46.27405453279254
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dataset distillation (DD) compresses a large training set into a small synthetic set, reducing storage and training cost, and has shown strong results on general benchmarks. Decoupled DD further improves efficiency by splitting the pipeline into pretraining, sample distillation, and soft-label generation. However, existing decoupled methods largely rely on coarse class-label supervision and optimize samples within each class in a nearly identical manner. On fine-grained datasets, this often yields distilled samples that (i) retain large intra-class variation with subtle inter-class differences and (ii) become overly similar within the same class, limiting localized discriminative cues and hurting recognition. To solve the above-mentioned problems, we propose FD$^{2}$, a dedicated framework for Fine-grained Dataset Distillation. FD$^{2}$ localizes discriminative regions and constructs fine-grained representations for distillation. During pretraining, counterfactual attention learning aggregates discriminative representations to update class prototypes. During distillation, a fine-grained characteristic constraint aligns each sample with its class prototype while repelling others, and a similarity constraint diversifies attention across same-class samples. Experiments on multiple fine-grained and general datasets show that FD$^{2}$ integrates seamlessly with decoupled DD and improves performance in most settings, indicating strong transferability.
• Abstract（参考訳）: データセット蒸留(DD)は、大規模なトレーニングセットを小さな合成セットに圧縮し、ストレージとトレーニングコストを削減し、一般的なベンチマークで強い結果を示した。 分離DDはパイプラインをプレトレーニング、サンプル蒸留、ソフトラベル生成に分割することで効率を向上する。 しかし、既存の分離されたメソッドは、ほとんど同じ方法で、粗いクラスラベルの監督と各クラス内のサンプルの最適化に大きく依存している。 微細なデータセットでは、しばしば蒸留されたサンプルが生成される。 (i)クラス間の微妙な差異を伴うクラス内の大きなばらつきを保ちます。 (ii)同じクラス内で過度に類似し、局所的な差別的手がかりを制限し、認識を損なう。 上記の問題を解決するために,細粒度データセット蒸留専用のフレームワークであるFD$^{2}$を提案する。 FD$^{2}$は識別領域をローカライズし、蒸留のための微細な表現を構成する。 事前訓練中、反実的注意学習は、クラスプロトタイプを更新するために差別的な表現を集約する。 蒸留中、微細な特性制約は各サンプルをそのクラスプロトタイプと整列させ、他のサンプルを反発させ、類似性制約は同一クラスサンプル間で注意を分散させる。 複数のきめ細かいデータセットと一般的なデータセットの実験では、FD$^{2}$は非結合DDとシームレスに統合され、ほとんどの設定で性能が向上し、強い転送可能性を示している。

関連論文リスト

• Optimizing Distributional Geometry Alignment with Optimal Transport for Generative Dataset Distillation [109.13471554184554]
  最適輸送(OT)距離最小化問題としてデータセット蒸留を再構成する。 OTは分布マッチングのための幾何学的に忠実なフレームワークを提供する。 提案手法は, 常に最先端の手法を効率よく上回っている。
  論文  参考訳（メタデータ） (2025-11-29T04:04:05Z)
• Rectified Decoupled Dataset Distillation: A Closer Look for Fair and Comprehensive Evaluation [36.444254126901065]
  本稿では,コンパクトな合成データセットを生成するために,Rectified Decoupled dataset Distillation (RD$3$)を提案する。 RD$3$は、将来のデータセット蒸留研究における公正かつ再現可能な比較の基礎を提供する。
  論文  参考訳（メタデータ） (2025-09-24T03:47:04Z)
• AHDMIL: Asymmetric Hierarchical Distillation Multi-Instance Learning for Fast and Accurate Whole-Slide Image Classification [51.525891360380285]
  AHDMILは非対称な階層的蒸留マルチインスタンス学習フレームワークである。 2段階のトレーニングプロセスを通じて、無関係なパッチを排除します。 分類性能と推論速度の両方において、従来の最先端手法を一貫して上回っている。
  論文  参考訳（メタデータ） (2025-08-07T07:47:16Z)
• Enhancing Dataset Distillation via Non-Critical Region Refinement [29.858754062202213]
  本研究では,NRR-DD法(Non-Critical Region Refinement dataset Distillation)を提案する。 また,距離ベース代表者(DBR)の知識伝達についても紹介し,訓練におけるソフトラベルの必要性を排除した。 実験結果から,NRR-DDは,小規模・大規模両方のデータセットで最先端の性能を実現することがわかった。
  論文  参考訳（メタデータ） (2025-03-24T01:20:22Z)
• FedUV: Uniformity and Variance for Heterogeneous Federated Learning [5.9330433627374815]
  フェデレーション学習は、広く分散されたデータでニューラルネットワークをトレーニングするための有望なフレームワークである。 最近の研究によると、ネットワークの最終層が局所バイアスの傾向が最も大きいためである。 凍結重量が一定の特異値をもたらすという観測によって動機付けられた重みにSVDを適用して分類器の訓練力学を考察する。
  論文  参考訳（メタデータ） (2024-02-27T15:53:15Z)
• Latent Distribution Adjusting for Face Anti-Spoofing [29.204168516602568]
  フェース・アンチ・スプーフィング(FAS)モデルの堅牢性を改善するため,LDA(Latent Distribution Adjusting)と呼ばれる統一フレームワークを提案する。 クラス内コンパクト性とクラス間不一致性を高めるため,プロトタイプ学習のための分布制約を提供するためのマージンベース損失を提案する。 筆者らのフレームワークは,1)クラス内コンパクトおよびクラス間分離性の両方を最終表現空間とし,2)複数の標準FASベンチマークにおける最先端手法より優れる。
  論文  参考訳（メタデータ） (2023-05-16T08:43:14Z)
• Intra-class Adaptive Augmentation with Neighbor Correction for Deep Metric Learning [99.14132861655223]
  深層学習のためのクラス内適応拡張(IAA)フレームワークを提案する。 クラスごとのクラス内変動を合理的に推定し, 適応型合成試料を生成し, 硬質試料の採掘を支援する。 本手法は,検索性能の最先端手法を3%～6%向上させる。
  論文  参考訳（メタデータ） (2022-11-29T14:52:38Z)
• Unsupervised Feature Learning by Cross-Level Instance-Group Discrimination [68.83098015578874]
  我々は、インスタンスグループ化ではなく、クロスレベルな識別によって、インスタンス間の類似性を対照的な学習に統合する。 CLDは、教師なし学習を、自然データや現実世界のアプリケーションに効果的に近づける。 セルフスーパービジョン、セミスーパービジョン、トランスファーラーニングベンチマークに関する新たな最先端技術は、報告されたすべてのパフォーマンスでMoCo v2とSimCLRを上回っている。
  論文  参考訳（メタデータ） (2020-08-09T21:13:13Z)
• Deep Semi-supervised Knowledge Distillation for Overlapping Cervical Cell Instance Segmentation [54.49894381464853]
  本稿では, ラベル付きデータとラベルなしデータの両方を, 知識蒸留による精度向上に活用することを提案する。 摂動に敏感なサンプルマイニングを用いたマスク誘導型平均教師フレームワークを提案する。 実験の結果,ラベル付きデータのみから学習した教師付き手法と比較して,提案手法は性能を著しく向上することがわかった。
  論文  参考訳（メタデータ） (2020-07-21T13:27:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。