論文の概要: Dataset Distillation Based on Saliency-Driven Prototype Alignment

• arxiv url: http://arxiv.org/abs/2607.25318v2
• Date: Fri, 31 Jul 2026 07:43:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-03 14:29:40.253075
• Title: Dataset Distillation Based on Saliency-Driven Prototype Alignment
• Title（参考訳）: 塩分駆動型プロトタイプアライメントに基づくデータセット蒸留
• Abstract要約: 本稿では,代表性と一般化性を高めるために,クラス識別型潜水型蒸留機を構成する塩分蒸留フレームワークを提案する。 フレームワークは次の2つの段階で進行する: (1)Grad-CAM++サリエンシは、クラス識別領域を強調するプロトタイプを構築するために使用され、(2)ハードプロトタイプの改良は、挑戦的だがクラス一貫性のあるプロトタイプを構築するために適用される。 複数のベンチマークの実験では、強いベースラインよりも一貫したパフォーマンス改善が示されている。
• 参考スコア（独自算出の注目度）: 7.671427495273854
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dataset distillation aims to synthesize compact datasets that can approximate the performance of full-data training while significantly reducing computational and storage costs. However, diffusion-based distillation methods often struggle to preserve structural coherence and generalization, especially in visually complex domains. This issue often stems from latent prototypes that are weakly aligned with class-discriminative regions and contaminated by irrelevant background, thereby degrading generation quality and generalization. To address this limitation, we propose a saliency-driven distillation framework that constructs class-discriminative latent prototypes to enhance representativeness and generalization. The framework proceeds in two stages: (1) ensemble Grad-CAM++ saliency is used to construct prototypes emphasizing class-discriminative regions, and (2) hard-prototype refinement is then applied to construct challenging yet class-consistent prototypes, thereby enhancing discriminability and diversity. Importantly, the diffusion backbones (e.g., LDM and DiT) remain frozen; only lightweight classifiers used for saliency extraction are trained. Extensive experiments across multiple benchmarks demonstrate consistent performance improvements over strong baselines. Code will be released.
• Abstract（参考訳）: データセット蒸留は、計算と記憶のコストを大幅に削減しつつ、フルデータトレーニングのパフォーマンスを近似できるコンパクトデータセットを合成することを目的としている。 しかしながら、拡散に基づく蒸留法は、特に視覚的に複雑な領域において、構造的コヒーレンスと一般化を維持するのに苦労することが多い。 この問題は、しばしば、クラス識別領域と弱い整合性を持ち、無関係な背景によって汚染され、生成品質と一般化を低下させる潜伏型プロトタイプに起因している。 この制限に対処するため,代表性と一般化性を高めるために,クラス識別型潜水型蒸留機を構築するサリエンシ駆動蒸留フレームワークを提案する。 このフレームワークは,(1) クラス識別領域を強調するプロトタイプの構築にGrad-CAM++サリエンシを用いており,(2) ハードプロトタイプの改良により,クラス一貫性のあるプロトタイプの構築に挑戦し,差別性と多様性を高める。 重要なことに、拡散バックボーン(例えば、LDM、DiT)は凍結状態のままであり、塩分抽出に用いられる軽量な分類器のみが訓練されている。 複数のベンチマークにわたる大規模な実験は、強いベースラインよりも一貫したパフォーマンス改善を示している。 コードはリリースされる。

関連論文リスト

• SWARD: Stochastic Window-Attention-Based Relational Distillation for Cross-Architectural Semantic Segmentation [1.1617094867403568]
  大規模視覚基盤モデルは、セマンティックセグメンテーションのような密集した予測タスクに大きな利益をもたらした。 現代の基礎教師は、主にグローバルコンテキストを符号化するトランスフォーマーベースであるのに対し、効率的な学生は、通常、局所的に偏った受容場を持つ畳み込みネットワークである。 既存の蒸留法は主に構造的均質性を前提としており、直接的特徴模倣に依存しており、この表現的ギャップを埋めることができない。 本稿では,このギャップを2つの相補的なメカニズムで解決する知識蒸留フレームワークSWARDを提案する。
  論文  参考訳（メタデータ） (2026-05-31T04:29:31Z)
• SAS: Semantic-aware Sampling for Generative Dataset Distillation [55.27114962330541]
  本稿では,コントラスト言語-画像事前学習(CLIP)をポストサンプリングのセマンティクスとして活用することで,データセット蒸留のセマンティック・アウェア・パースペクティブを導入する。 我々のゴールは、コンパクトであるだけでなく、意味的にクラス差別的で多様である蒸留データセットを得ることです。
  論文  参考訳（メタデータ） (2026-05-18T08:05:46Z)
• FD$^2$: A Dedicated Framework for Fine-Grained Dataset Distillation [46.27405453279254]
  微細なデータセット蒸留のためのフレームワークであるFD$2$を提案する。 事前訓練中、きめ細かい特性制約は、各サンプルをそのクラスプロトタイプと整列させ、他のサンプルを撃退する。 複数のきめ細かいデータセットと一般的なデータセットの実験により、FD$2$は非結合DDとシームレスに統合されることが示された。
  論文  参考訳（メタデータ） (2026-03-26T08:03:45Z)
• IMS3: Breaking Distributional Aggregation in Diffusion-Based Dataset Distillation [41.83834685276882]
  近年,拡散型データセット蒸留法は,拡散モデルの強い生成能力を活用し,多様で構造的に一貫した試料を生成することにより,大きな期待を抱いている。 Inversion-Matching (IM)は、インバージョン誘導による微調整プロセスを導入し、軌道をインバージョンと整列させ、分布範囲を広げ、多様性を高める。 Selective Subgroup Sampling(S3)は、クラス間分離性を改善するためのトレーニング不要なサンプリングメカニズムである。
  論文  参考訳（メタデータ） (2026-03-14T14:15:03Z)
• Generalizable Knowledge Distillation from Vision Foundation Models for Semantic Segmentation [73.32435804067883]
  Generalizable Knowledge Distillation (GKD)は、一般化を明示的に強化する多段階フレームワークである。 5つの領域一般化ベンチマークの実験は、GKDが既存のKD法を一貫して上回ることを示した。
  論文  参考訳（メタデータ） (2026-03-03T03:18:12Z)
• ManifoldGD: Training-Free Hierarchical Manifold Guidance for Diffusion-Based Dataset Distillation [9.230247128710865]
  本稿では,各段階における多様体一貫したガイダンスを統合した,学習自由拡散に基づくフレームワークを提案する。 ManifoldGDは、モデルの再トレーニングを必要とせずに、代表性、多様性、画像の忠実性を改善する。
  論文  参考訳（メタデータ） (2026-02-26T18:07:10Z)
• Utility Boundary of Dataset Distillation: Scaling and Configuration-Coverage Laws [6.172966466468818]
  トレーニング設定を変更すると、どのような条件で蒸留データが完全なデータセットの有効性を維持することができるのかは不明だ。 本稿では,共通一般化・エラーの観点から主要なDDアプローチを再構成する,構成-構成-エラー解析と呼ばれる統一的理論フレームワークを提案する。 解析により, 種々のマッチング手法が交換可能なサロゲートであり, 同じ一般化誤差を低減し, なぜこれらがすべてデータセット蒸留を達成できるかを明らかにした。
  論文  参考訳（メタデータ） (2025-12-05T15:37:38Z)
• Divide, Conquer and Unite: Hierarchical Style-Recalibrated Prototype Alignment for Federated Medical Image Segmentation [66.82598255715696]
  フェデレートラーニング(Federated Learning)は、複数の医療機関がデータを共有することなく、グローバルなモデルをトレーニングすることを可能にする。 現在のアプローチは主に、重要なマルチレベルキューを見下ろす最終層機能に重点を置いている。 我々は,ドメイン不変のコンテキスト型プロトタイプアライメントを介して特徴表現ギャップをブリッジするFedBCSを提案する。
  論文  参考訳（メタデータ） (2025-11-14T04:15:34Z)
• Diffusion Models as Dataset Distillation Priors [39.4727398182562]
  本稿では,特徴空間における合成データと実データとの類似性を定量化し,代表性を定式化するAs Diffusion Priors (DAP)を提案する。 DAPは、高忠実度データセットを生成する上で、最先端の手法よりも優れています。 我々の研究は、拡散先行とデータセット蒸留の目的との理論的関係を確立する。
  論文  参考訳（メタデータ） (2025-10-20T11:04:09Z)
• Learning Robust Diffusion Models from Imprecise Supervision [75.53546939251146]
  DMISは、Imrecise Supervisionから堅牢な条件拡散モデルをトレーニングするための統一されたフレームワークである。 我々のフレームワークは、可能性から派生し、その目的を生成的および分類的構成要素に分解する。 画像生成、弱教師付き学習、データセットの凝縮をカバーし、様々な形の不正確な監視実験を行い、DMISが常に高品質でクラス差別的なサンプルを生成することを示した。
  論文  参考訳（メタデータ） (2025-10-03T14:00:32Z)
• Restoration Score Distillation: From Corrupted Diffusion Pretraining to One-Step High-Quality Generation [82.39763984380625]
  Score Distillation (DSD) の原理的一般化である textitRestoration Score Distillation (RSD) を提案する。 RSDは、ぼやけた画像、不完全画像、低解像度画像など、広範囲の汚職タイプに対応している。 自然と科学の両方のデータセットの様々な復元作業において、教師モデルを一貫して上回っている。
  論文  参考訳（メタデータ） (2025-05-19T17:21:03Z)
• GCC: Generative Calibration Clustering [55.44944397168619]
  本稿では,特徴学習と拡張をクラスタリングに組み込む新しいGCC法を提案する。 まず,実検体と実検体間の固有関係を識別する識別的特徴アライメント機構を開発する。 第二に、より信頼性の高いクラスタ割り当てを生成するための自己教師付きメトリック学習を設計する。
  論文  参考訳（メタデータ） (2024-04-14T01:51:11Z)
• Learning Invariant Molecular Representation in Latent Discrete Space [52.13724532622099]
  本稿では,分散シフトに対する不変性とロバスト性を示す分子表現を学習するための新しい枠組みを提案する。 我々のモデルは、様々な分布シフトが存在する場合に、最先端のベースラインに対してより強力な一般化を実現する。
  論文  参考訳（メタデータ） (2023-10-22T04:06:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。