論文の概要: Self-Supervised Representation-Guided Generative Dataset Distillation

• arxiv url: http://arxiv.org/abs/2608.03218v1
• Date: Tue, 04 Aug 2026 06:51:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:23.066508
• Title: Self-Supervised Representation-Guided Generative Dataset Distillation
• Title（参考訳）: 自己監督型表現型生成データセット蒸留
• Authors: Mingzhuo Li, Guang Li, Linfeng Ye, Jiafeng Mao, Takahiro Ogawa, Konstantinos N. Plataniotis, Miki Haseyama,
• Abstract要約: 自己監督型表現誘導型生成データセット蒸留(SRG)を提案する。 SRGはSSLの幾何学を拡散誘導に変換する。 複数のデータセットとIPC設定で評価された生成ベースラインを一貫して上回る。
• 参考スコア（独自算出の注目度）: 55.27114962330541
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dataset distillation compresses a large training set into a compact synthetic set while retaining its downstream utility. Most existing methods target randomly initialized networks, whereas modern vision systems often adapt frozen pretrained encoders with lightweight modules. Distilled samples should therefore preserve the discriminative geometry of the pretrained representation space, which existing generative objectives do not explicitly consider. We propose self-supervised representation-guided generative dataset distillation (SRG), a framework that translates the SSL geometry into diffusion guidance. Specifically, SRG constructs class-wise prototypes from real-image SSL representations and performs guidance through three SSL-space objectives for prototype alignment, inter-class discrimination, and intra-class assignment. During diffusion sampling, it adopts a stage-wise guidance strategy: early denoising is anchored to the latent of the real image whose SSL representation is nearest to the assigned prototype, whereas later denoising is guided by the SSL-space objectives. This division preserves the visual realism provided by the generative prior while progressively steering samples toward representative and class-discriminative regions of the SSL representation space. SRG consistently outperforms the evaluated generative baselines across multiple datasets and IPC settings. A cross-encoder evaluation further indicates transfer across pretrained representation spaces. These results demonstrate the effectiveness of representation-guided generation for dataset distillation with pretrained SSL models.
• Abstract（参考訳）: データセット蒸留は、下流ユーティリティを維持しながら、大規模なトレーニングセットをコンパクトな合成セットに圧縮する。 既存のほとんどの手法はランダムに初期化されたネットワークをターゲットとしているが、現代の視覚システムは軽量モジュールで凍結した事前学習エンコーダを適応させることが多い。 したがって、蒸留されたサンプルは、既存の生成目的が明示的に考慮していない事前訓練された表現空間の識別的幾何学を保存する必要がある。 本稿では,SSL 形状を拡散誘導に変換するフレームワークである自己教師付き表現誘導型生成データセット蒸留(SRG)を提案する。 具体的には、SRGは実像のSSL表現からクラスワイドのプロトタイプを構築し、プロトタイプアライメント、クラス間識別、クラス内割り当てのためのSSL空間の3つの目的を通じてガイダンスを実行する。 初期復調は、割り当てられたプロトタイプに最も近い実像の潜在像に固定され、後続の復調はSSL空間の目的によって導かれる。 この区分は、生成前の生成者が提供した視覚的リアリズムを保存し、SSL表現空間の代表領域およびクラス識別領域に向けて段階的にサンプルを操る。 SRGは評価された生成ベースラインを複数のデータセットとIPC設定で一貫して上回る。 さらに、クロスエンコーダ評価は、事前訓練された表現空間間の転送を示す。 これらの結果は,プレトレーニングされたSSLモデルを用いたデータセット蒸留における表現誘導生成の有効性を示す。

関連論文リスト

• Probing Geospatial SSL Representations with Environmental Signals [51.908606610432194]
  自己教師付き学習(SSL)は、単一のタスクに最適化された表現ではなく、汎用的で転送可能な表現を学ぶように設計されている。 SSL表現は、イメージングプロセスと共変する環境変数との統計的関連を保存しているか? この問題に対処するために、我々は、物理的に一貫した環境変数のグローバルデータセットである共配置ERA5再解析変数を用いてSSL表現を探索する。
  論文  参考訳（メタデータ） (2026-07-06T15:24:25Z)
• Generate in Reconstruction Space, Match in Semantic Space: Transport Geometry for One-Step Generation [16.138914735031744]
  生成モデリングと自己教師付き表現学習(SSL)は、構造的に異なる目的を最適化する。 一段階生成の枠組みにおける生成モデリングにおけるSSLの利点について検討する。 意味的に構造化されたSSL機能空間で計算すると,この目的は非常に効果的であることが分かる。
  論文  参考訳（メタデータ） (2026-05-30T04:03:47Z)
• Quantifying the Pre-training Dividend: Generative versus Latent Self-Supervised Learning for Time Series Foundation Models [5.3565231231826695]
  自己教師型学習(SSL)のビジョンとNLPは、時系列への急速な採用を動機付けている。 さまざまな時間的タスクにまたがってSSLが付加する価値である“事前トレーニング配当”を評価するためのフレームワークを確立します。 我々の分析では、事前学習配当は高度に非対称であり、異常検出と分類では最大375%の利得が得られるが、予測には限界がある。
  論文  参考訳（メタデータ） (2026-05-19T07:13:20Z)
• Enhancing Semantic Segmentation with Continual Self-Supervised Pre-training [11.897717409259492]
  自己教師付き学習(SSL)は、基礎モデルをトレーニングするための中心的なパラダイムとして登場した。 GLAREは,下流セグメンテーション性能の向上を目的とした,新規な自己教師型事前学習タスクである。
  論文  参考訳（メタデータ） (2025-09-22T14:11:02Z)
• Deciphering the Projection Head: Representation Evaluation Self-supervised Learning [6.375931203397043]
  自己教師付き学習(SSL)は、ラベルなしで固有の特徴を学習することを目的としている。 プロジェクションヘッドは、ダウンストリームタスクのパフォーマンスを改善する上で、常に重要な役割を果たす。 本稿では,表現と投影ベクトルとのショートカット接続を構築するSSLモデルにおける表現評価設計(RED)を提案する。
  論文  参考訳（メタデータ） (2023-01-28T13:13:53Z)
• Improving Self-Supervised Learning by Characterizing Idealized Representations [155.1457170539049]
  与えられたデータ拡張に不変なタスクに対して必要かつ十分な条件を証明します。 対照的に、我々のフレームワークは、従来の手法に対して単純だが重要な改善を規定している。 非コントラスト学習では、私たちのフレームワークを使って、シンプルで斬新な目的を導き出します。
  論文  参考訳（メタデータ） (2022-09-13T18:01:03Z)
• Structure-Aware Feature Generation for Zero-Shot Learning [108.76968151682621]
  潜在空間と生成ネットワークの両方を学習する際の位相構造を考慮し,SA-GANと呼ばれる新しい構造認識特徴生成手法を提案する。 本手法は,未確認クラスの一般化能力を大幅に向上させ,分類性能を向上させる。
  論文  参考訳（メタデータ） (2021-08-16T11:52:08Z)
• Trash to Treasure: Harvesting OOD Data with Cross-Modal Matching for Open-Set Semi-Supervised Learning [101.28281124670647]
  オープンセット半教師付き学習(Open-set SSL)では、ラベルなしデータにOOD(Out-of-distribution)サンプルを含む、難しいが実用的なシナリオを調査する。 我々は、OODデータの存在を効果的に活用し、特徴学習を増強する新しいトレーニングメカニズムを提案する。 我々のアプローチは、オープンセットSSLのパフォーマンスを大幅に向上させ、最先端技術よりも大きなマージンで性能を向上します。
  論文  参考訳（メタデータ） (2021-08-12T09:14:44Z)
• Closed-Form Factorization of Latent Semantics in GANs [65.42778970898534]
  画像合成のために訓練されたGAN(Generative Adversarial Networks)の潜在空間に、解釈可能な次元の豊富なセットが出現することが示されている。 本研究では,GANが学習した内部表現について検討し,その基礎となる変動要因を教師なしで明らかにする。 本稿では,事前学習した重みを直接分解することで,潜在意味発見のためのクローズドフォーム因数分解アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-13T18:05:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。