論文の概要: EigDiff: Eigensample Diffusion - or how to significantly reduce training dataset size with marginal performance variation?

• arxiv url: http://arxiv.org/abs/2610.20999v1
• Date: Wed, 14 Oct 2026 22:36:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.099464
• Title: EigDiff: Eigensample Diffusion - or how to significantly reduce training dataset size with marginal performance variation?
• Title（参考訳）: EigDiff: 固有サンプル拡散(Eigensample Diffusion) — あるいは、限界パフォーマンスのバリエーションでトレーニングデータセットのサイズを大幅に削減する方法?
• Abstract要約: 拡散モデルは訓練に費用がかかることで知られており、複数の小さなデノゲーションステップで画像から徐々にノイズを反転させる方法を学ぶために大規模なデータセットを必要とする。 現在のアプローチでは、トレーニングデータの潜在的な冗長性を無視し、拡散ステップの数を蒸留することに重点を置いている。 本稿では,モデル性能を保ちながら,より小さなデータセット上で拡散モデルを訓練するための固有サンプルの活用の可能性について検討する。
• 参考スコア（独自算出の注目度）: 27.990983645061817
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion models are notoriously expensive to train, requiring large-scale datasets to learn how to gradually reverse the noise from images over multiple small denoising steps. Current approaches focus on distilling the number of diffusion steps, neglecting potential redundancies of the training data. In this paper, we explore the potential of harnessing eigensamples to train diffusion models on significantly smaller datasets, while preserving model performance. To mitigate the sensitivity to affine transformations of eigenimages, we harness the latent space of a pre-trained CLIP model. We next compute latent eigenvectors by performing principal component analysis (PCA) in CLIP space. Further, we employ eigenvectors as reference points to guide the selection of a representative training set comprising comprising both exemplars (images whose embeddings are closest to eigenvectors) and diverse images. Our comprehensive experiments with different diffusion models applied on multiple datasets indicate that our approach (EigDiff) can reduce training data by up to 14x and accelerate subset selection by up to 1607x, with marginal performance differences.
• Abstract（参考訳）: 拡散モデルは訓練に費用がかかることで知られており、複数の小さなデノゲーションステップで画像から徐々にノイズを反転させる方法を学ぶために大規模なデータセットを必要とする。 現在のアプローチでは、トレーニングデータの潜在的な冗長性を無視し、拡散ステップの数を蒸留することに重点を置いている。 本稿では,モデル性能を保ちながら,より小さなデータセット上で拡散モデルを訓練するための固有サンプルの活用の可能性について検討する。 固有画像のアフィン変換に対する感度を緩和するために、事前学習されたCLIPモデルの潜在空間を利用する。 次に、CLIP空間で主成分分析(PCA)を行うことにより遅延固有ベクトルを計算する。 さらに、固有ベクトルを基準点として、固有ベクトルに最も近い画像)と多彩な画像からなる代表訓練セットの選択を導く。 複数のデータセットに異なる拡散モデルを適用した総合的な実験により、我々のアプローチ(EigDiff)はトレーニングデータを最大14倍に削減し、サブセット選択を最大1607倍に高速化し、性能差を極端に抑えることができることを示した。

関連論文リスト

• Learnability-Guided Diffusion for Dataset Distillation [51.56484100374058]
  本稿では, 連続的な段階を通して段階的に合成データセットを構成する学習可能性駆動型データセット蒸留法を提案する。 本稿では,学習可能性誘導拡散(LGD)について紹介する。これは,現在のモデルのトレーニングユーティリティと基準モデルの下での妥当性のバランスをとり,カリキュラムに整合したサンプルを生成する。 提案手法は,トレーニング段階間の専門化を促進し,ImageNet-1K (60.1%), ImageNette (87.2%), ImageWoof (72.9%) の最先端結果を実現する。
  論文  参考訳（メタデータ） (2026-04-01T06:04:59Z)
• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• Diffusion Dataset Condensation: Training Your Diffusion Model Faster with Less Data [18.21207020440108]
  拡散データセットの凝縮を新しい問題設定として研究する。 目標は、元のデータセットよりもはるかに少ないサンプルを持つ"合成"サブデータセットを構築することだ。 我々のフレームワークは、高い視覚的品質を維持しながら、劇的に少ないデータで非常に高速な拡散モデルトレーニングを可能にします。
  論文  参考訳（メタデータ） (2025-07-08T12:00:04Z)
• Efficient Dataset Distillation via Diffusion-Driven Patch Selection for Improved Generalization [34.53986517177061]
  本稿では, 既存の拡散式蒸留法に対する新しい枠組みを提案し, 生成ではなく拡散モデルを用いて選択する。 提案手法は,入力画像とテキストプロンプトに基づいて拡散モデルから発生するノイズを予測し,各ペアの損失を算出する。 この合理化フレームワークは単一段階の蒸留プロセスを実現するとともに,我々の手法が様々なメトリクスにわたって最先端の手法より優れていることを示す広範な実験を行った。
  論文  参考訳（メタデータ） (2024-12-13T08:34:46Z)
• Ambient Diffusion Posterior Sampling: Solving Inverse Problems with Diffusion Models Trained on Corrupted Data [54.09959775518994]
  線形に破損したデータから学習した拡散モデルを用いて逆問題を解決するためのフレームワークを提供する。 加速度係数R=2,4,6,8のサブサンプルによるマルチコイル測定にのみアクセス可能なMRI拡散モデルを訓練する。 高加速度環境下でのMRI再構成において、サブサンプルデータでトレーニングされたA-DPSモデルは、完全サンプルデータでトレーニングされたモデルよりも逆問題の解決に適している。
  論文  参考訳（メタデータ） (2024-03-13T17:28:20Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。