論文の概要: Spectral Gradient Surgery for Domain-Generalizable Dataset Distillation

• arxiv url: http://arxiv.org/abs/2605.18836v1
• Date: Wed, 13 May 2026 02:33:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:08.653438
• Title: Spectral Gradient Surgery for Domain-Generalizable Dataset Distillation
• Title（参考訳）: ドメイン一般化型データセット蒸留のためのスペクトル勾配手術
• Authors: Minyoung Oh, Najeong Chae, Jae-Young Sim,
• Abstract要約: ドメイン一般化型データセット蒸留(DGDD)を紹介する。 本研究では,広く採用されている分散マッチング(DM)ベースラインを用いてこの問題について検討する。 本研究は,SGS (Spectral Gradient Surgery) とSGS (Spectral Gradient Surgery) を併用する。
• 参考スコア（独自算出の注目度）: 6.809496808804485
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Dataset Distillation (DD) synthesizes a compact synthetic dataset that preserves the training utility of a full dataset. However, its standard formulation assumes that test data follow the same distribution as training data, an assumption that rarely holds in practice. A straightforward extension-applying post-hoc Domain Generalization (DG) techniques to distilled data-is ill-suited because existing DG methods rely on the natural diversity of real datasets, which compact synthetic sets inherently lack, while also incurring substantial augmentation overhead that conflicts with the efficiency objective of dataset distillation. To address this limitation, we introduce Domain Generalizable Dataset Distillation (DGDD), a new problem setting that explicitly targets out-of-distribution (OOD) generalization of distilled datasets. We study this problem through a widely adopted DD baseline of Distribution Matching (DM). We attribute the OOD vulnerability of DM to the entanglement of class-discriminative and domain-specific information within the compressed synthetic set, and propose Spectral Gradient Surgery (SGS) to disentangle the two. The key insight of SGS is that cross-domain agreement among domain-wise gradients in the spectral domain reveals which gradient components are shared across source domains-and are therefore class-discriminative-and which are domain-specific. Based on this observation, SGS augments the standard DM update with two complementary gradients: one that reinforces cross-domain shared components and another that explicitly promotes diversity within the distilled dataset. Extensive experiments on diverse-scale benchmarks demonstrate that SGS substantially improves OOD generalization while remaining plug-and-play compatible with existing DM methods.
• Abstract（参考訳）: データセット蒸留(DD)は、完全なデータセットのトレーニングユーティリティを保持するコンパクトな合成データセットを合成する。 しかし、その標準的な定式化は、テストデータがトレーニングデータと同じ分布に従うと仮定する。 既存のDG法は、コンパクトな合成データセットが本質的に欠落している実際のデータセットの自然な多様性に依存しているのと同時に、データセット蒸留の効率目標と矛盾する実質的なオーバヘッドを生じさせるため、単純な拡張適用後のドメイン一般化(DG)技術は不適当である。 この制限に対処するために、蒸留データセットのout-of-distribution(OOD)一般化を明示的にターゲットとする新しい問題設定であるDomain Generalizable Dataset Distillation(DGDD)を導入する。 本研究では,分散マッチング(DM)のDDベースラインを広く採用してこの問題を考察する。 DMのOOD脆弱性は, 圧縮された合成集合内のクラス識別情報とドメイン固有情報の絡み合いに起因し, スペクトル勾配手術(SGS)を提案する。 SGSのキーとなる洞察は、スペクトル領域におけるドメインワイド勾配間のクロスドメイン合意は、どの勾配成分がソース領域間で共有されているかを明らかにし、したがって、クラス識別的であり、ドメイン固有である。 この観察に基づいて、SGSは標準的なDM更新を2つの補完的な勾配で強化する。 多様なベンチマークによる大規模な実験により、SGSは既存のDM法と互換性のあるプラグアンドプレイを維持しながら、OODの一般化を大幅に改善することが示された。

関連論文リスト

• Let Synthetic Data Shine: Domain Reassembly and Soft-Fusion for Single Domain Generalization [68.41367635546183]
  単一ドメインの一般化は、単一のソースからのデータを使用して、さまざまなシナリオで一貫したパフォーマンスでモデルをトレーニングすることを目的としている。 モデル一般化を改善するために合成データを活用した学習フレームワークDRSFを提案する。
  論文  参考訳（メタデータ） (2025-03-17T18:08:03Z)
• Progressive Multi-Level Alignments for Semi-Supervised Domain Adaptation SAR Target Recognition Using Simulated Data [3.1951121258423334]
  我々は、ソースドメインインスタンスを対応するプロトタイプに近づけるために、インスタンス-プロトタイプアライメント(AIPA)戦略を開発する。 また、ソースドメインインスタンスを対応するプロトタイプに近づけるための、インスタンス-プロトタイプアライメント(AIPA)戦略も開発しています。
  論文  参考訳（メタデータ） (2024-11-07T13:53:13Z)
• Not All Samples Should Be Utilized Equally: Towards Understanding and Improving Dataset Distillation [57.6797306341115]
  我々は,サンプル難易度の観点から,マッチングに基づくDD手法の理解に向けて最初の一歩を踏み出した。 次に、データプルーニングのニューラルネットワークスケーリング法則をDDに拡張し、これらのマッチングベースの手法を理論的に説明する。 SDC(Sampple Difficulty Correction)アプローチを導入し、より簡単なサンプルを生成して、より高いデータセット品質を実現する。
  論文  参考訳（メタデータ） (2024-08-22T15:20:32Z)
• Disentangling Masked Autoencoders for Unsupervised Domain Generalization [57.56744870106124]
  教師なしの領域一般化は急速に注目されているが、まだ十分に研究されていない。 Disentangled Masked Auto (DisMAE) は、本質的な特徴を忠実に示す不整合表現を発見することを目的としている。 DisMAEは、セマンティックで軽量な変分エンコーダを備えた非対称なデュアルブランチアーキテクチャを共同で訓練する。
  論文  参考訳（メタデータ） (2024-07-10T11:11:36Z)
• Semi Supervised Heterogeneous Domain Adaptation via Disentanglement and Pseudo-Labelling [4.33404822906643]
  半教師付きドメイン適応法は、ソースラベル付きドメインからの情報を利用して、少ないラベル付きターゲットドメインを一般化する。 このような設定は半教師付き不均質ドメイン適応(SSHDA)と表記される。 SHEDD(Semi-supervised Heterogeneous Domain Adaptation via Disentanglement)は,対象ドメインの学習に適したエンドツーエンドのニューラルネットワークフレームワークである。
  論文  参考訳（メタデータ） (2024-06-20T08:02:49Z)
• FSDA-DG: Improving Cross-Domain Generalizability of Medical Image Segmentation with Few Source Domain Annotations [10.362970759633543]
  医用画像セグメンテーションのクロスドメイン一般化性を改善するための新しい手法としてFSDA-DGを提案する。 FSDA-DGは、画像をグローバルな広域領域とセマンティクスに誘導されたローカルリージョンに分割し、データ分散の強化のために異なる拡張戦略を適用する。
  論文  参考訳（メタデータ） (2023-11-05T07:44:40Z)
• Domain Generalization with Adversarial Intensity Attack for Medical Image Segmentation [27.49427483473792]
  実世界のシナリオでは、トレーニング中に露出していない新しいドメインや異なるドメインのデータに遭遇することが一般的である。 ドメイン一般化(Domain Generalization, DG)は、モデルがこれまで見つからなかったドメインからのデータを扱うことを可能にする、有望な方向である。 本稿では,敵対的トレーニングを活用して無限のスタイルでトレーニングデータを生成する,AdverIN(Adversarial Intensity Attack)と呼ばれる新しいDG手法を提案する。
  論文  参考訳（メタデータ） (2023-04-05T19:40:51Z)
• Divide and Contrast: Source-free Domain Adaptation via Adaptive Contrastive Learning [122.62311703151215]
  Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。 DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。 さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
  論文  参考訳（メタデータ） (2022-11-12T09:21:49Z)
• Generalizable Representation Learning for Mixture Domain Face Anti-Spoofing [53.82826073959756]
  ドメイン一般化(DG)に基づく対スプーフィングアプローチは、予期せぬシナリオの堅牢性のために注目を集めています。 ドメインダイナミック調整メタラーニング(D2AM)についてドメインラベルを使わずに提案する。 この制限を克服するため,ドメインダイナミック調整メタラーニング(D2AM)を提案する。
  論文  参考訳（メタデータ） (2021-05-06T06:04:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。