論文の概要: Frequency Domain-based Dataset Distillation

• arxiv url: http://arxiv.org/abs/2311.08819v1
• Date: Wed, 15 Nov 2023 09:46:30 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-16 16:36:16.455816
• Title: Frequency Domain-based Dataset Distillation
• Title（参考訳）: 周波数領域に基づくデータセット蒸留
• Authors: Donghyeok Shin, Seungjae Shin, Il-Chul Moon
• Abstract要約: 本稿では,データセット蒸留のための新しいパラメータ化手法であるFreDを提案する。 FreDは周波数ベースの変換を使用して、各データインスタンスの周波数表現を最適化する。
• 参考スコア（独自算出の注目度）: 17.02955182740882
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper presents FreD, a novel parameterization method for dataset distillation, which utilizes the frequency domain to distill a small-sized synthetic dataset from a large-sized original dataset. Unlike conventional approaches that focus on the spatial domain, FreD employs frequency-based transforms to optimize the frequency representations of each data instance. By leveraging the concentration of spatial domain information on specific frequency components, FreD intelligently selects a subset of frequency dimensions for optimization, leading to a significant reduction in the required budget for synthesizing an instance. Through the selection of frequency dimensions based on the explained variance, FreD demonstrates both theoretical and empirical evidence of its ability to operate efficiently within a limited budget, while better preserving the information of the original dataset compared to conventional parameterization methods. Furthermore, based on the orthogonal compatibility of FreD with existing methods, we confirm that FreD consistently improves the performances of existing distillation methods over the evaluation scenarios with different benchmark datasets. We release the code at https://github.com/sdh0818/FreD.
• Abstract（参考訳）: 本稿では,この周波数領域を利用して,大規模なオリジナルデータセットから小型合成データセットを抽出する,データセット蒸留の新しいパラメータ化手法FreDを提案する。 空間領域にフォーカスする従来のアプローチとは異なり、FreDは各データインスタンスの周波数表現を最適化するために周波数ベースの変換を使用する。 特定の周波数成分に対する空間領域情報の集中を利用して、FreDは最適化のための周波数次元のサブセットをインテリジェントに選択し、インスタンスの合成に必要な予算を大幅に削減する。 説明分散に基づく周波数次元の選択を通じて、FreDは、その限られた予算内で効率的に動作できることの理論的および実証的な証拠の両方を示し、従来のパラメータ化法と比較して元のデータセットの情報を保存する。 さらに,FreDと既存手法との直交的整合性から,FreDは異なるベンチマークデータセットを用いた評価シナリオよりも既存の蒸留法の性能を一貫して改善することを確認した。 コードはhttps://github.com/sdh0818/fredでリリースします。

関連論文リスト

• Breaking Determinism: Fuzzy Modeling of Sequential Recommendation Using Discrete State Space Diffusion Model [66.91323540178739]
  シークエンシャルレコメンデーション(SR)は、ユーザーが過去の行動に基づいて興味を持つかもしれない項目を予測することを目的としている。 我々はSRを新しい情報理論の観点から再検討し、逐次モデリング手法がユーザの行動のランダム性と予測不可能性を適切に把握できないことを発見した。 ファジィ情報処理理論に触発された本論文では,制限を克服し,ユーザの関心事の進化をよりよく捉えるために,ファジィなインタラクションシーケンスの組を導入する。
  論文  参考訳（メタデータ） (2024-10-31T14:52:01Z)
• Hierarchical Features Matter: A Deep Exploration of GAN Priors for Improved Dataset Distillation [51.44054828384487]
  階層的生成潜在蒸留(H-GLaD)と呼ばれる新しいパラメータ化法を提案する。 本手法はGAN内の階層層を系統的に探索する。 さらに,合成データセット評価に伴う計算負担を軽減するために,新しいクラス関連特徴距離尺度を導入する。
  論文  参考訳（メタデータ） (2024-06-09T09:15:54Z)
• State-Free Inference of State-Space Models: The Transfer Function Approach [132.83348321603205]
  状態のない推論では、状態サイズが大きくなると大きなメモリや計算コストは発生しない。 提案した周波数領域転送関数のパラメトリゼーション特性を用いてこれを実現する。 長い畳み込みハイエナベースライン上での言語モデリングにおける難易度の改善を報告した。
  論文  参考訳（メタデータ） (2024-05-10T00:06:02Z)
• Supervised low-rank semi-nonnegative matrix factorization with frequency regularization for forecasting spatio-temporal data [6.725792598352138]
  周波数正規化を伴う半負行列分解(SMF)を用いた時間データの予測手法を提案する。 提案手法による結果は,地球物理学の分野におけるこれまでの研究に匹敵するが,より明瞭な解釈性を提供する。
  論文  参考訳（メタデータ） (2023-11-15T01:23:13Z)
• Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
  本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。 この研究は、単一変換による周波数領域学習のための青写真を導入している。
  論文  参考訳（メタデータ） (2022-11-26T01:56:05Z)
• Conformal Frequency Estimation using Discrete Sketched Data with Coverage for Distinct Queries [35.67445122503686]
  本稿では、非常に大きな離散データセットにおいて、問合せ対象の周波数に対する信頼区間を構築するための共形推論手法を開発する。 提案手法は,シミュレーションにおける既存の頻繁主義者やベイズ的な代替手法と比較して,経験的性能が向上したことを示す。
  論文  参考訳（メタデータ） (2022-11-09T00:05:29Z)
• Conformalized Frequency Estimation from Sketched Data [6.510507449705344]
  非常に大きなデータセットでクエリされたオブジェクトの周波数に対する信頼区間を構築するために、フレキシブルな共形推論法を開発した。 アプローチは完全にデータ適応的であり、人口分布やスケッチアルゴリズムの内部動作に関する知識を一切利用しない。
  論文  参考訳（メタデータ） (2022-04-08T19:39:37Z)
• Few-shot One-class Domain Adaptation Based on Frequency for Iris Presentation Attack Detection [33.41823375502942]
  アイリス提示攻撃検知(PAD)はアイリス認識システムの信頼性と安全性を確保するために大きな成功を収めた。 既存の手法のほとんどは、空間領域における識別的特徴を利用して、データセット内設定下での優れた性能を報告している。 Few-shot One-class Domain Adaptation (FODA) と呼ばれる新しいドメイン適応方式を提案する。
  論文  参考訳（メタデータ） (2022-04-01T11:55:06Z)
• Frequency Spectrum Augmentation Consistency for Domain Adaptive Object Detection [107.52026281057343]
  周波数スペクトル拡張整合(FSAC)フレームワークを4種類の低周波フィルタで構成する。 最初の段階では、オリジナルおよび拡張されたソースデータを全て利用して、オブジェクト検出器を訓練する。 第2段階では、予測一貫性のための自己学習を行うために、擬似ラベル付き拡張現実とターゲットデータを採用する。
  論文  参考訳（メタデータ） (2021-12-16T04:07:01Z)
• PriorGrad: Improving Conditional Denoising Diffusion Models with Data-Driven Adaptive Prior [103.00403682863427]
  条件拡散モデルの効率を改善するために, PreGrad を提案する。 PriorGradはデータとパラメータの効率を向上し、品質を向上する。
  論文  参考訳（メタデータ） (2021-06-11T14:04:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。