Fugu-MT 論文翻訳(概要): X-AVDD: Cross-Attentive Audio-Visual Dataset Distillation

論文の概要: X-AVDD: Cross-Attentive Audio-Visual Dataset Distillation

arxiv url: http://arxiv.org/abs/2610.13687v1
Date: Fri, 09 Oct 2026 14:51:26 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-13 04:06:29.643421
Title: X-AVDD: Cross-Attentive Audio-Visual Dataset Distillation
Title（参考訳）: X-AVDD:クロスアテンティブなオーディオ-ビジュアルデータセット蒸留
Abstract要約: 合成中のモーダル間関係を捉えるクロスアテンションに基づく蒸留法であるX-AVDDを提案する。 X-AVDDはメモリ効率が大幅に向上し、エンドツーエンドの合成コストをGPU時間で$sim 8times削減する。短いYouTubeクリップのオーディオヴィジュアルデータセットであるVGGSoundでは、X-AVDDがトップ1テストの精度を8.2%rightarrow24.0%$ at SPC=$10$と9.8%rightarrow26.5%$ at SPC=$20$から改善している。
参考スコア（独自算出の注目度）: 5.276232626689568
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Audio-visual dataset distillation aims to synthesize a small dataset from a large paired audio-visual dataset, while nearly preserving the training utility for neural networks. Existing approaches such as DM and AVDD face two critical limitations: 1) they are memory-intensive, making them difficult to scale to complex architectures and higher samples-per-class (SPC) settings, and 2) they often fail to preserve strong cross-modal semantic correspondence. To tackle these issues, we propose X-AVDD, a cross-attention-based distillation method that explicitly captures inter-modal relationships during synthesis. By decoupling cross-modal alignment from joint optimization, X-AVDD is substantially more memory-efficient, reducing end-to-end synthesis cost by $\sim 8\times$ GPU-hours, while producing highly aligned synthetic data. Empirically, X-AVDD significantly outperforms other audio-visual distillation methods. On VGGSound, an audio-visual dataset of short YouTube clips, X-AVDD improves top-1 test accuracy from $8.2\%\rightarrow24.0\%$ at SPC=$10$ and $9.8\%\rightarrow26.5\%$ at SPC=$20$. Furthermore, X-AVDD improves cross-architecture generalization (e.g., $25.5\%\rightarrow35.3\%$ for a ViT target on AVE dataset at SPC $=50$) and successfully scales to complex architectures such as AudioCLIP, achieving $62.3\%$ accuracy using only $5.65\%$ of the full dataset, against the full dataset accuracy of $72.4\%$ while completing in $9\times$ lower training time compared to the full dataset.
Abstract（参考訳）: オーディオビジュアルデータセットの蒸留は、ニューラルネットワークのトレーニングユーティリティをほぼ保ちながら、大きなペアのオーディオビジュアルデータセットから小さなデータセットを合成することを目的としている。 DMやAVDDといった既存のアプローチには2つの限界がある。 1) メモリ集約型であり,複雑なアーキテクチャやSPC設定のスケールアップが困難である。 2) 強い相互意味的対応を保たないことが多い。これらの課題に対処するため, 合成中のモーダル間関係を明示的に捉えるクロスアテンション型蒸留法であるX-AVDDを提案する。クロスモーダルアライメントをジョイント最適化から切り離すことで、X-AVDDはメモリ効率が大幅に向上し、エンドツーエンドの合成コストを$\sim 8\times$ GPU-hoursに削減し、高度に整合した合成データを生成する。実験的に、X-AVDDは他のオーディオ-視覚蒸留法よりも著しく優れている。短いYouTubeクリップのオーディオヴィジュアルデータセットであるVGGSoundでは、X-AVDDがトップ1テストの精度を8.2\%\rightarrow24.0\%$ at SPC=$10$と9.8\%\rightarrow26.5\%$ at SPC=$20$から改善している。さらに、X-AVDDはクロスアーキテクチャの一般化(例:25.5\%\rightarrow35.3\%)を改善し、Aveデータセット上のViTターゲットをSPC$=50$で達成し、AudioCLIPのような複雑なアーキテクチャにスケールすることに成功した。

関連論文リスト

Information-Guided Diffusion Sampling for Dataset Distillation [44.216998537570866]
拡散モデル(DM)はこのタスクを約束しているが、低画像/クラス(IPC)設定で苦労している。蒸留データセットが保持しなければならない2つの重要な種類の情報を特定する。 Tiny ImageNetおよびImageNetサブセットの実験では、情報誘導拡散サンプリング(IGDS)が既存の手法よりも大幅に優れていた。
論文参考訳（メタデータ） (2025-07-07T02:27:08Z)
Complexity-aware fine-tuning [1.6192437783949905]
汎用大規模言語モデル(LLM)は、特定のドメインの性能を高めるために、教師付き微調整(SFT)によってしばしば微調整される。本稿では,エントロピーによって同定される複雑なデータに対してのみ推論を用いる,効率的な微調整のための新しい青写真を提案する。
論文参考訳（メタデータ） (2025-06-26T13:13:24Z)
Domain2Vec: Vectorizing Datasets to Find the Optimal Data Mixture without Training [53.07879717463279]
textscDomain2Vecは任意のデータセットを複数のEmphmetaドメインの線形結合に分解する textscDomain2Vecは、最小の計算オーバーヘッドでダウンストリームタスクのパフォーマンスを向上させるデータミックスを見つけるのに役立つ。
論文参考訳（メタデータ） (2025-06-12T17:53:51Z)
Simple yet Effective Semi-supervised Knowledge Distillation from Vision-Language Models via Dual-Head Optimization [47.38380084735716]
大規模な画像テキストペアで事前訓練された視覚教師付きモデル(VLM)は、顕著なゼロ/フェーショット性能を示した。知識蒸留(KD)は、VLM能力を伝達するための自然な枠組みを提供するが、監督と蒸留の損失の間の勾配の衝突に悩まされる。本稿では,異なる信号に対して2つの予測ヘッドを導入するDual-Head Optimization (DHO)を提案する。
論文参考訳（メタデータ） (2025-05-12T15:39:51Z)
Synthio: Augmenting Small-Scale Audio Classification Datasets with Synthetic Data [69.7174072745851]
音声分類データセットを合成データで拡張する新しい手法であるSynthioを提案する。最初の課題を克服するために、好みの最適化を用いて、T2Aモデルの世代と小規模データセットを整列する。 2つ目の課題に対処するために,大規模言語モデルの推論能力を活用する新しいキャプション生成手法を提案する。
論文参考訳（メタデータ） (2024-10-02T22:05:36Z)
Exploiting Pre-trained Models for Drug Target Affinity Prediction with Nearest Neighbors [58.661454334877256]
薬物-標的結合親和性(DTA)予測は、薬物発見に不可欠である。 DTA予測へのディープラーニング手法の適用にもかかわらず、達成された精度は依然として準最適である。事前学習したDTA予測モデルに適用した非表現埋め込みに基づく検索手法である$k$NN-DTAを提案する。
論文参考訳（メタデータ） (2024-07-21T15:49:05Z)
Dataset Distillation via Curriculum Data Synthesis in Large Data Era [26.883100340763317]
本稿では,データ合成におけるカリキュラムデータ拡張によって実現された,シンプルで効果的なグローバル・ローカル・グラデーション・リファインメント・アプローチを提案する。提案したモデルは、ImageNet-1K/21Kにおいて、SRe$2$L, TESLA, MTTといった現在の最先端の手法を4%以上のTop-1精度で上回り、初めて、フルデータのトレーニング対象に対するギャップを、絶対15%以下に削減する。
論文参考訳（メタデータ） (2023-11-30T18:59:56Z)
Squeeze, Recover and Relabel: Dataset Condensation at ImageNet Scale From A New Perspective [27.650434284271363]
50 IPC未満では、Tiny-ImageNetとImageNet-1Kデータセットの検証精度が最も高い42.5%と60.8%である。我々のアプローチは、データ合成中に11.6$times$と6.4$times$のメモリ消費を少なくして、約52$times$ (ConvNet-4) と 16$times$ (ResNet-18) の速度で MTT を超える。
論文参考訳（メタデータ） (2023-06-22T17:59:58Z)
DA$^2$ Dataset: Toward Dexterity-Aware Dual-Arm Grasping [58.48762955493929]
DA$2$は、任意の大物体に対して最適な2次元グリップペアを生成するための、最初の大規模デュアルアームデキスタリティ対応データセットである。データセットには、6000以上のオブジェクトから生成される約9万組のパラレルジャウグリップが含まれている。
論文参考訳（メタデータ） (2022-07-31T10:02:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。