論文の概要: Muting Tokens: Exploring Token Sparsification for Efficient Audio Transformers

• arxiv url: http://arxiv.org/abs/2610.31235v1
• Date: Thu, 22 Oct 2026 13:15:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.383209
• Title: Muting Tokens: Exploring Token Sparsification for Efficient Audio Transformers
• Title（参考訳）: Muting Tokens: 効率的なオーディオ変換器のためのToken Sparsificationの探索
• Abstract要約: 本研究は,音声変換器におけるトークンスペーシフィケーション手法の包括的評価を行う。 本稿では,トークン埋め込みの周波数内容から抽出したスペクトル的手がかりと注目スコアを組み合わせた新しいスペーシフィケーション手法を提案する。 実験により、特にスペクトル平坦性と低周波エネルギーに基づく周波数認識アプローチは、常に注意のみの手法より優れていることが示された。
• 参考スコア（独自算出の注目度）: 7.467365240897114
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transformer-based models have shown strong performance across diverse tasks, but their reliance on self-attention mechanisms often leads to high computational costs. Token sparsification, which reduces the number of tokens processed in transformer layers, offers a promising solution to maintain performance while improving efficiency. However, although widely studied in the vision and language domains, token sparsification remains underexplored in audio, with existing work often limited to a single method, model size, or dataset. This work presents a comprehensive evaluation of token sparsification techniques for audio transformers. We assess a range of token pruning and merging strategies across multiple datasets and model sizes, under both post-training and fine-tuning settings. Furthermore, we introduce a novel sparsification approach that combines attention scores with spectral cues derived from the frequency content of token embeddings. Our experiments show that frequency-aware approaches, particularly those based on spectral flatness and low-frequency energy, consistently outperform attention-only methods. We also find that sparsification based on spectrogram patch intensity is especially effective for longer audio inputs. These results highlight the value of incorporating frequency-domain and input-specific information into sparsification strategies to enhance performance in audio tasks.
• Abstract（参考訳）: トランスフォーマーベースのモデルは様々なタスクに対して強い性能を示すが、自己認識機構への依存は高い計算コストをもたらすことが多い。 トランス層で処理されるトークンの数を削減したトークンスペーシフィケーションは、効率を向上しながらパフォーマンスを維持するための有望なソリューションを提供する。 しかしながら、ビジョンと言語領域で広く研究されているが、トークンのスペーサー化は音声では未熟であり、既存の作業は単一のメソッド、モデルサイズ、データセットに限られることが多い。 本研究は,音声変換器におけるトークンスペーシフィケーション手法の包括的評価を行う。 トレーニング後の設定と微調整後の設定の両方で、複数のデータセットとモデルサイズにまたがるさまざまなトークンプルーニングとマージ戦略を評価します。 さらに,トークン埋め込みの周波数内容から抽出したスペクトル手がかりと注目スコアを組み合わせ,新しいスペーシフィケーション手法を提案する。 実験の結果、特にスペクトル平坦性と低周波エネルギーに基づく周波数認識アプローチは、常に注意のみの手法よりも優れていた。 また, スペクトルパッチ強度に基づくスペーサー化は, より長い音声入力に特に有効であることがわかった。 これらの結果は、周波数領域と入力固有の情報をスペーシフィケーション戦略に組み込むことで、音声タスクの性能を高めることの価値を強調している。

関連論文リスト

• MoLT: Mixture of Layer-Wise Tokens for Efficient Audio-Visual Learning [38.95630141905818]
  Mixture of Layer-Wise Tokens (MoLT) は、オーディオ視覚学習のためのパラメータおよびメモリ効率の適応フレームワークである。 我々は,2種類のアダプタを用いて,モダリティ固有情報と相互モーダル相互作用を層単位でコンパクトな潜在トークンに蒸留する。 トークン融合モジュールは、それらの相対的な重要性を考慮して、これらのレイヤワイズトークンを動的に融合する。
  論文  参考訳（メタデータ） (2025-11-27T14:32:55Z)
• Frequency-Aware Token Reduction for Efficient Vision Transformer [21.328541977404978]
  視覚変換器の周波数対応トークン削減戦略を提案する。 本手法では,トークンを高周波トークンと低周波トークンに分割する。 本手法は計算オーバーヘッドを低減しつつ精度を大幅に向上させる。
  論文  参考訳（メタデータ） (2025-11-26T15:10:04Z)
• SPOT: Sparsification with Attention Dynamics via Token Relevance in Vision Transformers [9.24617274894642]
  視覚変換器(ViT)内の冗長トークンを早期に検出するためのフレームワークとして,Token Relevance (SPOT) を用いた attentiOn dynamics を用いたSParsification を提案する。 SPOTはトークンスペーシフィケーションを通知し、そのようなトークンを除去し、性能を犠牲にすることなく計算効率を向上させる。 実験による評価では、通常のViTに比べて40%の効率向上が見られた。
  論文  参考訳（メタデータ） (2025-11-13T16:56:24Z)
• Token Pruning in Audio Transformers: Optimizing Performance and Decoding Patch Importance [0.48342038441006796]
  We apply token pruning to ViT-based audio classification model using Mel-spectrograms。 パッチ内の信号の強度や変動にのみ基づくプルーニングは、顕著な精度低下につながることを示す。
  論文  参考訳（メタデータ） (2025-04-02T12:44:38Z)
• Frequency-Aware Deepfake Detection: Improving Generalizability through Frequency Space Learning [81.98675881423131]
  この研究は、目に見えないディープフェイク画像を効果的に識別できるユニバーサルディープフェイク検出器を開発するという課題に対処する。 既存の周波数ベースのパラダイムは、偽造検出のためにGANパイプラインのアップサンプリング中に導入された周波数レベルのアーティファクトに依存している。 本稿では、周波数領域学習を中心にしたFreqNetと呼ばれる新しい周波数認識手法を導入し、ディープフェイク検出器の一般化性を高めることを目的とする。
  論文  参考訳（メタデータ） (2024-03-12T01:28:00Z)
• Adaptive Frequency Filters As Efficient Global Token Mixers [100.27957692579892]
  適応周波数フィルタは効率的なグローバルトークンミキサーとして機能することを示す。 我々は、AFFNetと呼ばれる軽量ニューラルネットワークを構築するために、AFFトークンミキサーを主要なニューラルネットワークとして捉えています。
  論文  参考訳（メタデータ） (2023-07-26T07:42:28Z)
• Histogram Layer Time Delay Neural Networks for Passive Sonar Classification [58.720142291102135]
  時間遅延ニューラルネットワークとヒストグラム層を組み合わせた新しい手法により,特徴学習の改善と水中音響目標分類を実現する。 提案手法はベースラインモデルより優れており,受動的ソナー目標認識のための統計的文脈を取り入れた有効性を示す。
  論文  参考訳（メタデータ） (2023-07-25T19:47:26Z)
• Improved Speech Emotion Recognition using Transfer Learning and Spectrogram Augmentation [56.264157127549446]
  音声感情認識(SER)は、人間とコンピュータの相互作用において重要な役割を果たす課題である。 SERの主な課題の1つは、データの不足である。 本稿では,スペクトログラム拡張と併用した移動学習戦略を提案する。
  論文  参考訳（メタデータ） (2021-08-05T10:39:39Z)
• Collaborative Distillation in the Parameter and Spectrum Domains for Video Action Recognition [79.60708268515293]
  本稿では,行動認識のための小型かつ効率的なネットワークの訓練方法について検討する。 周波数領域における2つの蒸留戦略,すなわち特徴スペクトルとパラメータ分布蒸留を提案する。 提案手法は,同じバックボーンを持つ最先端の手法よりも高い性能を実現することができる。
  論文  参考訳（メタデータ） (2020-09-15T07:29:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。