論文の概要: Similarity Choice and Negative Scaling in Supervised Contrastive Learning for Deepfake Audio Detection
- arxiv url: http://arxiv.org/abs/2604.26057v1
- Date: Tue, 28 Apr 2026 18:52:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-30 15:59:36.147366
- Title: Similarity Choice and Negative Scaling in Supervised Contrastive Learning for Deepfake Audio Detection
- Title(参考訳): ディープフェイク音声検出のための教師付きコントラスト学習における類似性選択と負のスケーリング
- Authors: Jaskirat Sudan, Hashim Ali, Surya Subramani, Hafiz Malik,
- Abstract要約: 教師付きコントラスト学習(SupCon)は表現を形作るために広く用いられているが、音声深度検出のための限定的な研究が見られた。
We run a controlled study on wav2vec2 XLS-R (300M) which are (i) similarity in SupCon and (ii) negative scaling using a warm-started global cross-batch queue。
遅延キューを持つCosine SupConは、最高のITW EER(8.29%)とプールEER(4.44)を達成する一方、角の類似性はキュー陰性(ITW 8.70)なしで強く働き、大きな負の集合への依存度を低下させる。
- 参考スコア(独自算出の注目度): 2.432576583937997
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Supervised contrastive learning (SupCon) is widely used to shape representations, but has seen limited targeted study for audio deepfake detection. Existing work typically combines contrastive terms with broader pipelines; however, the focus on SupCon itself is missing. In this work, we run a controlled study on wav2vec2 XLS-R (300M) that varies (i) similarity in SupCon (cosine vs angular similarity derived from the hyperspherical angle) and (ii) negative scaling using a warm-started global cross-batch queue. Stage 1 fine-tunes the encoder and projection head with SupCon; Stage 2 freezes them and trains a linear classifier with BCE. Trained on ASVspoof 2019 LA and evaluated on ASV19 eval plus ITW and ASVspoof 2021 DF/LA, Cosine SupCon with a delayed queue achieves the best ITW EER (8.29%) and pooled EER (4.44), while angular similarity performs strongly without queued negatives (ITW 8.70), indicating reduced reliance on large negative sets.
- Abstract(参考訳): 教師付きコントラスト学習(SupCon)は表現の形成に広く用いられているが,音声ディープフェイク検出のための限定的な研究が見られた。
既存の作業は通常、対照的な用語と広範なパイプラインを組み合わせたものだが、SupCon自体へのフォーカスは欠落している。
本研究では,wav2vec2 XLS-R(300M)の制御された研究を行う。
(i)SupConにおける類似性(超球角から派生したコサイン対角類似性)および
(II) 暖かくスタートしたグローバルなクロスバッチキューによる負のスケーリング。
ステージ1はエンコーダとプロジェクションヘッドをSupConで微調整し、ステージ2はそれらを凍結し、BCEで線形分類器を訓練する。
ASVspoof 2019 LAで訓練され、ASV19 evalとITWとASVspoof 2021 DF/LAで評価され、遅延キューを持つCosine SupConはITW EER (8.29%) とプールEER (4.44) を最高のITW EER (4.44) を達成する。
関連論文リスト
- ParallelComp: Parallel Long-Context Compressor for Length Extrapolation [51.68913021512016]
超長い文脈(テキスト長 >128K)の補間は、大きな言語モデル(LLM)にとって大きな課題である。
本研究では,メモリボトルネックを効果的に克服する並列長コンテキスト圧縮手法であるParallelCompを提案する。
チャンクスループットが1.76倍向上し、プリフィル段階では23.50倍の高速化を実現し、性能損失を無視できる。
論文 参考訳(メタデータ) (2025-02-20T07:10:43Z) - Do Audio-Visual Segmentation Models Truly Segment Sounding Objects? [38.98706069359109]
AVSBench-Robustは、サイレント、環境騒音、オフスクリーン音を含む様々なネガティブなオーディオシナリオを取り入れたベンチマークである。
提案手法は, ほぼ完全な偽陽性率を維持しながら, 標準測定値とロバストネス測定値の両方において顕著な改善を実現している。
論文 参考訳(メタデータ) (2025-02-01T07:40:29Z) - CCC-wav2vec 2.0: Clustering aided Cross Contrastive Self-supervised
learning of speech representations [1.2031796234206138]
本稿では,クラスタリングと拡張に基づくクロスコントラスト損失を自己管理対象とする,ccc-wav2vec 2.0という新たな事前学習戦略を提案する。
ccc-wav2vec 2.0は、言語モデルを用いることなく、それぞれLibriSpeechのテストクリーンおよびテスト他のセットのベースラインwav2vec 2.0に対する15.6%と12.7%の相対的なWER改善を実現している。
論文 参考訳(メタデータ) (2022-10-05T22:44:35Z) - Energy-Based Contrastive Learning of Visual Representations [54.06799491319278]
コントラスト学習とエネルギーベースモデル(EBM)を組み合わせたエネルギーベースコントラスト学習(EBCLR)を提案する。
EBCLRは254対の負対(バッチサイズ128)と30対の負対(バッチサイズ16)でほぼ同じ性能を達成し、少数の負対に対してEBCLRの堅牢性を示す。
論文 参考訳(メタデータ) (2022-02-10T09:46:10Z) - Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。
ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。
SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
論文 参考訳(メタデータ) (2021-05-16T09:13:56Z) - Contrastive Attraction and Contrastive Repulsion for Representation
Learning [131.72147978462348]
コントラスト学習(CL)法は,複数の負のサンプルに対して,エンコーダが各正のサンプルと対比する自己超越的な方法でデータ表現を学習する。
最近のCL法は、ImageNetのような大規模データセットで事前訓練された場合、有望な結果を得た。
自己グループ内の正と負のサンプルを別々に比較し、正と負の群を対比して進行する2つのCL戦略を提案する。
論文 参考訳(メタデータ) (2021-05-08T17:25:08Z) - EqCo: Equivalent Rules for Self-supervised Contrastive Learning [81.45848885547754]
本稿では,InfoNCEをベースとしたコントラスト学習フレームワークにおいて,負のサンプル数と無関係に自己教師型学習を実現する手法を提案する。
InfoMaxの原理に着想を得て、負のペアの数に応じて、対照的な損失のマージン項を適応的にスケールする必要があることを指摘する。
論文 参考訳(メタデータ) (2020-10-05T11:39:04Z) - Unsupervised Feature Learning by Cross-Level Instance-Group
Discrimination [68.83098015578874]
我々は、インスタンスグループ化ではなく、クロスレベルな識別によって、インスタンス間の類似性を対照的な学習に統合する。
CLDは、教師なし学習を、自然データや現実世界のアプリケーションに効果的に近づける。
セルフスーパービジョン、セミスーパービジョン、トランスファーラーニングベンチマークに関する新たな最先端技術は、報告されたすべてのパフォーマンスでMoCo v2とSimCLRを上回っている。
論文 参考訳(メタデータ) (2020-08-09T21:13:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。