論文の概要: Discriminative Axis, Not Data Volume: What a Contrastive Corpus Teaches an Audio Embedding
- arxiv url: http://arxiv.org/abs/2608.01560v1
- Date: Mon, 03 Aug 2026 00:34:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.285826
- Title: Discriminative Axis, Not Data Volume: What a Contrastive Corpus Teaches an Audio Embedding
- Title(参考訳): データ量ではなく差別的な軸 - コントラストコーパスによるオーディオ埋め込み
- Abstract要約: 凍結型マルチモーダル埋め込みモデルに語彙音声ラウンドを追加すると、ゼロショットキーワードスポッティングが76ポイント上昇し、音声感情認識が14。
プロソディコントロールされたコーパスから7,442本のクリップを微調整すると、プレ音声レベルの感情を5ポイントのキーワードで回復する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scaling the corpus is the default remedy when a contrastive representation lacks an attribute. We report a case where it does nothing, and identify what does: adding a lexical-speech round to a frozen-base multimodal embedding model raises zero-shot keyword spotting by 76 points while reducing speech-emotion recognition by 14. The loss is not a capacity limit: fine-tuning on 7,442 clips from a prosody-controlled corpus recovers emotion past its pre-speech level at a five-point keyword cost. Nor is it data volume: 29,428 mined clips whose captions explicitly name emotions, at matched exposure, move emotion by -0.0007. The difference is structural: a contrastive objective encodes an attribute only when the in-batch negatives cannot be separated without it; the controlled corpus holds sentence content fixed, so prosody is the only separating signal, whereas mined captions name emotion yet remain separable by scene content. Intervention on the same audio confirms causality: raising caption similarity does not recover emotion, but collapsing caption diversity so that emotion becomes the only separating axis recovers it by 8.9 points across three seeds, with a smaller, same-signed gain on a non-acted corpus, while keyword accuracy trades back. Corpus structure, not size or caption vocabulary, controls what a contrastive audio embedding encodes.
- Abstract(参考訳): コントラスト表現が属性を欠いている場合、コーパスのスケーリングはデフォルトの対策である。
フリーズベースマルチモーダル埋め込みモデルに語彙音声ラウンドを追加すると、ゼロショットのキーワードスポッティングが76ポイント上昇し、音声感情認識が14ポイント減少する。
プロソディコントロールされたコーパスから7,442本のクリップを微調整することで、プレ音声レベルの感情を5ポイントのキーワードコストで回復する。
29,428個のビデオクリップは、そのキャプションが感情を明示的に命名し、一致した露出で感情を0.0007に移動させる。
比較対象が属性を符号化するのは、バッチ内陰性が分離できない場合にのみであり、制御されたコーパスは文内容が固定されているため、プロソディが唯一の分離信号であるのに対して、マイニングされたキャプション名の感情はシーン内容によって分離可能のままである。
キャプションの類似性を高めることは感情を回復しないが、感情が唯一の分離軸となるようにキャプションの多様性を崩壊させることで、3つの種にまたがる8.9ポイントが回復し、非作用コーパスではより小さく、同じ符号のゲインが得られ、キーワード精度は引き戻される。
コーパス構造は、サイズやキャプションの語彙ではなく、コントラストのあるオーディオ埋め込みエンコードを制御します。
関連論文リスト
- Decoding silent reading from non-invasive EEG [0.0]
ドライエレクトロド脳波の393ランにわたる濃密にサンプリングされた1人の参加者から記録された24万ワードのオープンボキャブラリ解析を行った。
復号化は偶然よりも確実に行われ、中頻度で稀な単語に拡張され、飽和の兆候のないトレーニングデータボリュームで対数的にスケールされた。
これらの結果から,オープン語彙の単語レベル情報はサイレントリーディング中に脳波から復元可能であり,復号化は飽和ではなくデータ制限であることがわかった。
論文 参考訳(メタデータ) (2026-08-20T15:41:05Z) - The Learning Objective Governs Perceptual Narrowing: A Cross-Lingual, Layer-Wise, Ten-Seed Study of Self-Supervised Speech Encoders [0.0]
子ども向け・読み上げ音声でトランスフォーマーエンコーダを訓練し、英語、フランス語、マンダリンの音素ABXを10種で評価する。
アーキテクチャではなく,目的が狭い形状の表現的変化の1次決定因子である,と結論付けている。
論文 参考訳(メタデータ) (2026-08-01T08:02:35Z) - Content is What Remains: Invariant Speech Tokenization from Parallel Utterances [8.166364251367627]
PINTはSSLエンコーダを微調整し、並列発話におけるアライメント損失と、この共有残基を蒸留するために拡張する。
ASRテキストとは異なり、PINTトークンはフレームレベルの時間的グラウンドを保持し、オーディオコーデックのドロップインセマンティックターゲットとして機能する。
論文 参考訳(メタデータ) (2026-07-21T12:19:38Z) - Multi-Axis Speech Similarity via Factor-Partitioned Embeddings [4.241208172557664]
本稿では,各発話を1つのベクトルにマッピングする因子分割埋め込みフレームワークを提案する。
共有音響エンコーダは、それぞれ専門教師の蒸留により訓練された軸方向の線形投影ヘッドを供給している。
我々は、ハーバードの文プロンプトを共有するコーパス上でのクロスコーパス検索を評価する。
論文 参考訳(メタデータ) (2026-05-04T16:43:46Z) - The False Resonance: A Critical Examination of Emotion Embedding Similarity for Speech Generation Evaluation [66.28943752785906]
感情的表現力の客観的指標は、特に表現的合成と音声変換において、音声生成に不可欠である。
言語や話者の変動にもかかわらず感情的な手がかりを捉えていると仮定して、感情2vecのようなエンコーダからの埋め込みのコサイン類似性を計算する。
分類精度が高いにもかかわらず、これらの潜伏空間はゼロショット類似性評価には適さない。
論文 参考訳(メタデータ) (2026-04-29T06:59:48Z) - EXPRESSO: A Benchmark and Analysis of Discrete Expressive Speech
Resynthesis [49.04496602282718]
テキストなし音声合成のための高品質な表現型音声データセットであるExpressoを紹介する。
このデータセットは、26の自発的表現スタイルで描画された読み上げ音声と即興対話の両方を含む。
自己監督型離散エンコーダの自動計測値を用いて再生品質を評価する。
論文 参考訳(メタデータ) (2023-08-10T17:41:19Z) - Collaborative Group: Composed Image Retrieval via Consensus Learning from Noisy Annotations [67.92679668612858]
我々は,集団が個人より優れているという心理的概念に触発されたコンセンサスネットワーク(Css-Net)を提案する。
Css-Netは,(1)コンセンサスモジュールと4つのコンセンサスモジュール,(2)コンセンサス間の相互作用の学習を促進するKulback-Leibler分散損失の2つのコアコンポーネントから構成される。
ベンチマークデータセット、特にFashionIQでは、Css-Netが大幅に改善されている。特に、R@10が2.77%、R@50が6.67%増加し、リコールが大幅に向上している。
論文 参考訳(メタデータ) (2023-06-03T11:50:44Z) - Evaluating context-invariance in unsupervised speech representations [15.67794428589585]
現在のベンチマークでは文脈不変性は測定されていない。
我々は文脈不変性を測定するZeroSpeech ABXベンチマークの新バージョンを開発する。
表現の文脈依存性は単語レベルの表現の安定性の予測であることを示す。
論文 参考訳(メタデータ) (2022-10-27T21:15:49Z) - ConceptBeam: Concept Driven Target Speech Extraction [69.85003619274295]
本研究では,ConceptBeamと呼ばれる意味情報に基づくターゲット音声抽出のための新しいフレームワークを提案する。
提案手法では,概念記述子を共有埋め込み空間にマッピングすることにより,概念を意味埋め込みとして符号化する。
我々は、モダリティに依存した情報、すなわち混合中の音声セグメント、および特定のモダリティに依存しない概念をブリッジするためにそれを使用する。
論文 参考訳(メタデータ) (2022-07-25T08:06:07Z) - Textless Speech Emotion Conversion using Decomposed and Discrete
Representations [49.55101900501656]
我々は、音声を、コンテンツ単位、F0、話者、感情からなる離散的、非絡み合いの学習表現に分解する。
まず、内容単位を対象の感情に翻訳し、その単位に基づいて韻律的特徴を予測することによって、音声内容を変更する。
最後に、予測された表現をニューラルボコーダに入力して音声波形を生成する。
論文 参考訳(メタデータ) (2021-11-14T18:16:42Z) - Unsupervised Speech Decomposition via Triple Information Bottleneck [63.55007056410914]
音声情報は、言語内容、音色、ピッチ、リズムの4つの構成要素に大別できる。
本稿では,3つの慎重に設計された情報ボトルネックを導入することで,音声をその4つの構成要素に盲目的に分解できるSpeechSplitを提案する。
論文 参考訳(メタデータ) (2020-04-23T16:12:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。