論文の概要: Disentangling Linguistic and Paralinguistic Information with Routed Sparse Autoencoders
- arxiv url: http://arxiv.org/abs/2610.10865v1
- Date: Wed, 07 Oct 2026 20:10:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.663694
- Title: Disentangling Linguistic and Paralinguistic Information with Routed Sparse Autoencoders
- Title（参考訳）: 経路スパースオートエンコーダを用いた言語情報とパラ言語情報の両立
- Abstract要約: 自己教師型音声エンコーダは、共有表現空間に言語情報とパラ言語情報を含む。
我々は、TopKスパースオートエンコーダをルート固有の監視とクロスファクターの敵と組み合わせる。
独立したプローブは、因子特異的な保持と抑制を示す。
- 参考スコア（独自算出の注目度）: 27.49257996009519
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-supervised speech encoders contain linguistic and paralinguistic information in a shared, entangled representation space. We combine a TopK sparse autoencoder with route-specific supervision and cross-factor adversaries. Across frozen SPEAR and WavLM encoders, independent probes show factor-specific retention and suppression: linguistic information remains stronger in the linguistic route, while paralinguistic factors, including speaker identity, emotion, and prosody, are retained in the paralinguistic route and substantially reduced in the linguistic route. The route organisation learned on LibriSpeech persists on MSP-Podcast without representation-side retraining. Feature-space route interventions further transfer the swapped factor while largely preserving the information carried by the unchanged route. These results show consistent route-selective separation across encoders, corpora, independent probes, and representation-level interventions.
- Abstract（参考訳）: 自己教師型音声エンコーダは、共通かつ絡み合った表現空間に言語情報とパラ言語情報を含む。
我々は、TopKスパースオートエンコーダをルート固有の監視とクロスファクターの敵と組み合わせる。
言語情報は言語経路において強く保たれており、話者のアイデンティティ、感情、韻律を含むパラ言語的要因は言語経路において保持され、言語経路において著しく減少する。
LibriSpeechで学んだルート組織は、表現側の再トレーニングなしでMSP-Podcastを継続する。
特徴空間の経路介入はスワップされた要素を転送するが、変更された経路によってもたらされる情報はほとんど保存される。
これらの結果は、エンコーダ、コーパス、独立プローブ、表現レベルの介入間で一貫した経路選択分離を示す。
関連論文リスト
- A Declarative-Procedural Perspective on Expert Routing in Bilingual Mixture-of-Experts Language Models [0.0]
バイリンガル言語習得において,Mixture-of-Experts (MoE)言語モデルが言語的に構造化されたエキスパートルーティングを発達させるかどうかを検討する。
逐次的言語露出下で訓練されたデコーダのみの英語-ドイツ語 MoE Transformer における語彙,文法,構文処理の解析を行った。
論文 参考訳（メタデータ） (2026-08-15T07:53:12Z) - Adapting Self-Supervised Speech Representations for Cross-lingual Dysarthria Detection in Parkinson's Disease [72.0406069194794]
音声表現は、しばしば言語に依存した構造を符号化する。
本稿では,ソース言語による自己教師型音声表現とターゲット言語分布とを一致させる表現レベル言語シフトを提案する。
チェコ語,ドイツ語,スペイン語におけるパーキンソン病音声データセットの経口DDK記録に対するアプローチについて検討した。
論文 参考訳（メタデータ） (2026-03-23T17:23:39Z) - Temporal Sparse Autoencoders: Leveraging the Sequential Nature of Language for Interpretability [31.30541946703775]
モデルの内部表現と計算を人間が理解できる概念に変換することが、解釈可能性の重要な目標である。
スパースオートエンコーダのような最近の辞書学習手法は、人間の解釈可能な特徴を発見するための有望な経路を提供する。
しかし、彼らは「文の始めの「The」というフレーズ」のような浅い、トークン特有の、または騒々しい特徴に偏りを呈している。
論文 参考訳（メタデータ） (2025-10-30T17:59:30Z) - Dual Information Speech Language Models for Emotional Conversations [48.094826104102204]
音声を入力として使用する言語モデル(SLM)が,将来性のあるソリューションとして浮上している。
我々は、絡み合った情報と不適切なトレーニング戦略を重要な課題として挙げる。
提案手法はパラ言語情報や言語情報を解き、SLMが構造化表現を通して音声を解釈することを可能にする。
論文 参考訳（メタデータ） (2025-08-11T15:33:44Z) - Self-Supervised Syllable Discovery Based on Speaker-Disentangled HuBERT [10.18337180909434]
非転写音声から意味のある特徴を抽出するためには,自己教師付き音声表現学習が不可欠である。
本稿では,音節単位を話者情報から分離する,音声のみの自己教師型微調整手法を提案する。
論文 参考訳（メタデータ） (2024-09-16T09:07:08Z) - Introducing Semantics into Speech Encoders [91.37001512418111]
本研究では,大言語モデルからの意味情報をラベル付き音声書き起こしのない自己教師付き音声エンコーダに組み込む教師なしの手法を提案する。
提案手法は,100時間以上のラベル付き音声書き起こしにおける教師あり手法と類似した性能を実現する。
論文 参考訳（メタデータ） (2022-11-15T18:44:28Z) - A unified one-shot prosody and speaker conversion system with
self-supervised discrete speech units [94.64927912924087]
既存のシステムは韻律と言語内容の相関を無視し、変換された音声の自然度を低下させる。
自己教師付き離散音声単位を言語表現として活用するカスケードモジュラーシステムを提案する。
実験により,本システムは,自然性,知性,話者伝達性,韻律伝達性において,従来の手法よりも優れていたことがわかった。
論文 参考訳（メタデータ） (2022-11-12T00:54:09Z) - VQMIVC: Vector Quantization and Mutual Information-Based Unsupervised
Speech Representation Disentanglement for One-shot Voice Conversion [54.29557210925752]
ワンショット音声変換は、音声表現のアンタングルメントによって効果的に実現できる。
コンテンツエンコーディングにはベクトル量子化(VQ)を使用し、トレーニング中に相互情報(MI)を相関指標として導入する。
実験結果は,提案手法が効果的に非絡み合った音声表現を学習する際の優位性を反映している。
論文 参考訳（メタデータ） (2021-06-18T13:50:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。